가트너, AI 전사 확장 성공 기업은 22%에 불과

기업 AI의 진짜 문제는 ‘AI를 도입할 수 있느냐’가 아니라, 비용, 데이터, 보안, 거버넌스를 통제하면서 전사 업무로 확장해 실제 ROI를 만들 수 있느냐이다.
따라서, AI 인프라는 단순한 GPU/NPU 컴퓨팅 자원을 넘어 저비용 추론, 데이터·보안, 모델 최적화, 운영관리까지 포함하는 ‘AI 실행 인프라’로 진화할 필요가 있다.
특히, NPU는 전력·추론비용을 낮추는 방향에서 기업 AI의 경제성을 개선할 수 있어, ‘국산 NPU → 실증 → 최적화 → 기업 적용 → ROI 검증’의 선순환을 만드는 인프라가 중요해진다.

 

주요내용

• AI 전사 확장 성공 기업은 22%에 불과
  o Gartner가 2026년 1~4월 1,303명을 조사
  o 매출 5천만 달러 이상 조직 대상
  o 여기서 22%는 여러 사업부에 AI를 성공적으로 확장했거나 AI-first 접근을 채택한 조직을 의미합니다.
• 반면 AI 투자는 계속 증가
  o 응답자의 85%가 2026년 AI 지출 확대 계획
  o 2025년에는 기능별 예산의 평균 12%를 AI에 투자 
  
• AI 투자와 성과 측정 사이에 큰 격차 : 약 11%는 2025년 해당 부문의 AI 지출 규모조차 파악하지 못함
• 성과가 높은 기업의 특징
  o AI별 ROI 지속 측정
  o AI 프로젝트를 개별 사업이 아닌 가치 창출 포트폴리오로 관리
  o 성과가 낮은 프로젝트는 재배분·중단
  o 이 그룹은 AI 이니셔티브의 81%에서 긍정적 수익을 보고
  
• AI 활용 목적은 생산성 향상이 가장 많음
  o 75%의 기능 리더가 생산성을 주요 목표로 설정
  o AI 예산의 평균 약 30%가 생산성 향상에 투입
  
• 많이 사용하는 AI = 높은 수익을 내는 AI가 아님
  o IT 분야에서 보안 위협 탐지·IT 헬프데스크 자동화 등이 많이 추진됐지만
  o 실제 긍정적 수익 비중이 높은 영역에는 IT 자산·비용 최적화, 합성데이터 등이 포함됨
  
• Gartner는 AI 확장의 핵심 장애요인으로 비용·사이버보안·신뢰성/거버넌스를 지목
  o 특히 파일럿 단계에서는 문제가 드러나지 않다가 실제 운영 규모가 커지면서 비용·보안·신뢰 문제가 커질 수 있다고 설명합니다.
• AI 에이전트 확산으로 AI 운영비와 거버넌스 문제는 더욱 커질 가능성
  o 2028년 Fortune 500 기업당 AI 에이전트가 15만 개 이상 사용될 수 있지만, 현재 적절한 거버넌스를 갖췄다고 보는 조직은 13%에 불과하다고 Gartner는 전망합니다. 
  

1. Gartner — 22%만 여러 사업부로 AI 확장 성공
   [Gartner 공식 발표](https://www.gartner.com/en/newsroom/press-releases/gartner-survey-finds-only-22-percent-of-organizations-have-successfully-scaled-ai-across-multiple-business-units)
2. 글로벌이코노믹 — 기업 AI 확장 성공률 22%
   [글로벌이코노믹 원문](https://www.g-enews.com/article/Global-Biz/2026/09/202609031005413649fbbec65dfb_1)
3. Economic Times — 22% 기업만 AI 확장
   [Economic Times](https://economictimes.indiatimes.com/ai/ai-insights/only-22-companies-have-scaled-ai-across-business-units-report/articleshow/133678365.cms)
4. HPCwire — Gartner 22% 조사
   [HPCwire BigDATAwire](https://www.hpcwire.com/bigdatawire/this-just-in/gartner-finds-just-22-of-organizations-have-scaled-ai-across-business-units/)
5. TechInformed — Gartner AI 확장 분석
   [TechInformed](https://techinformed.com/gartner-finds-only-22-have-successfully-scaled-ai/)
6. TechCentral — 기업 AI 확장 실패 분석
   [TechCentral.ie](https://www.techcentral.ie/international-report-shows-only-a-quarter-of-companies-are-scaling-ai-successfully/)
7. Digit — AI 확장 기업 22% 분석
   [Digit.fyi](https://www.digit.fyi/less-than-a-quarter-of-orgs-have-scaled-ai-across-their-business/)
8. Channel Impact — Gartner 22% 조사
   [Channel Impact](https://www.channel-impact.com/gartner-only-22-of-organizations-have-successfully-scaled-ai-across-multiple-business-units/)
9. Insurance-Canada — Gartner 조사
   [Insurance-Canada](https://insurance-canada.ca/2026/09/11/gartner-survey-successfully-scaled-ai/)
10. Gartner Japan — 동일 조사 일본어 원문
    [Gartner Japan](https://www.gartner.co.jp/ja/newsroom/press-releases/2026-09-03-gartner-survey-finds-only-22-percent-of-organizations-have-successfully-scaled-ai-across-multiple-business-units)
11. Gartner — AI 가치 격차와 비용·보안·신뢰성
    [Gartner AI Value Gap](https://www.gartner.com/en/articles/ai-value-gap)

12. Gartner — 2026 AI 플랫폼·모델 시장 63% 성장 전망
    [Gartner AI Platforms & Models](https://www.gartner.com/en/newsroom/press-releases/2026-07-20-gartner-forecasts-worldwide-ai-platforms-and-models-market-to-grow-63-percent-in-2026)
13. Gartner — 2026년 AI 전체 지출 전망
    [Gartner AI Spending Forecast](https://gcom.pdo.aws.gartner.com/en/newsroom/press-releases/2026-09-16-gartner-forecasts-worldwide-ai-spending-to-grow-49-point-5-percent-in-2026)
14. Gartner — AI 추론비용 2028년까지 5배 이상 증가 전망
    [Gartner AI Inference Cost Forecast](https://www.gartner.com/en/newsroom/press-releases/2026-08-17-gartner-predicts-ai-inference-costs-per-agentic-workflow-will-increase-more-than-fivefold-through-2028)
15. Gartner — AI 비용 폭증과 ROI 관리
    [Gartner AI Cost Explosion](https://www.gartner.com/en/documents/8009469)
16. Gartner — AI 비용관리·AI FinOps
    [Gartner AI Cost Management](https://www.gartner.com/en/documents/8248057)
17. Gartner — AI 투자 성공기업의 데이터·분석 기반 투자
    [Gartner Data & Analytics Foundations](https://www.gartner.com/en/newsroom/press-releases/2026-04-16-gartner-says-organizations-with-successful-ai-initiatives-invest-up-to-four-times-more-in-data-and-analytics-foundations)
18. Gartner — AI 의미체계·데이터 맥락의 중요성
    [Gartner AI Semantics](https://www.gartner.com/en/newsroom/press-releases/2026-05-11-gartner-says-lack-of-semantics-causes-inaccurate-artificial-intelligence-agents-and-wasted-spending)
19. Gartner — AI Agent Sprawl 대응
    [Gartner AI Agent Sprawl](https://www.gartner.com/en/newsroom/press-releases/2026-04-28-gartner-identifies-six-steps-to-manage-artificial-intelligence-agent-sprawl)
20. CIO — AI Agent Sprawl과 기업 거버넌스
    [CIO](https://www.cio.com/article/4209885/ai-agent-sprawl-pressures-cios-to-recalibrate-governance.html)
21. TechRadar — Agentic AI와 거버넌스
    [TechRadar](https://www.techradar.com/pro/agentic-ais-crossroads-guardrails-or-massive-fails)
22. Express Computer — AI 거버넌스와 신뢰
    [Express Computer](https://www.expresscomputer.in/guest-blogs/governing-ai-building-trust-in-the-agentic-enterprise/138740/)
23. Axios — AI 보안 투자 확대
    [Axios](https://www.axios.com/2026/09/15/ai-cybersecurity-stocks)
24. Express Computer — AI와 사이버보안 정책
    [Express Computer](https://www.expresscomputer.in/guest-blogs/cybersecurity-strategy-and-policy-creation-requires-more-than-an-ai-prompt/138874/)
25. Gartner — AI 개인정보·추론 위험 전망
    [Gartner AI Privacy Forecast](https://www.gartner.com/en/newsroom/press-releases/2026-07-30-gartner-predicts-most-privacy-incidents-will-stem-from-artificial-intelligence-generated-inferences-by-2029)
26. https://www.gartner.com/en/newsroom/press-releases/gartner-survey-finds-only-22-percent-of-organizations-have-successfully-scaled-ai-across-multiple-business-units "Gartner Survey Finds Only 22% of Organizations Have Successfully Scaled AI Across Multiple Business Units"
27. https://www.gartner.com/en/articles/ai-value-gap "For AI Value, Focus on Your Use Cases"
28. https://www.gartner.com/en/newsroom/press-releases/2026-08-17-gartner-predicts-ai-inference-costs-per-agentic-workflow-will-increase-more-than-fivefold-through-2028 "Gartner Predicts AI Inference Costs Per Agentic Workflow Will Increase More Than Fivefold Through 2028"
29 https://www.gartner.com/en/newsroom/press-releases/2026-04-28-gartner-identifies-six-steps-to-manage-artificial-intelligence-agent-sprawl "Gartner Identifies Six Steps to Manage AI Agent Sprawl"
30. https://www.gartner.com/en/newsroom/press-releases/2026-04-16-gartner-says-organizations-with-successful-ai-initiatives-invest-up-to-four-times-more-in-data-and-analytics-foundations "Gartner Says Organizations with Successful AI Initiatives Invest Up to Four Times More in Data and Analytics Foundations"
31. https://www.gartner.com/en/newsroom/press-releases/2026-05-11-gartner-says-lack-of-semantics-causes-inaccurate-artificial-intelligence-agents-and-wasted-spending "Gartner Says Lack of Semantics Causes Inaccurate AI Agents and Wasted Spending"
32 https://gcom.pdo.aws.gartner.com/en/newsroom/press-releases/2026-09-16-gartner-forecasts-worldwide-ai-spending-to-grow-49-point-5-percent-in-2026 "Gartner Forecasts Worldwide AI Spending to Grow 49.5% in 2026"