맥킨지 조사서 드러난 도입률과 수익화 격차
2026년 8월 맥킨지의 인공지능(AI) 현황 조사는 기업 경영진에게 불편한 숫자를 남겼다. 응답자의 거의 90%가 AI를 정기적으로 쓴다고 답했지만, 전사 단위로 확장한 기업은 44%에 그쳤고 이자·세금 차감 전 이익(EBIT)에 실질적 영향을 확인한 기업은 37%에 머물렀다. 도입은 빠른데 수익화는 느리다.
이 간극은 모델 성능 부족보다 기업 내부 운영 체계의 미성숙에서 발생한다. AI 시장의 다음 경쟁은 더 많은 챗봇을 붙이는 일이 아니라 데이터를 소유하고, 통제하고, 사람의 업무 방식까지 바꾸는 능력에서 갈린다. 기업 AI 도입은 2026년 현재 실험실 단계를 넘어섰지만, 생산 시스템으로 자리 잡은 사례는 아직 제한적이다.
맥킨지 조사에서 확인된 44%와 37%라는 수치는 단순한 성과 부진이 아니다. 이는 AI 예산이 소프트웨어 구매비에서 조직 재설계 비용으로 이동해야 한다는 신호다.
본지 분석 결과, 한국 기업에도 같은 문제가 적용된다. 제조, 금융, 유통, 통신 분야의 대기업은 이미 생성형 AI(Generative AI) 도구를 업무에 붙였지만, 부서별 시범사업이 손익계산서의 숫자로 연결되는지는 별개 문제다.
AI 투자가 매출이나 비용 절감으로 이어지려면 먼저 데이터가 기계가 읽고 판단할 수 있는 상태여야 한다. 가트너(Gartner)가 2025년 2월 발표한 조사에서 제시한 수치는 이 병목을 정면으로 보여준다.
조직의 63%는 AI에 맞는 데이터 관리 관행을 갖추지 못했거나 그 여부를 확신하지 못한다고 답했다. 가트너는 또 2026년까지 AI 준비 데이터가 없는 AI 프로젝트의 60%가 중단될 것으로 예측했다.
현재(2026년 10월) 시점에서 이 예측은 이미 검증 국면에 접어들었으며, 도입 이후 프로젝트를 축소하거나 중단한 기업들의 공통 원인으로 데이터 품질 문제가 반복해서 지목된다. 이 숫자는 AI 프로젝트 실패의 원인이 알고리즘 선택보다 데이터 표준, 권한, 품질 관리, 계보 추적 같은 기초 작업에 있음을 드러낸다.
광고
산업·비즈니스 관점에서 보면 데이터 준비성은 정보기술(IT) 부서만의 과제가 아니다. 고객 데이터의 소유권은 영업 조직에 있고, 제품 데이터는 연구개발 조직에 있으며, 비용 데이터는 재무 조직에 흩어져 있다. 이 상태에서 AI 모델을 붙이면 결과물은 빠르게 나오지만 책임 소재는 흐려진다.
잘못된 추천, 개인정보 노출, 편향된 의사결정이 발생했을 때 누가 멈추고 고칠지 정해지지 않은 기업은 AI를 확장할 수 없다. 그래서 거버넌스(Governance)는 규제 대응 문서가 아니라 AI 생산성을 좌우하는 운영 자산이다.
예산의 성격도 바뀐다. 본지 분석 결과, 2023년과 2024년 기업 AI 투자가 도구 도입과 개념검증(PoC)에 집중했다면, 2026년의 과제는 반복 가능한 투자수익률(ROI) 구조를 만드는 일이다.
Techverx, ISHIR, IBM 원천 자료는 AI 준비성 평가, 단계별 구현 로드맵, 데이터 거버넌스 프레임워크, 레거시 시스템 통합 계획, 맞춤형 AI 솔루션 설계, 확장 가능한 아키텍처를 성공 조건으로 제시했다. 이 항목들은 서로 따로 움직이지 않는다.
낡은 전사적자원관리(ERP)나 고객관계관리(CRM) 시스템과 AI 모델을 연결하지 못하면 현업 직원은 결과를 다시 엑셀 파일로 옮겨야 하고, 그 순간 자동화의 경제성은 낮아진다.
데이터·거버넌스가 AI 투자 성패 가른다
인력 문제는 더 직접적인 비용으로 돌아온다. 딜로이트(Deloitte)의 2026년 기업 조사에 따르면 인력 기술 격차는 AI 확산의 가장 큰 장벽으로 지목됐다.
응답 기업 중 53%는 광범위한 인력을 교육하고 있으며, 48%는 재교육과 역량 강화를 진행했다고 보고했다. 이 수치는 기업이 AI를 일부 전문가의 도구로 남겨둘 수 없다는 점을 말한다.
기획, 영업, 법무, 구매, 고객지원 담당자가 AI 결과를 검증하고 업무 절차에 반영할 수 있어야 비용 절감이나 매출 증대가 발생한다. 본지 분석 결과, 한국 기업이 특히 주의할 지점은 인력 교육을 단순한 사용법 강의로 축소하는 관행이다.
광고
프롬프트 작성법만 가르치는 방식은 단기 편의성을 높일 수 있지만, 데이터 품질을 판단하고 AI 산출물의 법적 위험을 가려내는 능력까지 보장하지 않는다. 금융사는 설명 가능한 인공지능(XAI)을 요구받을 수 있고, 제조사는 설비 데이터와 품질 데이터의 연결 오류가 생산 손실로 이어질 수 있다. 유통사는 개인화 추천에서 개인정보보호법과 내부 고객 동의 체계를 함께 검토해야 한다.
부서별 교육 예산을 늘리는 것보다 업무별 위험 지도와 책임 체계를 먼저 설계해야 하는 이유다. 본지 분석 결과, 시장 영향은 이미 소프트웨어 공급망에서 나타난다.
기업 고객은 범용 AI 도구만으로는 조직 내부 데이터와 규정에 맞는 성과를 얻기 어렵다는 점을 확인했다. 이 때문에 컨설팅, 데이터 관리, 보안, 클라우드 인프라, 업무 자동화 업체가 같은 예산을 두고 경쟁한다.
AI 모델 제공사는 애플리케이션 생태계를 넓히려 하고, 시스템통합(SI) 기업은 레거시 시스템 연결 경험을 앞세운다. 데이터 품질 관리와 권한 통제 솔루션을 가진 업체에는 새 수요가 생긴다.
반대로 모델 호출 기능만 얹은 제품은 고객사의 예산 심사를 통과하기 어려워진다. 투자자 관점에서도 판단 기준을 바꿔야 한다. AI라는 단어가 붙은 매출보다 고객사의 반복 사용률, 데이터 통합 난도, 보안 인증, 구축 후 비용 절감 사례가 더 중요한 지표가 된다.
Techverx, ISHIR, IBM 원천 자료가 지적한 가치 입증 미흡은 단순한 영업 문구의 문제가 아니다. 구매 담당자는 AI 예산을 기존 IT 예산과 경쟁시키며, 최고재무책임자(CFO)는 프로젝트가 EBIT에 미치는 영향을 요구한다. 맥킨지 조사에서 EBIT 영향을 본 기업이 37%에 그쳤다는 점은 공급업체에도 압박이다.
고객의 손익 지표를 설명하지 못하는 AI 서비스는 2026년 이후 갱신 계약에서 밀릴 수 있다.
한국 기업은 생산 단계 전환 전략 세워야
반론도 있다. AI 기술은 빠르게 개선되고 있으므로 기업 내부의 데이터와 조직 문제가 시간이 지나면 자연스럽게 해결된다는 주장이다.
광고
실제로 모델 성능 향상은 일부 작업의 자동화 비용을 낮췄고, 소규모 팀도 과거보다 쉽게 업무용 AI를 만들 수 있게 했다. 그러나 이 반론은 확장의 비용 구조를 과소평가한다.
한 부서의 파일럿은 열 명의 열의로 굴러가지만, 전사 시스템은 권한 관리, 감사 로그, 데이터 표준, 장애 대응, 법무 검토를 요구한다. 기술이 쉬워질수록 오히려 통제되지 않은 사용이 늘어나고, 그 결과 기업은 보안과 규정 위반 비용을 떠안을 수 있다.
한국 기업의 AI 전략은 이제 도입률 경쟁에서 생산성 회수 경쟁으로 이동해야 한다. 최고경영자(CEO)가 확인해야 할 질문은 "우리 회사도 AI를 쓰는가"가 아니다. "어떤 데이터로 어떤 의사결정을 자동화하며, 실패했을 때 누가 책임지는가"가 더 정확한 질문이다.
2026년 10월 현재 확인된 글로벌 조사들은 같은 메시지를 가리킨다. AI를 쓰는 기업은 많지만, 돈을 버는 기업은 데이터와 거버넌스, 사람을 동시에 바꾼 기업이다.
한국 기업이 파일럿의 속도에 취해 생산 단계의 비용을 외면한다면, AI 투자는 손익계산서에서 비용 항목으로만 남을 수 있다. 지금 필요한 선택은 더 큰 데모가 아니라 더 엄격한 운영 설계다. 기업은 AI를 장식품으로 둘 것인가, 아니면 조직의 원가 구조를 바꾸는 생산 설비로 다룰 것인가.
※ 이 기사는 Techverx, ISHIR, IBM 보도를 참조해 작성했다. 해당 자료는 맥킨지 2026년 8월 AI 현황 조사, 가트너 2025년 2월 조사, 딜로이트 2026년 기업 조사를 인용했다. Techverx, ISHIR, IBM 각 원천 자료의 세부 발행일과 원문 기사 제목은 제공 자료에서 확인되지 않았다.
FAQ
Q. 기업이 AI 파일럿을 운영 중이라면 가장 먼저 무엇을 점검해야 하나
A. 첫 점검 대상은 모델이 아니라 데이터 상태다. 가트너의 2025년 2월 조사에서 조직의 63%가 AI에 맞는 데이터 관리 관행을 갖추지 못했거나 불확실하다고 답했다. 기업은 고객, 제품, 재무, 운영 데이터의 소유 부서와 접근 권한, 품질 기준을 우선 문서화해야 한다. 그 다음 단계로 AI 프로젝트가 비용 절감, 매출 증가, 리스크 감소 중 어느 지표에 연결되는지 명확히 정의해야 투자수익률(ROI)을 계산할 수 있다. 지표가 정해지지 않은 상태에서 파일럿을 전사 확장으로 밀어붙이면, 사업부별 성과 주장은 넘치지만 손익계산서에 남는 숫자는 나타나지 않는 상황이 반복된다.
Q. AI 인력 교육은 개발자 중심으로 하면 충분한가
A. 개발자 교육만으로는 전사 확장 단계의 병목을 해결하기 어렵다. 딜로이트의 2026년 기업 조사에서 53%의 기업이 광범위한 인력을 교육하고, 48%가 재교육과 역량 강화를 진행했다고 보고했다. 이는 법무, 영업, 재무, 고객지원 담당자도 AI 결과를 검증하고 업무 절차에 반영해야 한다는 의미다. 한국 기업은 직무별 사용법 위주의 교육보다 데이터 책임 소재, 보안 기준, AI 산출물 검증 절차를 함께 교육하는 체계를 갖춰야 한다. 인력 교육의 범위를 개발자로 한정하면 비즈니스 부서에서 AI 결과를 맹목적으로 수용하거나 반대로 완전히 배제하는 양극화가 나타나 확장 속도가 오히려 떨어진다.
Q. AI 솔루션 기업을 평가할 때 어떤 지표를 봐야 하나
A. 기능 시연보다 구축 후 성과 지표를 먼저 확인해야 한다. 맥킨지의 2026년 8월 조사에서 AI를 전사적으로 확장한 기업은 44%, EBIT 영향을 확인한 기업은 37%에 그쳤다. 솔루션 기업이 고객사의 기존 전사적자원관리(ERP), 고객관계관리(CRM), 보안 체계와 어떻게 연결하는지 구체적으로 확인해야 한다. 장기 계약을 검토할 때는 데이터 거버넌스 지원, 감사 로그, 권한 통제, 비용 절감 사례를 함께 요구해야 한다. AI라는 단어가 붙어 있다는 이유만으로 계약하는 기업은 2026년 이후 갱신 심사에서 ROI를 설명하지 못해 계약 해지 결정에 직면할 가능성이 높다.
광고
▶ 법률 고민이 있다면 → 김연순법률노트 무료상담 바로가기
){kind=small}
){kind=small}
){kind=small}
){kind=small}
