AI 투자 ROI, 제조업은 어디서 나오나

제조 AI 분야의 도입 비용은 해마다 늘어나고 있습니다. 2024년 한 해에만 전 세계적으로 AI에 투입된 금액이 2,500억 달러를 넘었거든요. 그런데 이 AI 도입 비용이 실적으로 돌아오고 있느냐고 물으면, 대부분의 기업은 명확하게 답하지 못합니다.

BCG가 1,250명의 경영진을 조사한 결과, 60%의 기업이 상당한 투자에도 불구하고 매출이나 원가에서 의미 있는 성과를 보지 못하고 있었습니다. 반면 상위 5%는 같은 AI 투자에서 매출 1.7배, EBIT 마진 1.6배를 만들어 내고 있었고요.

같은 AI 도입 비용을 쓰는데 결과가 이렇게 나뉘는 이유, 특히 제조 AI에서 ROI가 나오는 지점이 어디인지를 따라가 봅니다.

ROI가 뭔지, 개념부터 궁금하다면 이 글을 먼저 읽어 주세요!

같은 투자, 다른 결과

BCG 조사에서 가장 눈에 띄는 건 투자 규모와 성과의 불일치입니다.

전체 기업의 평균 IT 예산 중 AI에 투입되는 비율은 약 5%였습니다. 그런데 상위 5%(BCG가 "Future-built"라고 분류한 기업)는 IT 지출 자체가 26% 더 높았고, 그중에서도 AI에 할당하는 비중이 64% 더 컸습니다. 전체적으로 보면 AI 투자 총액이 하위 기업 대비 약 2.2배 수준이었죠.

투자가 크니까 성과도 큰 걸까요. 단순히 그런 건 아닙니다. BCG 조사에서 60%에 해당하는 하위 기업들도 AI에 투자하고 있었거든요. AI 도입 비용을 쓰지 않아서 성과가 안 나오는 게 아니라, 쓰는 방식이 달라서 결과가 달라지는 겁니다.

상위 기업들은 투자가 성과로 이어지고, 그 성과를 재투자해서 역량을 더 키우는 선순환을 만들고 있었습니다. 반면 하위 기업들은 투자는 하는데 성과가 안 보이니 다음 단계로 넘어가지 못하는 악순환에 갇혀 있었고요. BCG는 이 격차가 시간이 갈수록 벌어지고 있다고 지적합니다.

제조업에서 ROI가 나오는 곳

그렇다면 제조 AI 투자의 원가 절감 성과는 어디서 나올까요.

McKinsey 조사에 따르면, 제조 AI를 적용한 기업들은 10~20%의 원가 절감을 보고하고 있습니다. 제조업 원가 절감에서 AI가 실제로 효과를 내고 있는 영역인 거죠. 비부가가치 업무, 그러니까 직접적으로 제품을 만들지는 않지만 반드시 필요한 행정·관리 업무에서는 20~30%의 시간 절감도 나타나고 있고요.

BCG 조사는 이 성과가 어떤 업무에서 발생하는지를 더 구체적으로 보여줍니다. AI 가치의 70%가 영업, 제조, 공급망, R&D 같은 핵심 업무에 집중되어 있었거든요. 제조업에서 구체적으로 보면, 생산 현장의 제조 AI 로봇·자동화 워크플로우는 도입 기업의 29%가 확대 적용 중이었고, 현재 18%의 원가 절감 효과에서 완전 도입 시 25%까지 기대되는 상황이었습니다.

여기서 중요한 건 이 성과들의 전제 조건입니다. 제조 AI가 현장에서 원가 절감을 만들거나 시간을 절감하려면, 먼저 현장의 비정형 데이터가 AI가 읽을 수 있는 형태로 정리되어 있어야 합니다. 견적서의 단가, 발주서의 수량, 입출고 기록 같은 비정형 데이터가 시스템 안에 정확하게 들어 있어야 AI가 분석하고 최적화할 수 있는 거니까요.

60%가 성과를 못 보는 진짜 이유

BCG 조사에서 기업들이 꼽은 AI 도입 과제를 보면, 60%가 왜 성과를 못 보는지가 드러납니다.

1위 : 비정형 데이터를 관리할 역량이 없다 (79%)

견적서, 거래명세서, 작업지시서처럼 정해진 형식 없이 들어오는 비정형 데이터를 시스템이 읽을 수 있는 구조화된 데이터로 바꾸는 역량이 부족하다는 뜻입니다.

2위 : 직원들이 변화에 적응하기 어려워한다 (77%)

새로운 업무 방식으로 전환하는 과정에서 조직의 저항이 생기는 문제입니다.

3위 : AI 인재가 부족하다 (74%)

AI를 설계하고 운영할 수 있는 전문 인력이 없다는 응답이었고요.

1위를 다시 보면, 결국 비정형 데이터 문제입니다. AI 모델이 아무리 좋아도 읽을 데이터가 없으면 작동하지 않거든요. McKinsey도 같은 지적을 합니다. 기업 프로세스의 대부분이 직원 머릿속에만 있고, 문서화되거나 표준화되어 있지 않다는 거예요.

실제로 AI 도입에서 성과를 내고 있는 상위 5%도 기술보다 데이터 구조와 워크플로우 정비를 먼저 진행한 기업들이었습니다. 기술에 더 많은 돈을 쓴 게 아니라, AI가 작동할 수 있는 환경을 먼저 만든 거죠.

BCG의 10-20-70 법칙이 이걸 잘 정리합니다. AI 성공의 70%는 사람과 프로세스, 20%는 기술 아키텍처, 10%만 알고리즘입니다. 기술에만 투자하면 전체의 10%만 건드리는 셈이에요. 나머지 90%에 해당하는 프로세스 정비와 비정형 데이터 기반 구축이 빠져 있으면, AI 도입 비용 대비 원가 절감 성과가 나오기 어려운 구조인 거죠.

ROI의 시작점, 결국 데이터 구조

제조 AI 도입 비용 대비 원가 절감 성과를 만들려면 순서가 있습니다. 더 좋은 AI를 찾는 건 그다음이고, 먼저 AI가 작동할 수 있는 데이터 구조를 만드는 게 첫 단계입니다.

제조 현장에서 이 데이터의 출발점은 거래 문서입니다. 견적서, 거래명세서, 발주서에 담긴 단가, 수량, 거래 조건이 시스템 안에 정확하게 들어 있어야 원가 절감을 위한 분석도, 수요 예측도, 공급망 최적화도 의미를 가지니까요. AI 도입 비용을 성과로 전환하려면 이 비정형 데이터 정리가 출발점입니다. 상위 5%가 하위 60%와 달랐던 것도 결국 여기였습니다.

우리 회사의 거래 문서가 AI ROI를 만들 수 있는 상태인지, 무료 문서 현황 진단으로 확인해 보세요.