AI로 가시적 성과를 거두는 기업들의 성공 비결은?
인공지능(AI) 기술에 대한 세간의 뜨거운 관심과 밝은 전망에도 AI를 통한 뚜렷한 가치 창출 사례를 찾는 것은 쉽지 않다. 기업 최고 경영진은 앞다투어 AI 투자를 승인하고 인재를 채용하며 시범 서비스를 시작했지만, 단순 개념 증명 단계를 넘어 가치 창출 단계로 발전한 기업은 아직 26%에 불과하다.
이 보고서는 AI 선도 기업들이 AI 기술에서 실질적인 가치를 창출하기 위해 어떤 노력을 기울이고 있는지, 여타 기업들의 미비한 부분이 무엇인지, 그 가치는 어디서 오는지, 각 부문별 성과는 어떤지, 기업이 어떻게 AI 궤도를 바꿀 수 있는지에 대한 유용한 통찰력을 제공하고자 한다.
아래에서는 다음 세 가지 분야를 중심으로 AI 채택(생성형 AI 포함)을 통해 기업이 창출하는 가치 사례를 살펴보겠다. 한 금융 기관은 AI 도입을 통해 2030년까지 10억 달러의 생산성 제고, 리스크 관리 결과 개선, 고객 및 직원 경험 개선 효과를 목표로 하고 있다. 2027년까지 AI를 활용해 10억 달러 규모의 잠재적 가치(매출 및 비용)를 창출하는 것을 목표로 삼은 바이오제약사도 있다. 또 다른 대형 자동차 제조사는 AI를 통해 매출원가를 최대 2% 절감하고 신제품 개발 시간을 30% 단축할 수 있을 것으로 예상한다.
이러한 결과들은 각 산업의 선도 기업들이 대규모 AI 프로그램 구현이 가능한 수준까지 디지털 역량을 구축함으로써 창출하고 있는 가치를 단적으로 보여주는 사례다.
BCG는 최근 디지털 혁신과 AI 성숙도에 대한 연구의 연장 선상에서 AI 채택 관련 연구를 진행한 바 있다. 그리고 이 연구 결과에 따르면, AI 기술을 실험적으로나마 도입한 98%의 기업 중 26%만이 개념 증명 수준을 넘어 가치 창출을 시작하는 데 필요한 역량을 개발한 것으로 나타났다(보고서에 채택한 AI 및 연구 방법론 정의 방법에 대한 자세한 내용은 부록 참조). 또한, 전사적 차원에서 최첨단 AI 역량을 체계적으로 구축 및 확장하면서 AI 혁신을 이끌어 가는 기업은 단 4%에 불과했다.
본 보고서에서는 상위 26%에 어떤 기업들이 있으며, 이 기업들이 AI를 통해 어떠한 방식으로 우수한 가치를 창출하고 있는지에 대한 최신 정보를 전하고자 한다. 이어지는 두 장에서는 선도 기업들이 가치를 창출하고 있는 분야와 기업의 AI 성숙도를 높이기 위해 해야 할 일을 살펴보고자 한다.
[부록] 정의 및 방법론
정의
이 보고서에서 AI, 생성형 AI 및 예측형 AI를 언급할 때 사용한 정의는 아래에 설명되어 있다.
AI는 모든 인공 지능 기술과 애플리케이션을 의미한다.
예측형 AI란 인공 지능 제품과 시스템을 사용하여 과거 및 현재 데이터를 분석함으로써 향후 이벤트 또는 추세를 예측하는 것을 말한다. 이러한 시스템은 데이터 분석, 머신 러닝 및 다양한 통계 알고리즘을 사용하여 데이터의 패턴과 관계를 식별한 다음 일정 수준의 확률로 결과를 예측하는 데 사용할 수 있다.
생성형 AI란 텍스트 및 이미지와 같이 새롭고 현실적인 콘텐츠를 생성할 수 있는 제품과 프로그램을 사용하는 것을 의미한다. 텍스트 생성을 위한 ChatGPT와 이미지 생성을 위한 DALL-E를 예로 들 수 있다. 생성형 AI의 핵심은 자기 지도 및 전이 학습의 획기적인 알고리즘 개발을 활용하는 딥러닝 알고리즘의 하위 집합인 대규모 언어 모델(LLM)을 포함하는 기본 모델에 있다.
방법론
‘2024 미래를 위한 구축 설문조사’는 앞서 전략적 목표를 지원하고, 중요한 비즈니스 가치를 제공하며, 새로운 시장 가능성을 파악하고 활용하는 데 필요한 AI 역량에 초점을 맞춘 ‘AI의 세 가지 축(AI Tritad)’ 설문조사에 이어 설계되었다.
이러한 맥락에서 종합적인 AI 성숙도 점수는 명확하게 정의된 네 가지 성숙 단계에 따라 각각 측정된 30개의 기업 기본 역량을 기반으로 산정됐다(보기 참조). 그런 다음 응답자가 답한 AI 가치 창출에 대한 전반적인 기여도를 기준으로 각 역량에 대한 개별 가중치를 계산하기 위해 강력한 통계 방법이 적용되었다. 그리고 가중치 점수를 네 가지 범주로 분류했다.
• AI 정체 단계: 0~25점
• AI 초기 단계: 25~50점
• AI 확장 단계: 50~75점
• 미래형 AI 구축 단계: 75~100점
보고서에서 언급된 AI 선도 기업이란, AI 확장 단계와 미래형 AI 구축 단계, 이 두 가지 핵심 범주에 속한 선도 기업을 지칭한다.
본 설문조사에서는 20개 이상의 업종을 아우르는 1,000명의 최고 경험 책임자(CXO) 및 고위 경영진을 대상으로 30가지 기본 역량에 근거해 소속 기업의 AI 성숙도 추정치를 제시해 달라고 요청했다. 또한, 업종별 질문에 대한 답변을 기반으로 10가지 차원에서 결과를 평가했다. 설문조사는 아시아, 유럽, 북미의 59개국에서 소비재, 에너지, 금융 서비스, 의료, 산업재, 보험, 공공 부문, 기술, 미디어, 통신 등 10개 산업 분야 종사자를 대상으로 이뤄졌다.
가파른 성숙도 곡선
AI 역량을 구축하는 것은 복잡한 과제다. 전 세계 1,000개 이상의 기업을 대상으로 한 BCG의 최신 연구에 따르면, 여러 부문에 걸쳐 최첨단 AI 역량을 개발하고 이를 활용해 실질적인 가치를 지속적으로 창출하고 있는 곳은 전 세계 기업 중 4%에 불과한 것으로 나타났다(보기 1 참조). 이외에도 AI 전략과 수준 높은 역량을 갖추고 AI를 활용해 가치를 창출하기 시작한 기업은 22%에 달했다. 본 보고서에서는 이러한 기업들을 선도 기업이라고 지칭한다. 반면, 나머지 74%는 아직 AI 기술을 통해 가시적인 가치를 창출하는 단계에 이르지 못했다.
이러한 범주 구분은 선도 기업의 성과가 여타 기업을 압도하기 때문에 의미가 크다. 지난 3년 동안 선도 기업의 매출 성장률은 전체 평균보다 50% 더 높았다. 선도 기업의 총주주수익률은 60% 더 높고, 투자 자본에 대한 수익률은 40% 더 높다. 또한, 선도 기업은 특허 출원 및 직원 만족도와 같은 비재무적 요인에서도 앞서 있으며, 무엇보다 AI 플랫폼과 도구가 발전함에 따라 수혜를 누릴 수 있는 유리한 위치에 있다.
선도 기업의 차별점
선도 기업들이 가진 차별점은 다음 6가지로 정리할 수 있다.
이들은 단순한 지원 부서 뿐만 아니라 핵심 사업 프로세스에 중점을 둔다. 흔히 AI의 가치가 주로 지원 부서의 운영 간소화와 비용 절감에 국한된다고 오해하는 경우가 많다. 하지만 실제 선도 기업들이 AI를 통해 얻는 가치의 62%는 핵심 사업 프로세스에서 창출된 것으로 나타났다. 즉 이들은 핵심 사업부와 지원 부서 모두에 AI를 활용하여 경쟁 우위를 확보하고 있다.
선도 기업은 더 야심찬 포부를 갖고 있다. 2027년까지 AI를 통한 매출 성장에 대한 선도 기업들의 기대치는 여타 기업보다 60% 더 높았으며, 선도 기업은 비용을 거의 50% 더 절감할 수 있을 것으로 예상했다. 가장 미래 지향적인 기업 4곳 중 3곳은 전사적 차원에서 핵심 사업 부문의 AI 혁신에 집중하고 있다. 여타 기업의 경우, 이 비율은 10%에 그쳤으며, AI를 채택할지라도 그 초점은 주로 생산성 부문에 국한된다. 선도 기업들은 단순한 생산성 제고를 넘어 AI 및 인력 역량 강화에 대한 투자를 통해 목표를 향한 노력을 뒷받침하고, 경쟁사 대비 AI의 여러 측면에 집중적으로 몰두한다(보기 2 참조). 이들 기업은 디지털 부문 투자, 인력 배치, 확장된 AI 솔루션 규모 모두 두 배로 늘렸다.
이들은 AI의 가치를 확장하고 극대화하기 위해 우선순위가 높은 몇 가지 기회에 집중적으로 투자한다. AI 채택 관련 데이터를 보면, 선도 기업들은 평균적으로 그렇지 못한 기업들에 비해 절반 정도의 기회만 추구한다. 즉 이들은 가장 유망한 이니셔티브를 선별해 역량을 집중하며, 2024년 타사 대비 두 배 이상의 투자수익률(ROI)을 기대한다. 또한 선도 기업의 경우, 조직 전체에 걸쳐 성공적으로 확장 중인 AI 제품 및 서비스가 타사에 비해 두 배 이상인 것으로 나타났다.
선도 기업들은 AI 통합을 통해 비용을 절감하고 수익을 창출한다. 선도 기업의 약 45%는 부서 전반의 비용 혁신 노력에 AI를 통합하고 있다. (일반 기업의 경우 해당 비율은 10%에 불과) 또 선도 기업의 3분의 1 이상이 AI를 통한 수익 창출에 집중하고 있다고 답했는데, 4분의 1에 불과한 다른 기업들의 수치에 비해 훨씬 높다(보기 3 참조). 대체 에너지 회사의 한 엔터프라이즈 제품 책임자는 “우리 회사에는 모든 사업부가 매년 3~5개의 프로젝트를 제출해야 하는 프로그램이 있는데, 2020년부터는 모든 부서가 AI 역량에 집중해 왔다”며 “이러한 프로젝트는 비용 절감, 운영 효율성 증대 또는 매출 창출을 통해 회사에 어떻게 기여할지를 입증해야 한다”고 밝혔다.
이들 기업은 기술과 알고리즘보다는 사람과 프로세스를 향해 더 많은 노력을 기울인다. 선도 기업들은 자원의 10%를 알고리즘에, 20%는 기술과 데이터에, 70%는 인적자원과 프로세스에 투자하는 규칙을 따르며, BCG의 데이터에 따르면 이는 성공을 뒷받침하는 핵심 역량으로 드러났다.
선도 기업은 생성형 AI에 집중하기 위해 빠르게 움직였다. 선도 기업들은 예측형 AI와 생성형 AI 모두를 사용하며, 특히 생성형 AI를 더 빠르게 채택하고 있다. 덕분에 콘텐츠 제작, 정성적 추론, 다른 도구 및 플랫폼 연결에서 기회를 잡기 쉽다. 이는 부분적으로 더 높은 수준의 AI 역량이 전제 조건(대규모 언어 모델 등)을 마련하는 데 도움이 되기 때문이다.
AI 승자 독식 시대
모든 AI 선도 기업들이 하이퍼스케일러(hyperscaler, 대규모 데이터센터 운영업체)나 디지털 네이티브, 즉 제품이나 서비스 제공의 일부로 AI를 포함하는 회사인 것은 아니다. 이 장의 서두에서 설명한 기업을 포함해 상위 26%의 기업 중 절반 이상은 역량을 강화하고 이를 통해 차별화된 경쟁 우위를 확보한 전통적 기업들이었다. AI 선도 기업 비율이 가장 높은 분야는 약 15년 전 디지털 혁신이 일으킨 변화를 가장 먼저 체험하고 디지털 역량 구축에 앞장선 업종이 대부분이었다. 여기에는 핀테크(49%가 선도 기업), 소프트웨어(46%), 은행업(35%)이 포함된다.
그러나 AI가 영향력을 미치지 않는 산업 부문은 사실상 없다. 예를 들어, AI 도입에 적극적인 한 자동차 제조사는 생성형 AI를 통해 입찰 서류 초안 작성 및 수정 시간을 50% 단축하는 동시에 서류 품질과 일관성을 개선했다. 또한 생성형 AI를 활용해 자동차 제조업체는 경쟁적인 여러 제안에 대한 분석 속도를 50% 높이고 지식 검색에 필요한 시간을 50~75%까지 단축할 수 있었다.
선도 기업들은 AI 여정을 개척해 나가고 있다. 하지만 후발 주자들도 선도 기업의 방정식(playbook, 활용 계획)을 참고해 가장 큰 기회가 있는 분야와 AI를 최대한 활용하기 위해 구축해야 할 역량에 노력을 집중한다면, 선도 기업을 충분히 따라잡을 수 있을 것이다. 다음 두 장에서는 이러한 요인을 좀 더 깊이 다룬다.
예상외의 AI 가치 창출 부문
선도 기업들은 원대한 그림을 그리고 있다. AI 성숙도 조사에서 상위 26%의 기업들은 2027년까지 타사보다 비용 절감을 통해 45%, 매출 성장을 통해 60% 더 큰 가치를 달성할 것으로 기대했다. 2024년에도 선도 기업들은 AI 이니셔티브를 통해 타사보다 2배 이상의 투자수익률을 실현할 것으로 예상하며, 잠재적인 운영 비용을 5% 절감하고 달성 가능한 최대 매출을 5% 높일 것으로 전망된다.
흔히들 AI 채택에 따르는 이점으로 지원 부서(인사, IT, 법무 등)의 단순 작업을 자동화함으로써 상당한 가치를 창출할 수 있다는 논리가 제시되곤 한다. 그러나 AI를 통한 가치 창출에 앞서 나가는 기업들은 단순히 지원 부서에 생산성 향상을 위한 전략을 실행하는 데 그치지 않고, 핵심 사업 프로세스를 재구성하고 새로운 수익원을 창출하는 데 집중하고 있다. 이들 기업은 R&D부터 운영, 영업 및 마케팅, 고객 서비스에 이르기까지 다양한 부문에서 AI를 통한 성과를 거두고 있다. 필요한 역량을 구축했기 때문에 가치를 창출하는 사용 사례를 더 쉽게 식별하고, 시범 운영하며, 확장할 수 있다. 예를 들어 한 화학 기업은 운영, 현장 서비스, 조달 전반에 걸쳐 AI를 구현하는 엔드투엔드 혁신을 통해 5억 달러 이상의 가치를 창출할 것으로 예상한다.
핵심 사업부
본 설문조사에 참여한 기업들은 전반적으로 운영(23%), 영업 및 마케팅(20%), R&D(13%) 등 핵심 사업부에서 AI 및 생성형 AI를 통해 62%의 가치를 창출하고 있는 것으로 나타났다. 고객 서비스(12%), IT(7%,), 조달(7%)을 중심으로 한 지원 부서가 38%의 가치를 창출하며 그 뒤를 이었다.
일부 부문의 경우, 핵심 사업부와 지원 부서 간의 격차가 더 벌어지기도 했다(보기 4 참조). 소프트웨어, 미디어, 핀테크, 보험, 통신, 바이오제약은 핵심 사업 프로세스에서 AI 관련 가치의 70~90%를 창출하는 것으로 나타났다. 부문별로 편차는 상당했지만, 하위 사분위에 속하는 업종에서조차 AI 가치의 40~60%가 핵심 사업 프로세스에서 창출되는 등 전반적인 결과는 일관되게 나타났다.
부문별 도전 과제
또한 각 부문의 기업들은 AI가 가장 큰 가치를 창출할 수 있는 영역을 파악함으로써 이점을 얻을 수 있다. BCG의 연구에 따르면 이러한 영역은 산업별로 크게 다르다(보험 및 바이오제약 업종에서의 AI 참조). 일례로 영업 및 마케팅은 소프트웨어(생성된 AI 가치의 31%), 여행 및 관광(31%), 미디어(26%), 통신(25%)과 같은 업종에서 핵심적인 AI 가치 창출원으로 빠르게 부상하고 있다. 구체적인 역할과 영향력의 규모는 산업별로 다르지만, 단기적으로 AI 기술은 기업에게 차선안 추천, 대화 기록 추적, 기본적인 워크플로 자동화를 통해 영업 기능을 재구상할 기회를 제공한다. 중기적으로는 AI와 생성형 AI를 활용해 디지털 영업 아바타를 통한 실시간 판매 지원 및 자율 판매가 가능해질 것이며, 이때 사람의 개입은 제한적인 수준에 그칠 것이다. 이러한 자동화를 통해서 가상 어시스턴트에 더 많은 거래 업무 처리를 맡기고, 직원들은 전략적 판매 및 인간 관계에 중점을 둔 판매에 집중할 수 있다. 예측형 스마트 판매가 일반화되면 마케팅, 영업, 가격 책정 등 사내 부서 간 이기주의 현상도 약화될 것이다. 당사 경험에 따르면 고객 생애 가치와 시장 진출(Go-To-Market, GTM) 효율이 높아지면, 영업 이익률이 거의 배로 증가할 수 있다.
[부록] 보험 및 바이오제약 업종에서의 AI
비즈니스 프로세스, 기능, 사용 사례 측면에서 AI를 통한 가치 창출은 이미 여러 업종에서 다양한 방식으로 이뤄지고 있으며, 이는 기업마다 최고의 기회가 어디에 있는지 독립적으로 파악하는 일이 얼마나 중요한지를 잘 보여준다. 보험과 바이오제약이라는 매우 다른 두 업종에서 설문조사를 통해 수집한 입증 자료를 확인해 보자.
두 업종의 평균 AI 성숙도는 성숙도 곡선의 중간에 위치하며, 전 업종 평균에서 크게 벗어나지 않는다. 두 업종의 경우, 평균적으로 AI 가치의 70% 이상이 기업들의 핵심 사업 프로세스에서 창출되며, 지원 부서에서 창출되는 비율은 30%에도 못 미친다. 단, 유사점은 그 정도 수준에서 그친다.
보험
보험사는 운영(보험 관리, 계약 심사, 보험금 청구 관리), 고객 서비스, 마케팅 및 영업에 집중하고 있다(보험 부문 AI 팩트시트 참조). 지금까지 개인별 기회 수준에서 예측 AI가 가장 광범위하게 채택된 분야는 점수 산정, 사기 위험 평가, 심사 및 보험 증권 자동화 분야다. 생성형 AI 채택은 질문을 해결하고 고객과의 상호작용을 요약하는 챗봇 사용 부문에서 가장 강력하게 진행되고 있다.
전반적인 점수와 일치하게, 보험사의 가장 큰 과제는 직원들의 AI 활용 능력 향상, 다른 문제보다 AI 기회를 우선순위로 지정, 식별된 기회에 대한 투자수익률(ROI) 제시 등 인적자원과 프로세스에 관한 사안으로 나타났다. 또한 보험사들은 AI를 기존 IT 시스템과 통합하고 AI 모델의 정확성과 신뢰성을 높이는 문제를 해결해야 한다.
디지털 전환 분야에서 강력한 성과를 낸 바 있는 아시아 지역의 한 생명보험사는 영향력이 크고 활용도가 높은 몇 가지 사례를 식별하고 실행함으로써 생성형 AI가 운영에 가져올 수 있는 이점을 입증하고자 했다. 이 보험사는 잠재적 영향력에 대한 고급 분석을 바탕으로 우선순위를 정하여 고객 서비스 콜센터 운영과 영업/마케팅의 두 가지 기회를 선택했다. 콜센터 운영의 경우 검색 시간이 30% 줄었고, 영업/마케팅의 경우 자료 제작 시간이 30~40% 단축되는 성과를 거뒀다.
바이오제약
바이오제약 부문은 상황이 좀 다르다. 바이오제약 부문 가치의 절반 이상이 상업/영업 및 마케팅(30%), R&D(27%)에서 발생한다. 바이오제약업계는 체계적인 단백질, 약물, 생물학적 프로세스 생성, 초개인화된(hyperpersonalized) 방식의 의료진 실시간 참여, 환자 및 의료진에 대한 개인 맞춤형 지원 등을 위해 생성형 AI 기술을 사용하고 있다. 바이오제약사들은 AI와 생성형 AI를 함께 사용하여 고객 상호작용을 분석 및 문서화하고 생물학적 데이터를 통한 환자 식별을 목표로 삼고 있다(바이오제약 부분 AI 팩트시트 참조).
다시 한번, 기술을 적용하는 데 있어 가장 큰 도전 과제는 인적자원 및 프로세스와 관련된 문제로 나타났다. 다른 우려 사항보다 기회를 우선순위에 두고, 직원들의 AI 활용 능력을 높이며, 가용한 인재와 기술을 확보하고, 식별된 기회에 대한 투자 수익률(RoI)를 제시하는 일이 급선무인 것이다. 가장 중요한 알고리즘 및 기술 문제는 AI를 기존 IT 시스템과 통합하고 모델의 정확성과 신뢰성을 극대화하는 작업이다.
선도 기업들은 생산성 향상을 위해 노력할 뿐만 아니라 핵심 사업 프로세스를 재구성하고 새로운 수익원을 창출하고 있다.
마찬가지로 마케팅에 미치는 영향은 중대하며 다음 네 가지 주요 프로세스를 포괄한다.
• 혁신에 대한 통찰력. 자동화된 데이터 수집 및 분석을 통해 시장 기회를 빠르게 파악하고 마케팅 전문가의 신제품 설계 개발 능력을 향상시킬 수 있다.
• 개념부터 제작까지. 워크플로는 자산 생성 및 피드백 루프(feedback loop)를 가속화하고, 콘텐츠를 원활하게 조정, 현지화, 배포할 수 있다.
• 캠페인 설정 및 실행. 트렌드와 피드백에 대응하며 고도로 세분화된 실시간 이행을 통해 마케팅 캠페인 생성 속도를 높이고 주요 목표에 대한 진행 상황을 자동으로 추적할 수 있다.
• 마케팅 전문가의 생산성 제고. 마케팅 전문가는 단순 반복 업무에 허비하는 시간을 줄이고 전략적 의사 결정에 더 많은 시간을 할애할 수 있다.
예를 들어, 북미의 한 선도적인 이동통신사는 AI를 적극 활용하여 통화 기록을 분석함으로써 비용 절감 및 고객 만족도 개선 기회를 파악하고 있다. 이 회사는 콜센터 응대 시간을 20% 단축하고 실제 상담원과의 통화 연결 건을 25% 줄였다. AI 기반 챗봇은 이제 통화의 30%를 처리하고 있으며, 해당 이통사는 관련 사업부의 총 비용을 25% 절감할 것으로 예상한다.
예상대로 AI는 바이오제약(가치 창출의 27%), 의료기술(19%), 자동차(29%, 소프트웨어 중심 차량으로 전환 중인 산업) 등 연구 집약적 부문의 R&D에 큰 영향을 미치고 있다. 한 의료 기술 회사의 부사장은 “생성형 AI를 통해 인간이 걸릴 수 있는 실제 질병을 모방한 교육용 이미지를 생성할 수 있었다”며 “실제 환자 사례에 기반한 것이 아니라, 이를 모방한 생성형 모델에 의해 생성되는 수천 개의 이미지를 심층적으로 분석하기 시작했고, 이러한 생성형 AI 접근법 덕분에 회사의 예측형 AI 모델 정확도가 4~5% 높아졌다”고 설명했다.
미래의 R&D 부서의 경우, 개인, 팀, 회사 차원의 변화를 통해 개념 R&D, 제품 개발 및 산업화, 제품 후속 개발 과정을 개선할 수 있을 것으로 전망된다. AI는 반복 루프를 단축하고, 팀과 조직 전반으로 전문 지식 접근 기회를 확대하며, 새로운 개념을 빠르게 탐색하고, 제품 디자인을 시뮬레이션하고, 조달 주문을 예측하는 등 다양한 변화를 통해 각 단계를 가속화하고 자동화할 것으로 예상된다.
한 사례로 최근 한 글로벌 제약사는 AI 도입을 통해 신약 개발 역량에 박차를 가하고 있다. 이 제약사의 초기 목표는 화학자들과 함께 AI 프로토타입을 구축, 테스트, 검증함으로써 워크플로 발견에 있어 AI를 통해 창출되는 가치 정도를 정량화하는 것이었다. 이 제약사는 새로운 전임상 후보 물질을 더 빠르게 찾을 수 있는 최첨단 모델의 잠재력을 평가한 후, 10억 개 이상의 약물 화합물을 빠르게 선별하는 자체 머신러닝 알고리즘과 분자 화학자를 위한 선도 물질 최적화(lead optimization) 파이프라인을 구동하는 유전 알고리즘을 구축했다. 이 프로젝트는 임상 주기 시간을 25% 단축하는 등 더 빠른 출시를 통해 연간 1억 달러의 가치를 창출했다. 이 회사는 연구자들이 새로운 화합물에 대한 높은 가시성을 확보할 수 있도록 분자 라이브러리를 100배 확장했다.
보험사 및 금융업계도 이미 AI를 통해 고객 서비스 부문에서 상당한 가치(보험사의 경우 생성된 가치의 24%, 은행업은 18%)를 창출하고 있다. 해당 기업들은 AI 기술 채택으로 생산성을 높이고, 여러 기술을 갖춘 일선 팀 배치 필요성을 줄이며, 상담원 여정을 재설계하고 있다. 단기적으로 고객 서비스 부문의 생산성 제고 효과는 30~40%, 순익 증대 효과는 10~20%에 이르는 것으로 나타났다.
물론 기업들은 더 큰 목표를 추구하고 있다. 선도 기업들은 장기적으로 최대 60%의 생산성 증대 효과를 기대하고 있다. 고객 서비스 프로세스에 AI를 통합하는 데 따른 영향은 가치 사슬 전반에 걸쳐 반향을 일으킬 전망이다. 고객 서비스 부서는 고객이 문제를 발견하기 전에 문제를 해결함으로써 문제에 대해 선제적 대응 및 자체 복구할 수 있으며, 고객이 자가 진단을 통해 스스로 문제를 해결할 수 있도록 지원할 수 있다. 고객이 여전히 상담원의 도움을 필요로 하는 경우, AI는 고객의 요구 사항을 상황에 맞게 고려해 실시간으로 대화를 최적화하고 적절한 제안을 하는 등 증강 기능을 통해 상담원의 고객 응대를 지원한다.
한 글로벌 은행은 서비스 품질 개선, 운영 비용 절감, 수익 창출 강화를 위해 고객 관리 시스템 현대화를 추진해야 했다. 이 은행은 생성형 AI 도입을 통해 채팅 지원을 위한 생성형 AI 배포, 상담원 효율성 향상, 서비스 품질 개선, 전환율 상승 등 고객 상호작용과 백엔드 프로세스를 모두 재구성했다. 또한 생성형 AI를 API와 앱에 통합해 원활하고 확장 가능한 작업을 수행할 수 있었다. 그 결과 고객과 상담원 간의 통화 시간이 거의 20% 단축됐고, 고객 만족도는 비슷한 수준을 유지하면서 평균 서비스 시간은 4분 단축되었으며, 전환율은 28포인트 상승하고 판매되는 상품의 폭은 두 배로 늘어났다.
소비자 제품 및 소매 기업들은 AI 기반 맞춤화로 큰 효과(소비자 제품 기업의 경우 창출된 가치의 19%, 소매 기업의 경우 창출된 가치의 22%)를 거두고 있다. 설문 조사에 참여한 소비자 제품 기업의 약 30%가 (다른 여러 기능 중에서도) 맞춤형 마케팅을 위한 AI 기술을 채택했으며, 마케팅 콘텐츠 생성, 마케팅 믹스 및 투자 수익률(ROI) 최적화, 데이터 기반 디지털 마케팅과 같은 활동으로 인해 약 30%의 생산성 제고 효과를 누리고 있다. 그 결과, 선두 기업들은 다른 분야에서 후발주자보다 2~4배 빠른 속도로 AI 기술을 채택하고, 범용 제품 설계 및 제조 최적화 업무에 적용하고 있다.
각 프로세스 또는 기능 내에서 구체적인 사용 사례와 관련 사업 가치를 정의하는 것이 중요하다. 대부분의 산업에서 생성형 AI가 갖는 잠재적 가치의 절반 이상이 2~3개의 기능 영역에 집중되어 있다. 일례로 보험 부문에서는 55%의 가치가 보험 증권 관리, 계약 심사, 보험금 청구 관리 분야에서 창출된다. 바이오제약 부문의 경우, 가치의 57%는 R&D와 영업 및 마케팅에서 발견된다.
기업의 주요 과제는 각 부서 내 주요 사용 사례를 파악하는 데 있다. 예를 들어, 보험사의 43%는 점수 산정, 사기 평가, 심사에 AI를 활용하고, 바이오제약사의 42%는 체계적인 단백질 및 약물 분자 생성(최소한 시험 및 개념 증명용)에 AI를 사용한다. 일반적으로 예측형 AI와 생성형 AI를 혼합하여 사용하는 사례에서 가장 높은 가치가 창출된다.
부문별로 기업들이 한두 가지 주요 영역에서 활용 사례를 통해 큰 가치를 창출하고 있지만, 대부분은 고객 관계 및 경험, 콘텐츠 제작 및 관리, 제품 관리 등 핵심 사업부의 최대 6개 영역에서 아직 실험 중이며 의미 있는 결과를 얻지 못하고 있다. 석유가스, 유틸리티, 기계, 자동화 등 일부 산업의 경우, 지원 부서가 상당히 중요한 가치 창출의 원천이 된다.
가치 창출로 이르는 길은 다양하다. 3장에서는 각 기업이 가장 생산적인 경로를 효율적으로 찾을 수 있는 방법에 대해 소개한다.
AI로 성공하기 위한 방정식
선도 기업들은 AI 기술을 활용해 상당한 가치와 이점을 창출하기 위해 노력하고 있다. 예를 들어, 한 소비재 회사는 생성형 AI 기술을 적용함으로써 3억 달러 규모의 생산성 제고 및 대행사 비용 절감 효과를 달성했다. 한 글로벌 소비재 회사는 업계 최초로 생성형 AI 기반 가상 대화형 어시스턴트를 통해 1억 달러 규모의 추가 매출이 창출될 것으로 예상하고 있다. 북미의 한 통신사는 통화 처리 시간을 10% 단축하고 고객 유지 비용을 30% 이상 줄임으로써 연간 2억 달러의 비용을 절감했다.
한편, 기술 도입에 고군분투하거나, 관망하거나, 계획 중이거나, 시험 중인 70%의 기업들은 경쟁업체들이 생산성, 매출, 고객 경험을 개선함에 따라 시급히 걸림돌을 극복하고 격차를 따라잡기 위한 노력을 배가해야 한다. 선도 기업과 이들을 추격하는 기업들이 AI 역량을 확장하고 생성형 AI 모델과 도구가 발전함에 따라 역량을 갖추지 못한 기업은 더욱 뒤처지게 될 것이다.
어느 기업이나 따를 수 있는 AI 방정식은 다음과 같다.
도전 과제 극복하기
이번 설문조사는 기업이 AI 이니셔티브를 구현할 때 직면하는 가장 어려운 과제가 무엇인지를 잘 보여주며, 이는 크게 네 가지 범주로 나눌 수 있다.
• 주요 사용 사례를 명확하게 정의하기가 어려움, 예상 투자 비용 대비 매력적인 수익률 제시 또한 힘듦
• 투자 우선순위 지정, 여러 부서 및 비즈니스에 걸친 솔루션 확장, 도입에 대한 거부감 극복, 혜택 실현 등 계획 단계에서 실행으로 전환하고 가치를 제공하는 데 수반되는 일련의 문제
• 특정 AI 기술 및 광범위한 AI 활용 능력 확보를 포함한 인력 및 기술 문제
• AI 솔루션을 기존 IT 시스템과 통합하고 고품질 데이터에 액세스할 수 있도록 지원하는 문제
새로운 연구를 통해 입증된 당사의 경험에 따르면, 과제의 약 70%가 인적자원과 프로세스 문제이며, 약 20%는 기술적 문제, 10%만이 AI 알고리즘(알고리즘의 경우 조직의 시간과 자원을 더 많이 차지하는 경우가 많음)과 관련 문제인 것으로 나타났다(보기 5 참조). 이번 설문조사 결과를 통해 기업이 디지털 또는 AI 혁신을 추진할 때 노력과 자원의 70%는 인적자원 관련 역량에, 20%는 기술에, 10%는 알고리즘에 집중해야 한다는 우리의 오랜 견해를 재확인할 수 있었다. 많은 기업이 인적 문제보다 기술적 문제를 우선시하는 실수를 저지르는데, 이는 많은 기업이 원하는 결과를 얻지 못하는 이유를 파악하는 데 도움이 된다.
물론 시간이 지나며 기업의 역량이 강화됨에 따라 도전과제 역시 변화된다. 그러나 AI 역량을 갖추지 못한 기업들이 기본을 제대로 갖추는 데 집중하는 반면, 선도 기업들은 보안 및 규정 준수, 책임감 있는 AI 구현, 대규모 언어 모델용 가드레일, 높은 모델 지연 시간, 운영 비용 등의 기술적 문제를 해결하는 데 더 많은 관심을 기울이고 있다.
성공적 구현을 위해 필요한 역량
분석은 AI 기술을 앞장서 채택한 선도 기업들이 자체적으로 보고한 역량을 다른 기업의 역량과 비교하는 방식으로 이뤄졌다. 이 평가에서 대규모 AI 구현에 있어 가장 중요한 역량에 대한 실증적 증거가 드러났다. 대부분은 인력 및 프로세스, 즉 변화 관리, 제품 개발 기술, 새로운 기술, 역할 명확성, 프로세스 재구상, AI 인재, 책임감 있는 AI 거버넌스와 같은 워크플로 역량과 밀접하게 관련된다(보기 6 참조). 가장 중요한 기술 역량은 데이터 및 플랫폼과 관련된 것이며, 가장 중요한 알고리즘 역량은 AI 모델 품질과 성능으로 나타났다. AI 선도 기업의 한 고위 임원은 “비즈니스 성공의 핵심 역량은 인재와 프로세스 우수성에 좌우된다”며 “성공을 위해서는 데이터 과학과 같은 구체적인 기술, 혁신에 대한 보편적 열정, 새로운 접근 방식을 재구상하고 구현할 수 있는 능력이 있어야 한다”고 강조했다. 그는 또한 “AI 기술은 놀랍지만, 기술에 너무 현혹되지 않으려 한다”고 덧붙였다.
AI 가치 창출을 향한 여정… 도약이 필요한 시간
선도 기업의 역량과 접근 방식을 평가한 후 당사는 모든 기업이 AI를 통해 빠르고 효과적으로 가치를 창출할 수 있는 방법에 대한 방정식을 작성했다. 이 접근법에는 7가지 중요한 단계가 있다.
- 최고 경영진부터 대담한 전략적 목표를 세우고 여러 해에 걸쳐 이를 위한 지원을 준비한다.
- 일상적인 비즈니스 프로세스 간소화, 전체 비즈니스 기능 혁신, 새로운 비즈니스 모델을 실현하는 AI 네이티브 제품 개발 등 균형 잡힌 이니셔티브 포트폴리오를 통해 AI의 잠재적 가치를 극대화한다.
- 투자 대비 수익률이 높고 실행하기 쉬운 1~3개의 이니셔티브로 시작하여 적은 수지만 영향력이 큰 라이트하우스 프로그램(Lighthouse Program)에 집중하여 AI 여정에 필요한 자금을 지원한다.
- 특히 IT 시스템과의 통합 및 고품질 데이터에 대한 액세스와 관련해 이러한 이니셔티브에 필요한 최소한의 실행 가능한 인프라가 갖춰져 있는지 확인한다.
- 성공에 필요한 핵심 역량을 갖춘 선도 기업과 소속 기업을 비교하여 역량 격차를 파악하고, 필요한 역량을 구축하기 위한 투자를 병행한다. 초기에는 기술 및 데이터와 관련된 문제에 집중해야 할 수 있지만, 사람과 프로세스와 관련된 역량은 매우 중요하며 면밀하고 장기적인 관심을 요구한다.
- 구현 거버넌스(Implementation Governance)가 업무 방식 재설계, 인재 양성, 프로세스 재구상, 효과적인 의사 결정 강화, 새로운 솔루션 채택에 대한 거부감 해소 등 엔드투엔드 혁신과 인적자원 및 프로세스에 초점을 맞추도록 한다.
- 투명성, 통제, 책임을 통해 모든 초기 단계부터 책임감 있는 방식으로 AI를 배포함으로써 윤리 기준 및 관련 법률 준수, 비즈니스 위험 관리를 위한 보호 장치를 마련한다.
성공적으로 AI 방정식을 적용한 두 기업 사례
업종과 성숙도가 전혀 다르지만 방정식에 기반해 AI 변화의 물결에 성공적으로 올라탄 대기업 두 곳의 사례를 소개한다.
한 글로벌 금융 기관은 데이터 거버넌스의 생산성과 일관성을 높이고, 직원의 데이터 관리 업무 경험을 개선하며, 데이터 관리 운영을 재구상함으로써 데이터 가치를 높이기 위해 생성형 AI를 채택했다. 데이터를 활용해 비즈니스 가치를 창출하는 능력은 사용 가능한 데이터의 10%만을 다루는 거버넌스 절차에 의해 제약 받고 있었다. 메타데이터 생성 및 데이터 계보 캡처 등의 수동 작업이 수반되어야 한 탓에 확장성이 제한되었다.
이 회사는 데이터 계보 캡처, 비즈니스 메타데이터 생성, 민감한 데이터 요소 태그 지정과 같은 데이터 관리 프로세스를 자동화하고 최적화하는 작업에 생성형 AI를 도입했다. 이 프로젝트는 기반 구축, 맥락 정보 강화, 인사이트 생성의 세 가지 사용 사례 구현 단계로 이행되었다. 첫 번째 단계에서는 10주간의 개념 증명을 통해 자동화된 메타데이터 라벨링과 시스템 간 데이터 계보(소스 및 품질) 정보 캡처 가속화를 사용하여 타당성을 테스트하고 가치를 입증했다. 시범 단계에서 얻은 교훈을 바탕으로 이 금융 기관은 수개월에 걸쳐 솔루션을 운영 환경으로 확장하고 중요한 데이터 도메인 내에서 시범 운영하여 그 효과를 측정하고 확장에 필요한 추가적인 투자 규모를 파악하기 위한 여정에 착수했다.
이 회사는 이미 프로덕션급 솔루션 구축을 완료하고 이제 배포를 앞두고 있으며, 메타데이터 생성 및 계보 생성과 같은 특정 활동에서 생산성을 40~70% 정도 높일 수 있었다. 엔드투엔드 데이터 거버넌스 제어를 통해 온보딩 데이터에서 20%~25%의 순 생산성 향상을 실현했으며, 거버넌스 하에 데이터를 포함시키는 시기를 5년 이상 앞당겼다. 또한 파일럿 프로그램의 일환으로 운영 모델을 재구상하여 전 세계 10개 이상의 데이터 도메인과 200명 이상의 데이터 관리 전문가에 대한 영향력 전달을 더욱 가속화했다.
아시아 경쟁업체와의 치열한 경쟁에 직면한 유럽의 한 주요 자동차 제조업체는 AI 채택을 통해 시장 출시 기간을 최대 45%까지 단축했다. 당시 이 자동차 제조업체는 디지털 전환 여정을 순조롭게 진행하고 있었으며, AI를 활용해 R&D 기능을 재편하고 차세대 OEM 선두 업체로 거듭나기 위한 다음 단계를 준비하고 있었다. 특히 해당 기업은 R&D에 중점을 두고 규모와 속도에서 이점을 얻기 위해 AI를 어느 부문에 어떻게 통합해야 하는지 파악하겠다는 명확한 포부를 밝혔다. 또한 충실도 및 정확도가 높은 시뮬레이션, AI를 활용한 초기 디자인 생성, 소프트웨어 성능 검사 가속화 등 영향력이 큰 11가지 변화에 우선순위를 두었다. 그 후 잘 구축된 프로세스 개선 역량을 이 과제에 적용했다. 지금까지 이 회사는 아이디어 구상에서 생산까지 걸리는 시간을 30%(1년 상당) 단축하고 산업 현장의 신제품 램프업(ramp-up, 양산 초기 수율 향상을 통한 생산 능력 확대) 시간을 최대 40% 줄였다. 또한 전체적으로 매출원가를 1.5%에서 2%까지 절감할 수 있었다.
설문에 응한 기업 네 곳 중 세 곳은 아직 AI로부터 가치를 창출하지 못하고 있다고 답했다. 후발주자들이 적극적인 행동에 나서지 않을 경우, 선두와의 격차는 더 벌어질 수 있다. 긍정적인 소식은 AI 선도 기업들이 대규모 AI 솔루션 채택을 통해 가치를 창출하는 방식을 앞장서 보여주고 있다는 사실이다. 무수히 많은 도전 과제가 산적해 있지만 이를 해결하는 방법이 있다는 것도 명백하다. 업종이나 성숙도 정도와 관계없이 어떤 기업이든 다양한 경험적 증거를 바탕으로 작성된 방정식을 각자의 필요에 맞게 조정해 적용할 수 있다. 먼저 조직 전반의 AI 준비도를 집중적으로 점검하는 AI 성숙도 평가를 수행하면, 현재 회사가 어떤 출발 선상에 있는지, 시범 단계에서 프로젝트 확장 단계로 어떻게 나아갈 수 있는지에 대한 최고 경영진의 이해도를 높이는 데 도움이 된다.
AI 기술이 발전을 거듭하고 채택이 확산되는 가운데 AI 혁신 시기를 놓치지 않아야 할 중요성은 더 커지고 있다.
보스턴컨설팅그룹(Boston Consulting Group) 및 BCG 코리아
보스턴컨설팅그룹(BCG)은 여러 도전 과제를 해결하고 더 큰 비즈니스 기회를 실현시키기 위해 다양한 기업 및 사회 리더들과 협력하고 있습니다. BCG는 1963년 설립 이래 비즈니스 전략의 선구자로 자리매김하며 모든 이해관계자를 이롭게 한다는 목표로 고객과 긴밀한 협력 관계를 이어오고 있습니다. BCG가 제공하는 혁신적인 접근 방식은 조직의 성장과 지속가능한 경쟁 우위를 구축하며, 긍정적인 사회적 영향력을 도모합니다.
다양한 전문가들로 구성된 BCG 글로벌 팀은 전문성과 폭넓은 시각을 바탕으로 현 상태를 바라보며 변화를 추진합니다. BCG는 혁신적인 경영 컨설팅과 기술 및 디자인, 그리고 사내 디지털 벤처를 통해 솔루션을 제공하며, 고객의 성공과 더 나은 세상을 만들기 위한 BCG의 목표를 기반으로 고객 조직의 전 레벨에서 유니크한 협력 모델을 기반으로 컨설팅을 수행하고 있습니다.
BCG 코리아는 1994년 한국에 진출, 서울 오피스를 오픈하며 컨설팅 비즈니스를 시작했습니다. 2024년 한국 진출 30주년을 맞은 BCG 코리아는 약 350명의 뛰어난 컨설팅 인력을 기반으로 매년 20% 이상의 성장률을 달성해오고 있으며, 국내 주요 대기업, 다국적 기업, 다양한 정부 및 공공기관 등과 견고한 파트너십을 바탕으로 기업 및 조직의 성장뿐 아니라 고객의 성장을 기반으로 우리나라 경제 발전에도 기여하고 있습니다.
BCG 코리아는 IT 및 디지털 전문 조직을 바탕으로 IT, 디지털, 생성형 AI 관련 전략 수립과 기업 맞춤형 솔루션을 제공하고 있으며, 최근 기업의 디지털 혁신, 비용 효율성 개선, IT 아키텍처 고도화 서비스를 강화하고 있습니다.
풍부한 글로벌 자원과 서울 오피스의 각 분야의 전문 인력으로 무장한 BCG 코리아는 명실공히 우리나라 최고의 매니지먼트 컨설팅 회사로 거듭나고 있습니다.
