핵심 내용 요약
지난 한 해 동안, BCG는 조직이 생성형 AI를 통해 실질적인 가치를 창출할 수 있도록 지원했다. 생성형 AI의 잠재력을 극대화하려면, 기업들은 다음을 추진해야 한다.
- 배포(Deploy). 생성형 AI 도구를 배포해 전사적으로 10%에서 20%의 생산성 개선을 광범위하고 확산된 형태로 빠르게 달성
- 재구성(Reshape). 생성형 AI를 이용해 프로세스와 기능을 재구성해 효율성 및 효과성을 30%에서 50% 향상
- 혁신(Invent). 생성형 AI를 통해 새로운 고객 경험, 서비스, 제품을 혁신하고 비즈니스 모델을 구축함으로써 도전적인 매출 목표 달성
챗GPT 출시 이후 12개월 동안, 대부분의 사람들은 생성형 AI의 역량이 마법처럼 보이는 ‘놀라움의 순간(wow moment)‘을 경험했다.
경영진들 역시 이와 같은 놀라움을 경험했다. 하지만 지난 1년 동안 생성형 AI의 놀라움에 대해 익히 들어왔던 경영진들은 이제 이 기술을 통해 실질적인 결과물이 도출되기를 기대하고 있다. CEO들이 던지는 어려운 질문들은 다음과 같다. 어떤 기회가 가장 큰 가치를 제공하는가? 비용, 편익, 리스크 사이의 절충점은 무엇이며. 기업은 어떻게 생성형 AI를 책임 있게 배포할 것인가? 이 기술이 가져올 어마어마한 변화에 조직은 어떻게 준비해야 하는가?
간단히 말해, 기업은 예상치 못한 인상적인 성능을 보이는 생성형 AI의 마법 같은 능력을 어떻게 해야 그만큼 인상적인 비즈니스 효과로 전환할 수 있는가?
이 질문에 대한 답을 찾기 위해, BCG는 2,000명이 넘는 CEO 및 최고경영진들을 대상으로 생성형 AI의 효과와 한계에 대한 의견을 수렴했다. 이를 통해 기업들이 이 놀라운 기술을 어떻게 사용하고 있는지에 대해 많은 것을 알 수 있었다. 1년 간의 경험과 실험뿐 아니라 매달 출시되는 더 새롭고 놀라운 생성형 AI 모델들에 대한 종합적인 분석을 토대로, 생성형 AI의 막대한 잠재력을 지속적인 가치로 전환하는 방법에 대한 BCG의 견해를 공유하고자 한다.
배포, 재구성, 혁신
하나의 접근 방식으로는 생성형 AI가 제공하는 모든 가치를 전부 확보할 수 없다. 경영진은 세 가지 광범위한 가치 창출을 위한 활동을 통해 기회를 평가해야 한다.
이 활동들은 단순히 투자자나 이사진을 만족시키려는 목적의 소규모 파일럿 프로그램들이 아니다. 생성형 AI를 예산, 프로세스, 역할, 문화 등 모든 분야에 접목하면서 책임 있는 AI 원칙을 준수하고자 하는 조직 전반의 의지가 반드시 수반되어야 한다. 또한 각 활동은 동시에 시작될 수는 있어도, 생산성 결과물, 비용편익 절충점, 성공 요건, 의도치 않은 결과 도출의 리스크, 운영 모델에 미치는 영향 등은 제각각이다. 이를 보다 자세히 살펴보도록 한다.
[1] 일상 업무에 생성형 AI ‘배포‘
생성형 AI는 이미 일상 업무 경험에 환영할 만한 변화를 불러오고 있다. 직원들은 생성형 AI 기반 어시스턴트를 이용해 훨씬 더 빠르게 이메일과 프리젠테이션을 작성할 수 있다. 자동화된 도구들은 단 몇 초만에 회의와 콜 내용을 요약할 수 있으므로 직원들은 보다 창의적이고 부가가치가 높은 업무에 더 많은 시간을 투자할 수 있다.
하지만 변화는 거기서 끝나는 것이 아니다. 소프트웨어 제공업체들은 이메일 분류와 더욱 정교한 고객 참여를 통해 일상의 효율성을 증대하는 한층 더 매력적인 솔루션을 마케팅하고 있다. 다양한 생성형 AI 솔루션과 모델이 폭넓게 배포됨에 따라 생산성은 크게 향상될 것이다. 이는 개별 작업자 수준에서뿐만 아니라 전사적으로도 생성형 AI 도구를 통해 10%에서 20% 이상의 광범위하고 확산된 생산성 개선이 빠르게 실현될 것이다.
‘배포‘ 활동을 시작하려면, 기업은 다음 사항을 실행해야 한다.
지금 시작하라. 기술 측면에서 생성형 AI 배포는 세 가지 활동 중 가장 간단명료하다. 기성 소프트웨어를 이용해 당장 시작할 수 있으며, 팀은 이미 사용하는 워크스페이스 도구를 쉽게 업그레이드할 수 있다. 특히 기밀성, 데이터 개인 정보 보호, IP 소유권과 관련해 배포에 대한 정확한 지침을 수립하는 것이 바람직하다. 또한 특정 작업에 대한 최적 솔루션을 선정할 때 테스팅을 가볍게 취급해서는 안 된다. 일단 도구가 수만 명의 직원들에게 배포된 이후에는, 도구가 적합하지 않다고 판명이 날 경우 방향을 수정하기가 더욱 까다롭기 때문이다.
대대적 도입을 두려워하지 말고 수용하라. 광범위한 스킬 향상은 생성형 AI를 통한 전반적인 효율성 상승을 위해 필수 요소이다. 이 기술이 직원들의 효율성과 개인의 장기적 성장, 그리고 회사의 성공에 얼마나 중요한지 설명하는 스킬 향상 프로그램으로 직원들의 마음을 사로잡아야 한다.
배포에 따른 비용과 혜택을 신중히 평가하라. 생성형 AI를 통해 비용이 절감될 수도 있지만 아닐 수도 있다. 거래 비용은 확장된 호스팅 모델에 분산되기 때문에, 거래당 단위 비용은 하락할 것이다. 반면, 라이선싱에는 고정비 구조가 적용되므로 사용량이 증가하면 비용이 늘어날 수 있다.
그럼에도 불구하고, 생성형 AI 배포는 오늘날의 경쟁 환경에서 필수 요소이다. 관련 비용을 보완하기 위해 다른 비용을 최적화해야 하지만, 제대로 된 기회를 선택한다면 즉각적인 이득이 보상으로 뒤따를 것이다.
[2] 핵심 기능 ‘재구성‘
생산성 향상을 위해 생성형 AI를 배포하는 것은 필수이지만, 그것만으로는 충분하지 않다. 조직은 프로세스와 기능을 재구성함으로써 훨씬 더 큰 기회를 얻을 수 있다.
‘재구성‘ 활동으로 인한 혜택은 고객서비스, 마케팅 콘텐츠, 소프트웨어 배포처럼 예상되는 영역에서도 나타나지만, 현장 서비스와 엔지니어링과 같은 예상하지 못한 분야에서도 발생한다. 기능 재구성은 작업의 중앙집중화, 프로세스 리엔지니어링 등 조직에 도전과제를 주기도 하지만, 무시할 수 없는 보상이 수반된다. 생성형 AI를 이용하면 효율성 및 효과성이 30%에서 50% 개선되기 때문이다.
이는 콜센터에서 고객, 직원, 기업 모두에게 득이 된다. BCG와의 협업을 통해 한 은행의 콜센터는 고객서비스 상담 시간을 약 50% 단축시켰다. (보기 1 참조) 사용된 생성형 AI 도구는 효과적일 뿐 아니라 사용자 친화적이었다. 상담원 피드백에서 해당 코파일럿 솔루션을 다시 사용할 것이라는 비율은 75%에 달했다. 상담 업무에 바쁜 상담원들은 이 효율성 향상을 적극 환영했으며, 고객 역시 마찬가지였다.
‘재구성‘ 활동을 하는 기업들은 다음을 염두에 두어야 한다.
인력에 미치는 영향을 예상하라. 생성형 AI가 업무부서에 통합되면서 개별 업무와 책임이 변화할 것이다. 예를 들어, 콘텐츠 마케팅팀의 카피라이터는 생성형 AI 산출물 편집에 더 집중하게 될 것이다. 하지만 생성형 AI로의 전환에 필요한 요구사항은 광범위하다. 새로운 역할을 만들고 예산을 재편성해야 한다. 또한 성과 평가에도 생성형 AI 사용량이 반영돼야 한다.
생성형 AI를 예측 AI 및 고유 데이터와 결합하라. 생성형 AI를 머신러닝 시스템 및 기타 전통적인 AI 도구, 일명 예측 AI와 결합하면 직무 중심 AI 어시스턴트는 매우 유용한 자산이 된다. 예를 들어, 현장 유지보수 작업자를 위한 통합 AI 어시스턴트는 풍부한 고유데이터를 기반으로 예측 모델을 사용해 고장을 예측하고 작업자들에게 적합한 수리 장소를 안내할 수 있다. 이 어시스턴트는 또한 생성형 AI 모델을 이용해 현장 지식과 수리 절차를 제공할 수도 있다.
이런 유형의 결합모델을 이용해 수리 시간을 30% 단축하고 있는 고객 사례가 있다. 현장 근로자들의 생산성이 개선됐으며, 장비들 역시 더 잘 작동 중이다.
BCG에서는 직원을 위한 내부 도구뿐 아니라 고객을 위한 BCG 솔루션에 있어서도 예측 AI와 생성형 AI를 결합하는 것의 가치를 확인했다. BCG의 파브리크(Fabriq) 마케팅 솔루션은 두 가지 유형의 AI를 이용해 개인 맞춤형 프로그램을 강화한다. 제품 선택 및 실험에는 예측 AI 도구를 이용하고, 캠페인 자동화와 콘텐츠 대량 제작 지원에는 생성형 AI를 함께 사용하는 방식이다.
BCG의 파브리크 사용 경험에 따르면 통합 AI의 전략적 가치가 실질적이고 측정 가능하다는 점이 특히 주목할 만하다. 의료, 은행, 핀테크와 같은 규제가 엄격한 산업의 고객사들에서도 참여도 40% 상승, 계좌 개설 80% 증가, 고객 추천 점수 30% 개선 등 놀라운 결과를 확인할 수 있었다.
업종을 막론하고 생성형 AI를 다른 AI 도구와 통합할 경우 포인트 솔루션 중복을 피해 단순성을 추구해야 하며, 환각(hallucinations)을 방지해 사용자들에게 관련성이 높고 정확한 산출물을 제공해야 한다. 솔루션이 쿼리에 응답하는 데 걸리는 시간을 최적화하기 위해 비용과 안정성 간의 균형을 맞춰야 한다. 현업팀과 기술팀이 정기적으로 모델 성능에 대해 피드백을 공유하는 과정을 거쳐 빠른 속도로 개발을 추진하면 조직은 니즈에 가장 적합한 솔루션을 구축할 수 있을 것이다.
현업 및 부서의 리더들이 활동을 주도하라. 이 리더들은 회사의 AI 사용과 관련한 목표 비전을 정의한다. 가드레일을 설정하고 어떤 것이 효과가 있는지 파악하기 위해 조직의 다양한 부분에 대해 일련의 파일럿 프로그램을 실시한다. 그 후 가장 효과적인 파일럿을 선별적으로 확대하기 위해 체계적인 계획을 수립한다.
하지만 리더들은 의도하지 않은 사용, 환각, 가짜 정밀성 등 생성형 AI 마법의 어두운 면을 조심해야 한다. 또한 생산성에도 리스크가 있다. 잘못된 작업에 생성형 AI를 사용하는 것은 효율성을 파괴하는 지름길이다. 대규모 BCG 연구 조사에 따르면 GPT-4를 이 기술의 역량 한계를 벗어난 작업에 사용한 근로자들은 이 도구를 사용하지 않은 근로자들보다 더 저조한 성과를 보였다.
실험을 통해 기술이 어느 분야에서 가장 효과적인지 정확히 찾아낼 수 있다. 또한, 휴먼인더루프(human-in-the-loop) 피드백 모델을 통하거나 혹은 완전히 자동화될 수 없는 프로세스의 마지막 부분을 담당하는 등 인간이 기계를 보완할 수 있는 분야를 찾아내는 데 도움을 줄 수 있다. 인력은 ‘재구성‘ 전략에서 가장 중요한 부분을 차지한다. 실제로 조직이 10-20-70 법칙에 따라 약 70%에 달하는 대부분의 노력을 인적요인에 집중해야만 완전한 효과를 얻을 수 있다.
[3] 새로운 비즈니스 모델 ‘혁신‘
생성형 AI는 생산성 개선 이상의 역할을 한다. 생성형 AI를 활용해 고객 경험을 재구상하고, 새로운 서비스와 제품을 만들어내며, 새로운 비즈니스 모델을 구축할 수도 있다.
기업들은 생성형 AI를 통해 야심 찬 수익 증대를 추구한다. 한 금융 정보 회사는 생성형 AI 기술을 이용해 금융 데이터 및 분석 내용 판매라는 핵심 상품을 고객용 대화형 인사이트 창출 플랫폼으로 전환하고 있다. 이 서비스 하나만으로 순신규매출 약 1억 달러 상승을 목표로 한다. 회사의 전체 생성형 AI 제품군을 통해 수익 프로필이 혁신되고 기업에 상당한 효과가 창출될 것으로 기대된다.
또 다른 사례로, 한 소비재 회사는 생성형 AI 기반 대화형 어시스턴트를 개발해 고객들에게 개인 맞춤형 진단, 트렌드 검색, 제품 추천, 가상 시착 등의 서비스를 제공 중이다. 이 회사는 이제 전체 가치 사슬에서 더 큰 역할을 할 수 있는 여러 가지의 새로운 D2C 상호작용의 탐색을 시작하고 있다. (보기2 참조)
‘혁신‘ 활동에 대해 다음과 같은 두 가지 내용이 추가된다.
대대적인 엔지니어링을 통해 적절한 수준의 성능을 확보한다. 이 단계의 가치 활동은 가장 복잡하고, 기술적인 측면이 강하므로 안정성과 비용 효율성을 위해 맞춤형 시스템을 구축하는 것이 좋다. 또한 이 디자인 사고(design thinking)에서는 시장의 관심을 창출할 수 있는 적절한 제품 및 서비스 개발을 위해 특히 강력한 고객 중심적 집중이 필수적이다. 보기2에서 소개하는 사례에서는 4개의 각기 다른 대규모 언어 모델, 10개의 데이터베이스, 맞춤형 로직을 이용해 바람직한 사용자 경험을 창출한다.
앞선 두 활동에 비해 ‘혁신‘ 활동은 전체 인력에 미치는 영향이 제한적이다. 빠르게 움직이는 민첩한 소규모의 전담 인큐베이션팀이 새로운 모델 개발에 이상적인 형태이다. 일단 모델이 가치를 창출하기 시작해 프로젝트가 확장되면 어떤 인력 니즈를 고민해야 할 지 알 수 있을 것이다.
이 활동은 장기적으로 가장 큰 경쟁우위를 약속한다. 경쟁우위 달성을 위해 자사 데이터 및 지적재산권을 활용해 모델을 개발한다. 이 고유한 자산은 선구자적인 생성형 AI 경험의 원동력이 된다. 이 자산을 이용해 고객들이 다른 어떤 곳에서도 찾을 수 없는 상호작용을 생성할 수 있다.
생성형 AI 가치 창출
‘배포, 재구성, 혁신‘ 활동은 상호 배타적이지 않다. 세 가지 활동 전반에 대해 이니셔티브를 균형 있게 추진한다면, 생성형 AI를 통해 더 많은 것을 얻을 수 있다. 각 이니셔티브별 구체적인 기술 백본과 책임 있는 AI 정책을 수립하고 직원들이 이니셔티브에 흥미를 갖도록 독려해야 한다. 결국 사람 없이는 마법도 없기 때문이다.
세 가지 가치 활동을 추진함에 있어 다음의 핵심 원칙을 염두에 두어야 한다.
[1] 규모에 맞는 결과물
소수의 고부가가치 혁신 이니셔티브 우선 추진. 수백 개 개별 사용 사례에 대한 생성형 AI의 혜택은 리더들에게 쉽게 와닿기 어려울 수 있다. 하지만 소수의 고가치 프로젝트에 ‘배포, 재구성, 혁신(Deploy, Reshape, Invent)‘ 접근법을 적용한다면 그 장점은 매우 명확할 것이다. BCG 경험에 비추어 볼 때 일단 가장 가능성 높은 기회가 확대 구현되면, 그 영향은 일반적으로 총수익의 5%에서 10%에 달한다.
장기적 효과 역시 매력적이다. BCG와 협업했던 글로벌 기업 중 절반 이상에서 생성형 AI 확장의 잠재적 기업 가치는 10억 달러를 초과한다.
[2] 우뇌와 좌뇌
생성형 AI와 예측 AI를 결합해 가치 창출 강화. 생성형 AI는 콘텐츠 기반 작업에서 우수한 성능을 보인다. 이를 AI의 창의적 측면 소위 우뇌라고 부를 수 있다. 하지만 사물을 정확히 평가하고 수치를 예측하는 작업에는 상대적으로 약하다. 이는 예측 AI가 우수한 역량을 보이는 분석적 활동, 소위 좌뇌의 영역이다.
우뇌형과 좌뇌형 AI를 모두 활용하는 시스템은 제약 업계의 신약 개발과 같은 기능에 가장 적합하다. BCG는 예측 AI를 이용해 대형 제약회사의 화학자들이 이전 업무 흐름과 동일한 시간 동안 100배 더 많은 분자를 테스트하도록 했다. 그 결과 생성형 AI를 통해 분자 특성에 대한 방대한 양의 데이터를 선별해 전체 설계 주기를 최대 30% 감소할 수 있었다.
[3] 10–20–70 규칙
AI 관련 노력의 10%를 알고리즘에, 20%를 기초 데이터 및 기술에, 70%를 사람 및 프로세스에 집중. 특히 머신러닝과 딥러닝과 같은 전형적인 예측 AI 기술 등 이전 세대 AI 기술의 경우 근로자에게 영향을 미치는 비율은 일반적으로 5% 미만이었다. 하지만 생성형 AI는 다르다. 잠재적 생산성 개선 및 필수적인 광범위한 교육 등의 측면에서 기업 인력의 대다수에게 영향을 미친다.
생성형 AI 대규모 활용을 통한 가치를 확보하기 위해, 기업은 인력 계획, 변화 관리, 광범위한 재교육을 통해 사람에 대한 집중을 유지해야 한다.
여정 가속화
모든 부문의 기업들이 생성형 AI를 통해 의미 있는 혜택을 실현하기 위해 발 빠르게 움직이고 있다. 경영진은 생성형 AI 1주년을 원동력으로 삼아 조직의 여정을 가속해야 한다.
- 탄탄한 기반 확립. 기업이 생성형 AI 탐색을 확대할 수 있는 안정적인 환경을 조성한다. 안전하고, 책임 있고, 유익한 실험을 추진할 수 있도록 교육, 가드레일, 사이버 보안 관행을 수립한다.
- 가치 활동 우선순위 결정. 필수 요건을 충족하고, 단기 생산성을 개선하고, 지속적인 경쟁우위를 실현할 수 있도록 ‘배포, 재구성, 혁신‘ 활동에 대해 균형 잡힌 이니셔티브 포트폴리오를 구성한다.
- 가치를 실현하는 최적의 방법 유도. 생성형 AI를 긍정적인 결과물과 연결할 수 있는 최적의 기회에 집중한다. 구체적인 비즈니스 목적에 부합하지 않는 화려한 생성형 AI 기능에 현혹되는 것을 지양한다.
- 엔터프라이즈 학습 가속화. 로컬 및 글로벌 수준 모두를 고려해 조율된 실험에 투자한다. 생성형 AI의 발전 속도를 고려하면, 기업들은 별개의 팀들이 자체적으로 개별 학습 여정을 추진하도록 둘 수 있는 여유가 없다. 지속적이고 광범위한 학습이 최신 기능을 따라잡을 수 있는 최적의 방법이며, 기업 전체 모든 팀들은 학습한 내용을 가능한 한 자주 공유해야 한다.
- 조직의 미래 역량 예측. 결국 경쟁의 장은 정상화되고 부문 내의 모든 기업이 생성형 AI 도구를 구현하게 되며, 기업이 현재 누리는 어느 정도의 경쟁 우위는 차츰 약화할 것이다. 하지만 생성형 AI가 진화를 거듭함에 따라 특히 데이터 품질 우수성, 속도, 민첩성 등 새로운 우위가 주어질 수도 있다. 향후 3~ 5년 후 가장 전망 있는 기회가 어느 분야에 있을지 예측하고 이를 학습 로드맵에 반영해야 한다.
________________________________________
전구나 스마트폰처럼 한 때 마법처럼 보였던 새로운 기술들은 빠르게 필수품이 됐다. 생성형 AI는 특히 다른 형태의 AI 기술과 결합할 때 놀랄 만큼 혁신적일 것이다. 기업들은 이미 경쟁우위 확보를 위해 기술 구현을 적극 추진중이며 망설일 여유가 없다. 장기적 경쟁우위는 말할 것도 없고 생산성 증대와 새로운 수익원이라는 보상이 지금 생성형 AI의 마법을 실현하는 조직에 주어질 것이다.
