오픈AI(Open AI)가 챗GPT(ChatGPT)를 출시한 지 1년도 되지 않은 지금, 기업들은 이미 모든 산업 분야에서 생성형 AI로 고객 서비스(CS) 센터의 역량을 강화하는 방안을 모색하고 있다.
챗GPT나 기타 텍스트 기반 생성형 AI 애플리케이션의 기반이 되는 대규모 언어 모델(large language model, LLM)은 이러한 애플리케이션이 인간과 유사한 텍스트와 음성으로 프롬프트에 응답함으로써 복잡한 질문에 쉽게 답할 수 있는 능력을 제공한다. 일반 대중은 생성형 AI의 역량을 테스트하기 시작했으며 이 기술은 응답의 다양성과 특징에 대한 찬사를 받으며 빠른 속도로 인정받고 있다.
이는 고객 서비스 운영에 적합한 특징들이다. 실제로 우리는 이 기술이 일단 대규모로 실행되기만 하면 생산성을 30~50% 정도 – 혹은 그 이상으로 개선할 수도 있을 것으로 전망한다. 또한, 글로벌 고객 서비스 선도 기업들을 대상으로 한 2022년 BCG 설문조사에 따르면 95%의 응답자들이 향후 3년 이내에 고객 서비스 상호작용 시 AI 봇이 고객을 응대하게 될 것으로 예상하고 있다.
그러나 질문과 도전과제도 남아있다. LLM 기반 챗봇은 본질적인 편향성이 내재되어 있는 데이터로 훈련되어 부정확한 응답을 생성할 수 있으며, 이는 간혹 발생하는 오류로 인해 기업의 수익과 평판에 상당한 비용이 발생할 수 있는 기업 환경에서 초래할 수 있는 큰 문제가 된다. 이는 현재 고객 서비스 환경에서 모든 생성형 AI의 전면 활용이 어느 정도 사람의 감독을 받거나 여행 웹사이트의 휴가 아이디어 제공 등 비핵심적인 서비스를 제공하는 이유에 대해 부분적으로 설명해 준다.
그러나 이는 곧 변할 것이다. 이러한 강력한 신기술을 고객 서비스 부서들에 적용하고자 하는 기업들은 어떠한 활용 케이스가 가장 큰 가치를 창출할 것인지, 그리고 함정을 피하는 동시에 성공을 위한 준비도 할 수 있는 조치들에 대해 결정을 내릴 필요가 있다. 본 보고서에서는 생성형 AI의 긍정적인 전망과 도전과제를 모두 분석하고 고객 서비스 부서 발전을 열망하는 기업들이 가야 할 길을 제시한다.
긍정적 전망
대부분 고객 서비스의 허브 역할을 하는 ‘콘택트 센터(contact center)’는 지난 20년간 큰 발전을 이루었다. IVR(interactive voice response, IVR), 에이전트 어시스트, 로봇 프로세스 자동화, 챗봇 등의 도구들은 이미 고객 서비스 에이전트의 생산성을 향상했다. 이러한 기술로 인해 대부분의 콘택트 센터 에이전트 수는 상당히 감소했는데, 그 주요 원인은 이전의 업무들이 자동화되면서 콘택트 센터 직원들이 디지털 서비스 사용법에 대한 고객 교육 등 새로운 역할과 책임을 맡게 되었기 때문이다.
LLM은 자동화할 수 있는 것들을 현저하게 확대하는 능력이 있다.
그러나 LLM은 자동화할 수 있는 것을 현저히 확대하여 이전 기술의 역량을 훨씬 능가하는 핵심 고객 서비스 업무를 수행할 능력이 있다. 이러한 모델들은 방대한 양의 데이터로 훈련되며 빠르고 정확하게 정교한 텍스트나 음성을 인식, 분류, 생성할 수 있다.
새롭게 부상하는 AI 기반 고객 서비스 애플리케이션들은 새로운 AI 알고리즘, 컴퓨팅 파워의 증가, 클라우드 컴퓨팅 인프라 비용 감소 등 수많은 인에이블러(enabler)로 촉진되어 훨씬 더 빠르고 인간과 유사한 방식으로 고객들에게 응답과 솔루션을 제공할 수 있게 될 것이다. 또한, 훈련 데이터가 조정될 경우 이러한 알고리즘들은 특정 산업이나 기업의 니즈에 더욱 적합하게 파인튜닝(fine-tuning)될 수 있다.
기업들은 이미 고객 서비스 센터에 LLM을 적용하고 있다. 예를 들면, 지속 가능한 에너지 분야의 글로벌 전문 기업인 옥토퍼스 에너지(Octopus Energy)는 올해 고객 서비스 플랫폼에 생성형 AI 역량을 추가하여 각 팀이 이전에 비해 더 빠르게 상세하고 면밀한 이메일 답변을 작성하는 데 도움이 되도록 했다. 옥토퍼스 에너지에 따르면 AI 애플리케이션으로 초안이 작성된 이메일은 사람이 작성한 이메일 답변에 비해 18% 더 높은 고객 만족도 점수를 받았다. 해당 애플리케이션은 이미 전체 고객 문의 이메일의 1/3에 대한 답변을 처리하고 있어 에이전트들은 전기차나 가정용 발전기 등 좀 더 복잡하고 고성장하는 제품을 지원하는 역량을 갖추고 있다.
성숙화로 가는 길
빠른 시일 내 생성형 AI는 고객 서비스 기능을 점차 내재화하게 될 것이다. (보기 1 참조)
생성형 AI는 BCG가 개괄한 여정의 3단계에 곧 도달하여 여전히 사람이 개입되는(humans in the loop), 대부분 소극적인 활용 케이스들을 촉진할 것이다. 또한, 점점 더 복잡한 고객 문의 사항들도 해결할 수 있을 것이다. 이러한 능력은 음성의 톤과 대응력 모두에서 마치 인간 에이전트처럼 고객과 소통하는 능력과 함께 고객 경험을 지속적으로 개선할 것이다.
4단계에서는 대부분의 고객 문의에 대해 AI로 고객을 응대할 수 있을 것이다. 기업들은 고객 문의가 있으면 기존보다 선제적으로 문제를 해결하는 방식으로 전환함으로써 고객 경험을 훨씬 더 크게 개선할 것이다. AI 기반 어시스턴트들은 문제 발생 후 문의에 대응하기보다는 고객에 직접 다가가 공통된 문제들에 대해 예방적 솔루션을 제공할 것이다. 전통적인 AI나 예측 분석은 고객에게 전달할 프롬프트나 메시지에 대해 결정하는 반면, 생성형 AI는 그러한 프롬프트나 메세지를 비침해적(non-intrusive)이고 인간과 유사한 방식으로 개인화하여 전달할 것이다. AI 기반 고객 콘택트에 대한 자신감이 커지고 훈련된 행동이 더 정확해지며 편향성이 사라지게 될수록 사람이 감독할 필요성은 훨씬 더 줄어들 것이다.
궁극적으로 5단계에서는 거의 모든 사용자의 여정에서 AI 지원 서비스를 이용할 수 있게 될 것이다. 생성형 AI는 고객과 기업의 관계를 완전하게 이해하는 개인 어시스턴트 역할을 하고 고객의 니즈나 우려를 예상하며 기업 내 다른 부분과 상호작용함으로써 고객 생애 주기에 대한 전체적인 그림을 개발하는 등, 개별 고객의 구체적인 니즈에 대한 맞춤화 서비스봇을 지원할 수 있다.
기업들은 아직 이 모든 단계를 거치지는 못했으나 다수는 이미 완전한 AI 기반의 고객 서비스 센터의 운영 방식에 대해 구상하는 중이다.
기업들은 이미 완전한 AI 기반의 고객 서비스 센터의 운영 방식에 대해 구상하고 있다.
도전과제의 극복
생성형 AI는 긍정적 전망에도 불구하고 몇 가지 명확한 한계점을 갖고 있다.
중요한 것 중 하나는 생성형 AI가 제공하는 답이 가끔 사실관계가 정확하지 않을 수 있다는 점이다. 이는 높은 신뢰도로 제공되는 고객 문의에 대한 답변이 틀릴 수도 있다는 점에서 고객 서비스 맥락상 매우 위험하다. 더욱이 LLM 기반 애플리케이션들은 특정 상황에 기반한 모델의 파인튜닝에 내재된 편향성을 포함할 수 있다. 이러한 편향성은 일부 고객에 대한 부적절한 대우를 초래할 수도 있다. 더 큰 리스크는 이 기술이 고유 정보 및 지적 재산 또는 부적절한 고객 데이터를 유출시킬 수도 있다는 것이다.
현재 이러한 리스크를 최소화하기 위한 가장 효과적인 전략은 계속해서 인간 에이전트를 개입시켜 AI가 생성하는 콘텐츠를 확인한 다음에 고객에게 제공하도록 하는 것이다. 이렇게 할 것인지는 고객 상호작용의 종류에 따라 다를 것으로 전망된다. 어떤 상호작용은 LLM 단독으로 수행될 수도 있을 것이다. 반면, 고가치의 프리미엄 서비스는 직접적인 인간의 감독이 필요할 것이다. 어떤 기업들은 LLM과 보다 전통적인 AI나 자동화 기술을 혼합해 전통적인 도구의 정확성과 LLM의 인간과 유사한 친밀감을 결합하는 하이브리드형 도구를 구축함으로써 오류 리스크를 줄이기 위해 노력하고 있다.
생성형 AI를 기반으로 하는 고객 서비스 애플리케이션이 성숙해질수록 기업들은 성과에 대한 자신감을 얻어 인간의 감독 필요성을 줄이고 고객들이 AI와 직접 상호작용하도록 할 것이다. 이는 훈련 데이터의 관련성, 품질, 보안, 부정확한 결과나 편향성 제거 능력, AI가 적용되는 구체적인 활용 케이스에 의해 좌우될 것이다. 기업은 각 활용 케이스의 리스크나 한계점을 완전하게 이해하고 관리했을 경우에만 그다음 수준으로 넘어가야 한다. 또한, 기술이 발전함에 따라 성숙도와 상관없이 고객 서비스 측면에서 효과적으로 작용될 필요가 있는 “휴먼 터치”와 공감 능력을 유지하도록 신중한 노력을 기울여야 한다. 마지막으로 기업은 머지않아 고객의 AI 성숙도가 높아짐에 따른 의미를 이해해야 한다. (상자 글 “협상봇의 부상” 참조)
협상봇의 부상
결국 혁신적인 기업과 개인은 타기업이나 타인과의 상호작용 가치를 극대화하기 위해 LLM을 이용하게 될 것이다. B2B 기업에 있어 이는 리스크가 된다. 고객과 공급업체들은 대규모로 최상의 가격 및 조건을 협상할 때 AI 기반 알고리즘을 이용하게 될 것이다.
수천 개의 상호작용을 통해 산업 내 모든 경쟁사의 가격 결정 전략을 추론하고 조율하는 AI 기반 협상봇이 있다고 생각해 보자. 기업들은 보호나 관리 체제를 마련하여 사기성 활동이나 불공정한 특혜를 방지할 필요가 있을 것이다. 심지어는 AI 기반 고객 및 기업들과 다른 방식으로 상호작용하는 법을 고안할 필요도 있을 수 있다.
결정의 중요성
생성형 AI의 혜택을 고려하면 기업들은 관련 리스크나 도전과제에도 불구하고 이 기술을 고객 서비스에 적용하기 위해 그 어느 때보다도 빠르게 움직이고 있다.
그러나 과연 어떠한 방식으로 이를 추진해야 할까? 이는 너무나 중요한 질문이다. 기업은 바로 사용할 수 있는 산업별 솔루션을 구매해야 할까, 아니면 LLM 역량을 적용하는 플랫폼을 제공하는 거대 기술기업의 시스템을 구매해야 할까? 아니면 자체 모델의 파인튜닝에 시간과 자원을 투자해야 할까?
이러한 질문들에 대한 답을 찾으려면 기업들은 바로 지금 상대적으로 간단하지만 가치가 큰 몇 가지 활용 케이스들부터 시작해 기술을 테스트하고 기술적, 기능적, 비즈니스적 측면에서 무엇이 효과가 있고 무엇이 효과가 없는지를 파악해야 한다. 보기 2는 일반적인 고객 서비스 여정 전반의 – 최초 고객 콘택트부터 최종 대응 및 해결책에 이르는 – 다양한 활용 케이스들을 보여주며, 이들은 생성형 AI를 통해 강화될 가능성이 크다.
이는 제트블루(JetBlue)가 취한 접근 방식이다. 미국에 본사를 둔 이 항공사는 자사 챗 채널의 자동화 및 강화를 촉진함으로써 콘택트 센터의 고객 서비스 제공을 지원하기 위해 기술 벤더사 ASAPP와 패키지 방식의 생성형 AI 기반 솔루션 파트너십을 체결했다. 그 결과 콘택트 센터는 챗당 평균 280초를 단축할 수 있었으며, 이로 인해 분기당 총 73,000시간의 에이전트 시간이 절약되어 에이전트들이 복잡한 문제가 있는 고객들을 응대할 수 있는 시간이 늘어났다.
한편 북미의 한 기술 기업은 고객을 지원할 뿐 아니라 엔지니어가 기술 지원 요청을 수행하고 상품 정보에 대한 접근성을 획득하며 일상 업무 자동화도 지원하는 생성형 AI 어시스턴트를 꾸준하게 활용하고 있다. 이 도구의 초기 버전은 how-to 가이드나 기본 상품 구성 정보 등 총지원 요청사항의 약 30%를 차지하는 상대적으로 간단한 요청에 대해 지원을 제공할 것이다. 이 회사는 기술이 성숙해짐에 따라 활용 케이스의 범위를 확대하여 문제점 파악 및 해결 등 좀 더 복잡한 요청사항들을 다룰 수 있기를 희망하고 있다.
기성품 형태의 생성형 AI 기반 고객 서비스 애플리케이션을 구매하여 이를 파인튜닝 하지 않고 사용할지, 아니면 파운데이션 LLM을 구매해 이를 개별 조직의 데이터를 기반으로 파인튜닝 할지에 대한 결정은 해당 활용 케이스의 복잡성과 산업별 맥락에 따라 달라진다.
일반적인 용도의 불특정 활용 케이스의 경우에는 파인튜닝이 불필요하다. 파인튜닝은 복잡하며 항상 정확도 향상을 보장하는 것도 아니며 일반적으로 시간, 금액, 기술적 전문성에 대한 큰 투자가 필요하다.
현재 가장 적절한 접근 방식 중 하나는 머신러닝 시스템 등의 전통적인 AI, LLM, 프롬프트 엔지니어링을 결합하여 이를 기반으로 대고객 애플리케이션을 구축하는 것이다. 이 마지막 요소에는 답변의 정확도 개선을 위해 LLM에 제공되는 정보 및 제약 조건을 개발하고 최적화하는 것이 있다. 예를 들면 프롬프트 자체 내에 기업별 키워드들을 정의하는 것이 포함된다. 이러한 프로세스를 통해 기업들은 더 나은 수준의 컨트롤, 모더레이션(moderation), 개인화를 달성할 수 있다.
그러나 고도의 규제를 받는 산업과 금융 서비스나 방위 산업 등 강화된 데이터 보안 요건이 있는 산업의 경우, 그리고 일반적으로 좀 더 복잡하고 개인화된 활용 케이스의 경우에는 복잡한 고객 요청에 대해 신속하게 대응하고 결과에 대해 개선된 컨트롤을 제공하는 선택지로서 기존 모델의 파인튜닝에 대한 선호도는 커질 것이다.
——————————
최근 생성형 AI의 급속한 발전은 이미 기업이 핵심 고객 서비스 기능을 관리하는 방식을 완전히 바꾸어 놓고 있다. 이제 기업은 어떻게 이 기술이 비즈니스 모델을 훨씬 더 파괴적으로 혁신할 수 있는지에 대해 예상해 보아야 한다.
오늘날의 대규모 고객 서비스 부서는 일반적으로 기업의 나머지 부서와 별도로 고객과 상호작용한다. 하지만 앞으로는 기업의 나머지 부서들과 긴밀하게 협력하여 진정으로 차별화되는 고객 경험을 창출하는 민첩한 데이터 기반 조직이 될 것으로 전망한다. 생성형 AI 시스템은 기업의 상품, 운영, 고객에 대해 학습하게 될수록 고객 행동을 예측하고 이들의 니즈 및 욕구를 예상해 고객에게 다가갈 수 있을 것이다.
생성형 AI는 발전을 거듭함에 따라 그러한 정보를 이용해 생산 및 자원 계획 등 다른 비즈니스 방면에도 더 깊숙이 접근하는 법뿐 아니라 공급업체와 직접 일하는 법도 학습하게 될 수도 있다.
어떤 일이 일어나든 순식간에 일어날 것이다. 준비가 되어있는가?
