생성형(Generative) AI 도입 시 잊지 말아야 할 기본 요소
챗GPT를 비롯한 생성형(Generative) AI 시스템의 출시는 AI 민주화에 있어 혁신적인 순간이다. 앞으로 더 많은 사람들이 이 기술을 사용하게 되고, 조직의 진입 장벽은 낮아질 것이다. 이런 분위기 속에서 흥분에 휩쓸리기 쉽다. 챗GPT는 놀라운 역량과 재미있는 실패를 동시에 선보이며 인터넷에서 연일 화제를 불러 일으키고 있다. 많은 이들이 빠르게 고등학교 에세이의 종말을 예측하고, 창의적 글쓰기의 죽음을 애도하며, 일의 미래에 대해 경고의 목소리를 높였다.
이런 반응은 충분히 예상 가능한 것이다. 이는 전형적인 가트너 하이프 사이클(Gartner Hype Cycle)로 우리는 현재 생성형 AI 시스템의 물결 속에서 기대치의 최고봉을 경험 중이다. 하지만 상황이 아무리 빨리 움직인다고 해도, 비즈니스 리더는 과장된 거품이 걷히면 이 시스템도 단지 기술에 불과하다는 사실을 간과해서는 안 된다. 다른 모든 기술과 마찬가지로, 결국 가장 중요한 것은 비즈니스가 이 기술을 사용할 것인가가 아닌 이 기술의 사용이 비즈니스 모델에 어떤 영향을 미치고 비즈니스와 고객들의 관계를 어떻게 변화시키느냐에 대한 것이다. 기술의 도입 속도와 기본 사항에 집중하는 조직들은 생성형 AI 도입으로 가장 큰 보상을 얻을 수 있을 것이다. 다음은 기업들의 투자와 포지셔닝을 강화할 수 있는 8개의 핵심 요인들이다.
[1] 비즈니스 맥락에서 역량과 한계를 이해하라
AI 민주화, 새로운 역량의 잠재력, 사용 편의성 증가로 인해 새로운 생성형 AI 시스템에는 수많은 사용사례가 있다. 이로 인해 경영진들에게 시급한 과제가 발생한다. 이 시스템을 조직에 도입하기 위한 의미 있는 투자 방식을 결정해야 하는 것이다. 경영진들은 생성형 AI 시스템의 현재 및 단기 역량에 걸맞은 다양한 사용사례의 타당성을 정확히 이해해야 한다. 시범 적용 분야와 목표 출시를 꼼꼼하게 선별하는 비즈니스 리더는, 섣부른 활용으로 노력이 무산되고 고객 신뢰가 약화되는 것을 막고, 장기적 성공을 달성할 수 있을 것이다.
[2] 비즈니스 모델을 새로운 기회에 맞게 수정하라
생성형 AI 시스템은 강력하지만, 결국 고객 가치를 실현하고 궁극적으로 가치 교환의 기반을 마련한다는 특정한 목표 달성을 위해 사용되는 기술일 뿐이다. 비즈니스 리더는 계속해서 생성형 AI를 도입하는 제품이나 서비스의 경제성과 가치 교환에 대해 비판적으로 사고해야 하며, 이것이 저절로 금융 거래의 수요와 기반을 창출할 것이라고 가정해서는 안 된다. (단기적으로 무료 서비스의 경우에는 그럴 수 있지만, 장기적으로 고객들은 구체적인 가치를 원하게 될 것이다.)
[3] 정확한 개발 로드맵 조정을 위해 고객과의 피드백 접점을 높여라
기초 모델을 기반으로 한 생성형 AI 시스템은 특정 목적에 맞게 미세 조정하기 위한 데이터가 더 적게 필요하기도 하지만, 고객 상호작용의 새로운 방식을 제시하기도 한다. 따라서 제품과 서비스 개발 프로세스에서 고객들이 시스템에 참여하는 방식에 대해 더 많은 주의를 기울일 필요가 있다. 분명하지 않은 고객들의 니즈를 포착하는 더 촘촘한 피드백 루프를 수립함으로써 조직은 제품-시장 적합성(product–market fit)을 더 빠르게 달성하고 궁극적으로 투자를 통한 보상을 실현할 수 있다. 이 피드백 루프에서 고객들이 새로운 기능(인터페이스의 직관성, 가치 실현 등)에 대응하는 방식을 집중적으로 살피고, 정성적 피드백 채널을 통해 도입 및 사용의 마찰지점을 찾아야 한다.
[4] 편견, 개인정보 보호 등 책임감 있는 AI(Responsible AI) 시스템을 만들 것
많은 경우, 생성형 AI 시스템 기능은 API(Application Program Interface; 챗GPT와 DALL-E2의 경우)를 통해 소비되는데, 이는 시스템의 운영 및 개발에 대해 통제력과 투명성이 거의 없음을 의미한다. 이로 인해 조직은 편견과 개인정보 침해 문제의 심화로 책임 있는 AI에 대한 투자가 취소될 위험에 노출된다. 그뿐만 아니라, 미래의 생성형 AI 시스템은 현재 시스템에서 생성된 데이터를 기준으로 훈련되기 때문에 기존 윤리 문제를 증폭할 수 있다. 물론 윤리와 안전성은 모든 AI 시스템의 설계, 개발, 배치에 최우선 순위이다. 하지만 생성형 AI 시스템의 경우에는 이것이 특히 더 시급한 과제다. 하루아침에 폭발적으로 등장했지만, 너무 미묘한 나머지 알아차리기 어려워 통제 불가능한 결과로 연결될 수 있기 때문이다. 편견의 추이를 추적할 수 있는 모니터링 역량에 투자하면, 조직이 사고 발생 후에 대책을 취하기보다는, 이슈가 등장할 때 능동적으로 해결하는 데 도움이 될 것이다.
[5] 규제 준수를 실현하고 유지하라
생성형 AI 시스템이 제공하는 역량은 확대되고 투명성과 설명 가능성은 제한됨을 감안하면, 일부 새로운 규제 요건의 준수는 훨씬 더 어렵고 복잡해질 수 있다. 관련 사용사례들이 광범위하게 확산되고 사람들에게 미치는 영향이 유의미해지면서, 규제 당국의 조사는 더욱더 강화될 것이다. 능동적인 경영진이라면 조직이 이 과제를 더 빠르게 이해하고, 생성형 AI 시스템의 사용에서 야기될 수 있는 규제 준수의 격차를 파악하도록 촉구할 것이다. 또한 조직 내 리스크와 컴플라이언스, 개인정보 보호, 법무 및 윤리 기능이 기술 인프라, 프로세스, 정책, 지배구조를 통해 시스템 장애를 사전에 방지할 수 있는 토대를 마련하도록 할 것이다. 예를 들어, AI 라이프사이클에서 추적 및 감사 등의 기술을 이용하면 긴급한 오류를 조기에 파악해 이슈가 확산되고, 고객에게 영향을 주며, 규제 요건을 위반하기 전에 해당 직원들에게 조치를 취하도록 경고할 수 있다.
[6] 강력한 사이버보안 보호조치를 실행하라
악의적 행위자(malicious actor)들은 한 번만 성공하면 되지만, ‘좋은 사람들’은 시스템과 이해 관계자들을 보호하기 위해 항상 대비해야 한다. 소프트웨어 공급망 취약성, 적대적 공격과 같은 기업들이 반드시 인지해야 하는 새로운 공격 표면(attack surface)을 도입하는 생성형 AI 시스템도 마찬가지이다. 이 시스템을 무너뜨리는 창의적인 방법은 많이 있다. 예를 들어, 챗GPT에서 VM을 시뮬레이션하면 임의코드를 트리거할 수 있는 방법을 알 수 있다. 이는 리스크 관리자들에게 앞으로 해결해야 할 도전과제가 더 많다는 것을 의미하며, 방어팀은 취약점을 찾기 위해 이 시스템에 대한 레드팀 구성에 투자해야 한다. 마무리를 확실히 하고 모니터링, 통제, 보호장치(특히 머신러닝 관련 취약성에 맞춤화)를 강화하는 것이 더 중요해질 것이다.
[7] 고품질 독점 데이터 공급을 보장하는 성숙한 인프라를 구축하라
시장에서 경쟁 우위를 달성하고자 하는 기업의 경우, 경쟁업체도 사용할 수 있는 기성품 생성형 AI 시스템을 사용하는 것만으로는 뛰어난 비즈니스 실적을 실현할 수 없을 것이다. 구체적인 맥락과 사용사례에 적합하게 모델을 미세 조정하고 수정해야 한다. 고객 상호작용을 통해 고품질 독점 데이터(고객 동의를 득한)에 접근할 수 있다면 생성형 AI가 더 효과적이고 믿을 만하며, 고객 니즈 충족에 더 적합하게 됨으로써 생성형 AI에 대한 조직의 투자가 증대될 것이다. 이는 데이터 파이프라인 견고성, 재현성, 안정성과 같은 성숙한 데이터 인프라의 핵심 기능, AI 기반 인사이트를 쉽게 응용할 수 있는 기능 저장소(feature store), AI 라이프사이클의 모델 관리 개선에 투자를 통해 달성 가능하다. 또한 기업은 생성형 AI 시스템을 통합해 의미 있고 잘 설계된 경험을 만들어낼 수 있는 엔지니어링 스킬이 있는 인재가 필요할 것이다.
[8] 원활한 작동을 위해서는 사람이 여전히 필요하다는 것을 인정하라
생성형 AI를 최대한 활용하기 위해 기업 리더들은 이 기능이 도입되는 방식에 대한 결정부터, 어떻게 관리되고 어디에서 시범 운영되고 배치되는지에 이르기까지 전체 루프의 내용을 제대로 이해하고 있는 사람들을 계속 유지해야 한다. 기업들은 직원들이 두려움을 느끼는 것이 아니라 힘을 얻을 수 있도록 직원들과 함께 변화 관리 여정을 시작해야 한다. 마지막으로, 생성형 AI가 거대한 가속기이기는 하지만, 리더들은 생성형 AI로 인해 주요 분야에 불필요한 의존성이나 취약성이 생겨나지 않도록 직원들이 의식적으로 의존하게끔(어느 분야에서 어떻게 새로운 기능을 이용하고 상호작용하는지 검토하는 등) 교육해야 한다.
——————————
생성형 AI 시스템의 도입으로 많은 것이 변하겠지만, 여전히 변하지 않는 것도 많을 것이다. 앞서 소개한 핵심 사항들은 이미 다른 신흥 기술들을 통합하기 위해 고군분투해 온 비즈니스 리더들에게는 친숙할 것이다. 이 핵심 이슈들을 우선적으로 처리하는 것은 2023년 업계를 선도하고자 하는 조직들에게 차별화된 경쟁 우위가 될 것이다.
