BCG Podcast
Me, Myself, and AI : 비즈니스 세계 속 AI에 관하여
Ep. 6 | 세계경제포럼 AI 및 머신러닝 책임자 Kay Firth-Butterfield과의 대담
❝ AI는 인간이 단조로운 작업에서 벗어나 더 중요한 일에 집중할 수 있게 해줄 무한한 가능성이 있다. ❞ ― Kay Firth-Butterfield
Kay Firth-Butterfield는 세계경제포럼(World Economic Forum, WEF)에서 AI 및 머신러닝 부문을 담당하고 있다. 인권변호사 출신인 그는 기술이 인간과 인권에 미치는 영향에 대한 관심을 계기로 테크업계에서 일하기 시작했다. 그는 AI 법에 관해 연구 및 강의하고, AI 기업에서 AI 윤리 최고 책임자로 일하는 등 AI와 관련한 사회적 정의, 지정학적 의미, 국제 관계, 문제점 등에 대해 다양한 경력을 쌓았다.
AI 이해하기
사람마다 의미하는 바가 다양한 것이 AI가 어렵고 복잡한 이유 중 하나다. 일단 AI에 대해 제대로 이해한다면 AI 거버넌스(governance)에 대한 이해도 수월할 것이다. 이를 위해 조직의 변화, 직원들을 대상으로 한 교육뿐 아니라 제품 개발 아이디어부터 출시, 그 이후 기업과 고객에 미치는 영향까지 전체 경로에 대한 신중한 고려가 필요하다.
거버넌스라고 하면 혁신에 걸림돌이라고 생각하는 경우가 종종 있지만 꼭 그런 것은 아니다. 실제로 다양한 소프트 거버넌스 아이디어가 시도되고 있는데, 그중 하나로 유럽에서 안면인식 및 HR과 관련해 일부 고위험으로 분류되는 사항들에 대한 규제가 시행될 것으로 보인다. 하지만, 그 외 기업들이 추진하는 대부분의 AI 활용 분야는 고위험 사항이 아니다. 이와 관련해 기업과 정부들이 활용할 수 있도록 툴킷, 지침서, 매뉴얼 등이 마련되어 있으며, 실제 기업들의 사례를 들어보면 특히 전체 직원들을 대상으로 한 교육이 전사적으로 이루어지는 것이 중요하다. AI가 더욱 발전되기 전에 규제 및 거버넌스가 결코 간과할 수 없는 핵심 요소임을 분명히 해야 할 때이다.
AI 관련 불균형
AI의 활용 및 혜택에 있어 개인, 기업 나아가 전 세계적인 차원에서 불균형이 존재한다. 세계적으로 AI 역량과 기술, 인재는 불균등하게 집중돼 있다. 앞으로 어떻게 전체 인류를 위해 보다 균등하게 AI를 활용할 수 있을지에 대해 다 같이 고민해야 한다.
더 나은 미래를 위해 구조적이고 체계적인 대화가 필요하다. AI를 나쁜 의도로 시작하는 기업은 없을 것이다. 기업들은 옳은 일을 하고 싶어 하지만 기술 및 그 실행 방법에 대한 이해가 부족할 뿐이다. 기업들은 결국 사회의 일부분이고 모두 함께 AI에 대한 이해를 증진해 이에 대한 두려움을 없애 나가야 한다.
AI의 잠재력
AI는 인간이 단조로운 작업에서 벗어나 보다 중요한 일, 예를 들어 신약을 개발하고 기후 변화 문제를 해결하는 데 집중할 수 있도록 해줄 무한한 가능성이 있다.
AI에 대해 인내심을 갖지 못하고 처음부터 완벽하기를 바라는 것은 지나친 기대이다. 기술에 대한 무조건적인 과신도, 기술이 내 일자리를 뺏고 나를 감시하는 존재라는 막연한 두려움도 모두 지양해야 한다. 이 모두는 로봇과 기술에 대한 이해가 동반되면 해결될 것이다. 인간과 기계는 한 쪽이 다른 쪽을 지배하기보다는 상호보완을 통해 발전하는 관계가 되어야 한다.
균형 잡힌 AI 거버넌스
불과 몇 년 전에 비해 AI 윤리의 중요성에 대한 인식과 관심은 확실히 증가하고 있다. 거버넌스와 규제에 대한 대화가 필요한 시점에, 특히 미래를 보다 긍정적으로 그릴 필요가 있다. 따라서 AI로 인한 부정적인 영향보다는 그 잠재력을 실현해 달성할 수 있는 긍정적인 효과에 집중해야 할 것이다.
앞으로는 훌륭한 AI 리더의 자질로 기술적인 전문지식뿐 아니라 편견 없는 다양한 경험이 더 중요할 수 있다. 또한 AI를 사회적 관점에서 ESG의 한 분야로 보는 시각을 갖춰야 한다. 다양한 산업에 대해 공통적인 접근법이 활용될 수 있다. 현재 세계적으로 190개 이상의 AI 관련 윤리 원칙이 있는데 이 모든 것을 아우르는 10가지 공통사항이 있다. 안전성, 견고성, 책임성, 투명성, 설명 가능성, 인간과 기계의 상호작용, AI가 인간에게 혜택을 주는 방식 등이 이에 속한다. 이 원칙들은 AI에 관한 것이지만 매우 ‘인간적’인 원칙이며, 인간의 도움을 통해서만 AI가 더욱 발전할 수 있음을 시사하는 것이다.
