BCG Podcast
Me, Myself, and AI : 비즈니스 세계 속 AI에 관하여
Ep. 7 | 리프트 머신러닝 VP Craig Martell과의 대담
❝ 알고리즘 자체보다는 그 활용이 더욱 중요해지고 있다. ❞ ― Craig Martell
Craig Martell은 링크드인(LinkedIn), 드롭박스(Dropbox)를 거쳐 현재 리프트(Lyft)의 머신러닝 부문 VP이며, 노스이스턴 대학교(Northeastern University)에서 부교수로 강의 중이다. 그와 함께 AI 이니셔티브에 관한 편견 및 교육 등 다양한 부문에서 인식의 중요성에 대한 의견을 나눴다.
AI 모델의 인문학적 관점
알고리즘은 그 자체도 매력적이지만, 알고리즘의 활용과 알고리즘이 인간에게 의미하는 바를 분석하는 것은 더 매력적인 일이다. 하나의 새로운 AI 모델이 하나의 인지 과학 테스트라고 볼 수 있다. 예를 들어 자율주행의 경우, 자동차 주행 방식을 모델링하는 것은 다른 차들을 운전하는 것이 사람들이라는 점을 생각할 때 사실상 사람들의 행동을 모델링하는 것이다. 이런 면에서 AI를 인문학적 관점에서 분석할 수 있다.
알고리즘보다 그 활용의 중요성
알고리즘 자체의 중요성이 감소하고 있는데, 심지어 어느 정도는 알고리즘이 ‘상품화’했다고도 말할 수 있다. 알고리즘의 효과는 데이터의 청정도 및 적시성과 관련이 있다. 점차 자동 ML, 패키지 툴과 같은 알고리즘보다는 데이터의 사용 방법이 중요해질 것이다.
5~10년 전만 해도 알고리즘 개발의 기술적 역량이 매우 중요했지만, 이제는 이미 여러 프레임워크가 수립되어 있어 알고리즘을 도출하는 자체는 훨씬 수월해졌다. 예를 들어, 컴퓨터 공학 및 일반 공대 학부생들이 졸업 전에 보통 2, 3개의 핵심 AI 수업을 수강한다고 했을 때, 이 정도의 강의와 적절한 인프라, 적절한 데이터만 수반된다면 기업에 필요한 모델의 70%는 실행할 수 있다. 물론 30% 정도는 박사 학위가 있는 전문가 필요하겠지만 예전에 비하면 매우 큰 진전이다.
기술도 중요하지만 결국 정말 중요한 것은 일하는 방식, 인간과 AI의 상호작용 방식을 변화시키는 것임을 다시 한번 확인시켜 준다고 할 수 있다. 물론 기술도 매우 중요하지만, 이제 이것은 ‘비즈니스’의 문제이다.
관리자들이 꼭 알아야 할 것
최고 의사 결정자는 모델이 잘못될 경우의 위험 요소, 전반적인 프로세스, 데이터 라벨링의 필요성, 그리고 모든 문제를 한 번에 해결할 묘약은 없다는 점을 깨달아야 한다. 전체 라이프 사이클에 대한 이해가 필수다.
더 낮은 수준의 관리자라면 모델로 인해 발생할 수 있는 오류의 종류를 이해해야 한다. 상황에 따라 제품 담당자로서 선택을 해야만 하는 상황에 놓일 수 있다. 예를 들어 대부분의 문서 검색 작업의 경우, 관련 자료 전부를 필요한 것이 아니라 충분한 양만 있으면 된다. 또 다른 예로 리프트(Lyft)의 경우를 생각해보면, 목적지에 가장 쉽게 도달할 수 있도록 해 주는 추천안은 아주 정확하지 않아도 큰 문제가 없다. 하지만 자율주행차가 보행자를 확인하는 기능의 경우에는 단 한 명도 놓쳐서는 안 되기 때문에 훨씬 어려운 과제가 된다.
AI와 편견
AI가 실생활에서는 인지과학 실험이나 다름없다는 측면에서, 무의식적 편견에 대해 생각해보자. 인간은 오랜 역사와 경험 속에서 의도치 않게 편견을 갖게 됐다. 이 편견이 너무 강력해 AI가 잘못된 결과를 도출하지 않으려면 어떻게 해야 할까?
AI와 편견을 잘 보여주는 <알고리즘의 편견(Coded Bias, 2020)>이라는 영화가 있다. 이 영화에서 MIT 미디어 랩(Media Lab)의 한 흑인 여학생은 안면 인식 프로그램이 흑인 여성들에게는 제대로 작동하지 않음을 보여준다. 이는 매우 흥미로운 소셜 스터디로, 당시 개발 담당자들이 거의 백인 남성이었기 때문에 이 안면 인식 프로그램 머신러닝에 사용한 데이터 수집에 문제가 발생했음을 알 수 있다. 심리학 연구에도 비슷한 편향성이 늘 나타난다. 보통 심리학 연구는 대학생들을 대상으로 하기 때문에 그 결과물이 고령층에게는 잘 적용되지 않는다.
사실 세상이 편향되어 있는 것은 당연하다. 편향성 자체가 문제라기보다, 데이터 수집에 있어 목표를 고려하지 않고 대상 고객을 정확히 설정하지 않은 것이 잘못이다. 다양성을 증진하는 것 등이 이에 대한 해결책이 될 수 있다.
결국 기술의 문제가 아니라 비즈니스의 문제, 전략, 프로세스의 문제이다. 경영진들은 AI에 대해 선택과 결정을 내릴 수 있는 기본적이고 필수적인 수준의 이해를 갖추고, 이를 비즈니스의 전략에 적절히 반영해야 할 것이다.
