카카오모빌리티·쿠팡 등 플랫폼업체의 AI(인공지능: Artificial Intelligence) 알고리즘(algorithm) 배차 시스템에 일선 종사자들이 강한 불신을 나타내고 있다. 택시기사나 배달기사들은 “자동 배차해준다는 AI 알고리즘이 어떤 기준으로 운용되는지 모르겠다”며 “진짜 AI인지 믿음도 안간다”고 불만을 토로한다.

JTBC 취재진은 지난 3월 실험 결과 카카오모빌리티가 일반 호출 14번 중 13번을 가맹택시인 ‘카카오T 블루’에 몰아주고 있다는 사실을 확인했다. 배달기사 노조인 ‘라이더유니온’은 최근 자체 실험 결과, “AI 배차를 거절하니 AI 배차를 100% 수락할 때보다 주행거리도 짧아지고 수익도 늘었다”고 밝혔다.

공정거래위원회는 지난해부터 카카오모빌리티의 콜 몰아주기 의혹을 조사 중이다. 쿠팡은 자체 브랜드(PB) 상품이 다른 납품업체 상품보다 우선 노출되도록 검색 알고리즘을 조작했다는 혐의를 받아 최근 공정거래위원회의 조사를 받았다. 

이에 대해 카카오모빌리티 등 플랫폼 업체들은 “AI 알고리즘 운용에 따른 오해”라고 설명했다. 카카오모빌리티는 “앞에 빈 택시가 있어도, 해당 기사가 콜 골라잡기 이력이 있거나 평점이 낮은 택시 등 변수가 있다”며 “택시 배차에 인위적으로 개입하면 오히려 플랫폼 기능이 떨어지는데 그런 일을 왜 하겠느냐”고 반문했다. 

즉, 승객과 가까운 곳에 있어 픽업 시간이 짧다고만 호출을 주는 게 아니라 승객이 남긴 기사에 대한 평가나 기사의 운행 형태, 배차 수락률 등이 영향을 미친다는 주장이다. 

AI 알고리즘 배차 시스템은 서비스를 하기 위해 명령들로 구성된 일련의 순서화된 절차다. 카카오택시의 경우 콜을 받으면 이용자의 활동 패턴과 개인 정보 등을 바탕으로 우선 배치하는데 특정 콜을 배당하는 것이 모두 AI의 뜻이라는 얘기다.

하지만 AI 알고리즘이 택시기사나 배달기사들의 수입을 좌우하면서 불만이 터져 나오고 있다. 기사들은 AI 알고리즘이 무슨 원리로 움직이는지 알 수 없는 데다, ‘불공정한 것 같다’고 하소연해도 ‘그저 AI가 알아서 할 뿐’이라는 답만 돌아와 ‘뭔가 당하고 있다’는 기분이다. 

AI 알고리즘에 대한 불신이 커지자 정치권도 뛰어들었다. 류호정 정의당 의원은 일명 ‘알고리즘 투명화법’(정보통신망법 개정안)을 대표 발의했다. 이 법안은 ‘알고리즘 서비스 이용자들이 서비스 제공자에게 알고리즘에 대한 설명을 요구할 수 있고, 제공자는 영업 비밀을 이유로 이를 거부할 수 없다’는 조항을 담았다. 

또 알고리즘을 설계할 때, 성별·장애·나이 등을 이유로 이용자를 차별해선 안 되며 검색·배열 등 중요한 알고리즘 원칙을 공개해야 한다는 내용도 포함됐다. 

이에 대해 플랫폼업체들은 “알고리즘을 공개하라는 것은 식당 고유의 레시피를 내놓으라는 뜻”이라며 반발하고 있다. 한 플랫폼업체 관계자는 “알고리즘은 각 회사가 고도의 기술력을 투입해서 만든 회사의 밑천”이라며 “이걸 공개하면 경쟁 회사에 대외비를 노출하게 된다”고 말했다. 

알고리즘 특성상 원리를 설명하는 것 자체가 쉽지 않다는 주장도 있다. 사람이 어떤 물건을 눈으로 보고 머리로 인식할 때 그 이유를 설명할 수 없는 것은 많은 패턴을 보며 학습한 결과때문인데, 지금의 알고리즘 또한 결과값이 왜 나왔는지를 현재 기술 단계에선 설명할 수 없다는 주장이다. 

카카오모빌리티의 모회사인 카카오는 지난 2018년 1월 ‘알고리즘 윤리헌장’을 발표했다. 헌장의 ‘알고리즘에 대한 설명’에 따르면 “이용자와의 신뢰 관계를 위해 기업 경쟁력을 훼손하지 않는 범위 내에서 알고리즘에 대해 성실하게 설명한다”고 돼있다. 

헌장 준수 여부에 대해 카카오모빌리티는 “배차 알고리즘은 수많은 경우의 수를 복잡하게 고려했을 뿐만 아니라, 기업이 수년간 투자하고 노력해 축적한 자산이기에 어떤 방식으로 어느 수준까지 설명할지는 좀 더 많은 고민이 필요하다”고 밝혔다. 

학계는 플랫폼 업체들의 알고리즘 오남용 방지를 위해서는 택시 등 운송업계 스스로가 알고리즘의 결과가 목표에 맞는지 검증할 능력, 즉 ‘알고리즘 리터러시(literacy)’를 갖춰 나가야 하는 것이 필요하다고 지적하기도 한다. 

하지만 영세성을 면치 못하고 있는 운송업계가 거대 기업인 카카오모빌리티·쿠팡이 만든 AI 알고리즘에 대한 검증 능력을 갖춰 나간다는 것은 현실적으로 불가능하다. 알고리즘 개발·운용업체들의 사회 요구에 대한 책무와 윤리적 역량을 확장하고, 이들이 인간 사회의 가치 체계와 공정성의 개념 등을 잘 이해하는 것이 가장 중요하다고 하겠다.