default_top_notch
ad78
ad79
ad74

[홍석윤의 AI 천일야화] AI가 당신의 상사가 된다면

AI, 업무 효율성 넘어 인간 자체를 대체하려 해

공유
   
▲ 메트라이프(MetLife)의 콜센터 고객 서비스 컴퓨터에는 AI 소프트웨어가 있어, 직원의 고객 대응 방식에 대해 일일이 지적해 준다.    출처= Cogito

[이코노믹리뷰=홍석윤 기자] 보험 대기업 메트라이프(MetLife)의 콜센터 고객 서비스 담당자 코너 스프롤스가 전화로 고객과 대화를 나눌 때, 그는 컴퓨터 화면 오른쪽 아래 모서리를 주시한다. 거기에는 작은 파란 상자가 있고 인공지능(AI)이 그의 고객 대응 방식에 대해 지적한다.

말이 너무 빨라! AI가 속도계 아이콘을 점멸시키면서 말하는 속도를 줄이라고 지시한다.

자네, 졸리군! AI가 커피잔 사진과 함께 ‘에너지 신호’를 표시한다.

고객에게 충분히 공감하지 못하고 있어! 하트 아이콘이 뜬다.

지난 수십 년 동안 우리는 로봇 군단이 사무실과 공장에 침입해 한때 인간이 하던 일을 효율적으로 대체하는 것을 상상하며 두려워했다. 그러나 우리는 인공지능이 말단 사원들을 대체할 가능성에 대해서만 생각했지, 그것이 관리자나 상사들까지 대체할 가능성은 간과했을 지 모른다.

물론 스프롤스가 일하는 로드 아일랜드주 워윅(Warwick)의 콜센터 사무실에는 여전히 많은 인간 관리자들이 있다. 하지만 그의 컴퓨터 화면에 있는 소프트웨어는 보스톤의 AI 회사 코기토(Cogito)가 만든 프로그램으로, 항상 직원들이 일하는 것을 지켜보는 일종의 보조 관리자가 되었다. 스프롤스의 모든 통화가 끝날 때마다 코기토가 집계한 그에 대한 평가서는 그의 인간 상사의 통계 보고서에 빠짐없이 추가된다. 비록 스프롤스가 코기토 창을 숨겨도, 프로그램은 모든 내용을 인간 상사에게 보고한다.

코기토는 콜센터나 기타 사업장에서 사용되는 여러 개의 AI 프로그램 중 하나다. 코기토의 조슈아 피스트 최고경영자(CEO)는 코기토 AI의 목표는 근로자들에게 실시간 피드백을 줌으로써 근로자들을 더 효과적으로 일하도록 만드는 것이라고 주장한다.

"인간의 업무 수행에는 변동성이 있지요. 그들의 말투로 일이 잘 되고 있는지 아닌지를 추론할 수 있습니다.”

자동화의 목표는 언제나 효율성 향상으로 시작하지만, 콜센터 같은 새로운 종류의 사업장에서 AI는 인간 자체를 대체할 대상으로 보고 있다. 아마존은 복잡한 알고리즘을 사용해 고객센터에서 일하는 근로자들의 생산성을 추적하고, 목표를 달성하지 못한 근로자에게 자동으로 해고 서류를 작성한다(아마존은 관리자들이 이 과정에 개입할 수 있다면서, 사람이 관여하지 않고 근로자를 해고하지는 않는다고 반론을 제기했다). IBM도 인공지능 플랫폼 왓슨(WatsonI)을 이용해 96%의 정확도로 직원들의 향후 성과를 예측할 수 있다고 주장한다.

여기에 코기토 같은 스타트업까지 가세했다. 코기토는 메트라이프나 의료서비스 업체 휴마나(Humana) 같은 금융 및 소매업체 등 2만 곳의 고객을 보유하고 있다고 주장했다. 이들 고객 중 유니클로와 세븐일레븐을 담당하는 실리콘밸리 기업 퍼콜라타(Percolata)는 매장 내 센서를 이용해 가장 생산성이 낮은 근로자부터 가장 높은 사람까지 순위를 매기며 모든 근로자를 상대로 '실제 생산성'(true productivity) 점수를 계산한다.

   
▲ 아마존에서는 복잡한 알고리즘을 사용해 고객센터에서 일하는 근로자들의 생산성을 추적하고, 목표를 달성하지 못한 근로자에게 자동으로 해고 서류를 보내 논란이 일었다.    출처= TechCrunch

알고리즘에 의한 관리는 새로운 개념이 아니다. 20세기 초 프레드릭 윈슬로우 테일러는 한 작업의 각 단계에 걸리는 시간을 측정한 이른 바 ‘과학적 관리법’(scientific management theory)을 도입해 제조업의 혁명을 일으켰다. 최근에는 우버, 리프트 등 온디맨드 플랫폼이 일정 수립, 급여, 성과 측정 등 기존의 인적 자원 업무를 컴퓨터에 아웃소싱하며 수십억 달러를 절약했다.

하지만 전통적인 9시-5시 근무 노동자들을 AI로 관리하는 것에 대해 많은 논란이 일었다. 비평가들은 자동화 시스템이 직원들의 인간성을 떨어뜨리고 불공정한 처벌을 야기할 수 있다며 경영 업무에 알고리즘을 사용하는 것을 비난했다. 그리고 경영진들에게는 직원들의 모든 행위를 추적할 수 있는 AI를 사용하는 이유가 분명하지만, 적어도 근로자들에게는 그 이유가 명확하지 않다.

식품 및 소매업 노동자들을 대표하는 국제 식품 및 상업노동자 조합의 마크 페론 조합장은 지난 4월 아마존에 대해 "어떤 회사라도 아무런 인적 개입 없이 자신의 노동자들을 해고할 수 있다고 생각하는 것은 초현실적 발상"이라고 경고했다.

긱 이코노미의 등장으로 확산된 알고리즘에 의한 관리는 노동자들과, 노동자들을 고객에게 연결하는 플랫폼 사이의 긴장감의 원천이 되었다. 올해, 포스트메이트(Postmates), 도어대시(DoorDash) 같은 온디맨드 음식배달업체의 운전자들은, 운전자들 자신도 모르게 고객의 팁을 최저 임금에 포함시키는 알고리즘 계산 방식에 대해 격렬히 항의했다.

하지만 아직 메트라이프 콜센터에서는 이렇다 할 항의가 없다. 직원들은 기껏 코기토 소프트웨어를 가벼운 귀찮음 정도로 보았다. 일부 직원들은 기계가 어떻게 자신들의 감정을 알아내는지 파악하려고 애썼지만, 코기토는 AI가 직원과 전화를 건 고객 사이의 미묘한 톤 차이를 분석해 직원이 고객의 느낌을 반영하도록 격려한다고 말했다.

1500여 명의 콜센터 직원에게 이 소프트웨어를 사용하는 메트라이프는 이 프로그램을 통해 고객 만족도가 13% 높아졌다고 말한다.

메트라이프의 글로벌 운영 책임자 크리스토퍼 스미스는 “이 프로그램이 부지불식간에 직원들의 행동을 변화시킨다”며 “인간과 보다 많은 상호 작용을 하고 있다”고 설명했다.

회사에서의 AI 사용을 옹호하는 사람들은 이 시스템이 AI가 인간을 지배하려는 의도가 아니라고 주장한다. 오히려 고객에 더 감사하는 마음을 갖게 하고 고객의 실망감을 더 잘 이해하게 하며 업무 태만도 막아줌으로써 근로자들을 돕기 위한 의도라는 것이다.

직장 AI에 대한 최고의 쟁점은, 인원 채용의 경우처럼 인간의 편견이 의사결정을 왜곡하는 상황일 것이다. 뉴욕의 스타트업 피메트릭스(Pymetrics)는 이력서 심사과정을 AI 프로그램으로 대체함으로써 기업 채용 업계에 진출했다. 이 회사의 AI 프로그램은 일련의 게임을 사용해 해당 기술을 테스트한 다음, 채용 결과가 편파적이거나 특정 그룹을 우대하지 않도록 알고리즘을 분석한다.

피메트릭스의 프리다 폴리 CEO는 "우리는 편견을 제거할 때까지 데이터와 알고리즘을 수정할 수 있다. 하지만 인간은 그렇게 할 수 없다"고 주장한다.

AI를 사용해 인간의 편견을 바로잡는 것은 좋은 일이다. 그러나 AI가 우리의 직장에 더 많이 침투할수록, 임원들은 직원들에 대한 통제를 강화하고 직원들을 지속적인 감시와 분석의 대상으로 전락시키려는 유혹을 이겨내야 할 것이다. 그렇게 된다면, 적어도 로봇이 폭동을 일으키지는 않을 것이다.

홍석윤 기자 syhong@econovill.com

기사승인 2019.11.16  17:00:00

<경제를 리뷰, 미래를 본다 © 이코노믹리뷰 무단전재 및 재배포금지>
<필자의 견해는 ER편집방향과 무관합니다.>

홍석윤 기자 의 기사더보기



ad81
인기뉴스
ad73
SPONSORED
ad61
ad62

헤드라인

ad63

중요기사

default_side_ad1

최근 전문가칼럼

ER TUBE

1 2 3 4 5
item52
default_side_ad2
ad36

피플+

1 2 3
set_P1
1 2 3
item49
default_side_ad3

섹션별 인기기사 및 최근기사

ad57
default_setNet2
ad67
ad84
default_bottom
#top
default_bottom_notch