[이코노믹리뷰=홍석윤 기자] 美 고등국방연구원(DARPA)의 수장이 인공지능은 여전히 예측 가능하며, 인간에게 어떤 심각한 위협을 제기하려면 지금보다 훨씬 더 정교해져야 할 것이라고 생각한다.   

DARPA 원장인 스티븐 워커 박사는 최근 워싱턴포스트(WP)의 데이비드 이그나티우스 칼럼니스트와의 질의 응답에서 AI는 “여전히 매우 취약한 능력 단계”에 있다고 말했다.

"최소한 오늘날 국방부에서 우리는 기계들이 스스로 무언가를 하고 있는 것을 보지 못했습니다. 연구원들이 ‘인간과 기계’ 협력 관계를 구축하는 데 심혈을 기울이고 있긴 하지만, 우리가 추구하고 있는 제3의 물결(the third wave, 전자공학 혁명에 따른 고도 기술의 시대; 미국의 미래학자 앨빈 토플러의 주장)에서 조차도 아직 인공지능의 일반화까지는 갈 길이 멉니다."

그는 인공 지능의 위협에 대해 "인공 지능은 우리가 밤 잠을 자지 못할 만큼 위험한 것이 아니다"라고 덧붙였다.

워커 원장의 이 같은 발언은 군 당국의 AI 사용을 둘러싼 격렬한 논란이 진행되고 있는 가운데 나왔다. 지난 6월, 구글 직원 수 천명은 회사가 기계 지능을 이용한 국방부 프로젝트에 참여하는 것을 항의하는 탄원서에 서명했다.

이에 따라, 구글은 AI를 이용해서 분쟁 지역 위를 날아다니는 드론 영상을 통해 자동으로 자동차, 건물 등 목표물에 식별 태그를 붙이는 ‘프로젝트 메이븐’(Project Maven)이라는 프로그램에서 탈퇴했다. 구글 직원들은 군이 인공지능을 이용해 더 효율적으로 살인을 저지르고 있다고 비난했지만 군 지도자들은 이 기술이 군인들을 불필요한 위험으로부터 보호하고 궁극적으로 생명을 구하는데 사용될 것이라고 주장한다.

지난해 프로젝트 메이븐을 출범시킨 로버트 O. 워크 전 국방부 차관은 지난 10월 WP와의 인터뷰에서 "의심할 여지없이 구글의 탈퇴는 국방부 내부에서 많은 혼란을 야기시켰다"며 "구글은 AI 기술을 사용해 인간의 생명을 빼앗고 싶지 않다고 말하면서 스스로 커다란 도덕적 모순을 제기하고 있다. 그들은 이 기술로 구할 수 있는 생명에 대해서는 일언반구도 언급하지 않는다.”고 비판했다.

구글이 프로젝트 메이븐을 떠난 지 몇 달 후, DARPA는 인공지능 개발에 초점을 맞춘 프로그램에 20억 달러 이상의 다년간 투자를 했다고 발표했다.

AI의 위협을 강조하는 그룹에는, 영국의 발명가 클라이브 싱클레어, 고인이 된 이론 물리학자 스티븐 호킹과 함께, 인류가 맹목적으로 AI를 추구하면서 위험한 영역을 헤매고 있다고 주장해온 엘런 머스크와 빌 게이츠 같은 기술계의 거두들이 포함되어 있다.

머스크는 AI를 '불멸의 독재자' 또는 '악마'에 비유했고, 호킹 박사는 “AI가 인류의 종말을 가져올 수 있다”고 경고했다.

워커 박사는 WP와의 질의응답에서 침착한 어조로, DARPA 연구원들이 기계가 그동안 훈련받아 온 대규모 데이터 세트의 정보 범위 밖에서 생각하고 유연하게 추론하도록 지시하자, 기계의 성능이 ‘매우 형편없음’을 발견했다고 주장했다.

그는 DARPA의 목표가, 기계들에게 주위 환경에서 보는 것을 이해할 수 있는 능력을 주는 것에 그치지 않고, 인간이 하는 것과 마찬가지로 환경에 적응할 수 있는 능력을 주는 것이라고 말했다.

예를 들어, AI는 여행 가방 위에 앉아 있는 고양이의 이미지를 식별할 수 있지만, 고양이가 여행 가방 안에 있을 수도 있다는 것을 여전히 이해하지 못한다. 반면 인간은 본능적으로 두 상황을 모두 이해할 수 있다.

"어떻게 하면 기계에 그런 종류의 상식을 이해할 수 있는 능력을 줄 것인가가 DARPA가 지향하는 다음 목표입니다. 기계가 단지 시키는 일을 하는 도구가 아니라, 인간과 협력하는 파트너가 되기를 바란다면, 그것은 매우 중요한 일이지요.”