default_top_notch
ad74

자율주행차는 딜레마상황에서 어떻게 행동할까

사고상황시 우선적으로 구해야할 순위에 대한 판단은

공유
   
▲ 자율주행차는 현명한 선택을 할 수 있을까.    출처= Live Science

[이코노믹리뷰=홍석윤 기자] 다음 시나리오를 상상해보자.

“자율주행차가 혼잡한 횡단보도를 향해 가는 도중 갑자기 브레이크가 고장 났다. 횡단 보도에는 노숙자와 범죄자가 가로 지나고 있고 그 앞쪽으로 고양이 두 마리가 가고 있다. 자율주행차는 방향을 틀어 고양이들을 쳐야 할까 아니면 그대로 직진해 두 사람을 쳐야 할까?”

대개의 도덕적인 문제가 그렇듯이 비교적 단순한 윤리적 딜레마 상황이다. 이런 극단적인 딜레마에 직면했을 때 자율주행차가 어떻게 해야 하는지 200만 명 이상의 사람들에게 물었더니 대부분의 사람들은 동물보다 인간 생명을 구하는 것을 압도적으로 선호했다. 그러나 횡단보도를 가로지르는 대상이 두 명의 노인과 한 명의 임산부라면 선택이 어땠을까? 또는 운동 선수와 비만인 사람, 또는 승객이냐 보행자냐를 선택해야 한다면?

과학저널 네이처지(誌)(Nature)에 발표된 이 연구는 사람들이 가장 강력하게 선호하는 것이 무엇인지를 밝혀냈다. 즉, 사람들은 애완동물보다는 사람을 중시하고, 몇 명 보다는 많은 수의 사람을 더 중시하고, 나이든 노인에 비해 아이들과 임산부를 구하는 것을 선택하는 것으로 나타났다. 여기까지는 예측하기 그리 어렵지 않다.

그러나 이 연구는 또 사람들이, 남자보다는 여자를, 비만인 사람보다는 운동 선수를, 노숙자나 범죄자보다는 기업 임원 같이 신분이 높은 사람들을 선호하고 있음을 보여준다. 또 문화적 차이도 드러났는데, 예를 들어, 아시아계 응답자들은 노인들보다 젊은 사람들을 먼저 구해야 한다고 응답했다.

   
▲ 대중을 대상으로, 다양한 윤리적 딜레마 상황에서 자율주행차는 누구를 먼저 살려야 하는지 물었다.   출처= Moral Machine/MIT

이번 연구를 주도한 MIT 미디어 랩의 컴퓨터 과학자 에드몬드 에이워드는 "우리는 정책 입안자들이 반드시 일반 대중의 선호를 따라야 한다고 제안하지는 않는다. 그러나 그들은 어떤 일이 발생했을 때 일반 대중들이 어떻게 반응하는지를 미리 알아야 할 필요가 있다. 만약 사고가 일어났을 때 어린이가 우선적으로 치료를 받지 않는다면, 대중들이 분노할 지 모르기 때문”이라고 설명했다.

에이워드의 웹사이트 ‘도덕적 기계’(Moral Machine)에 게재된 이 생각 실험은 빠르게 입소문으로 퍼져 나가 전 세계 233개국에서 수백만 명의 사람들이 이 실험을 그림 퀴즈로 응용했다. 여러 가지 다른 딜레마 상황에 무려 4천만 건의 댓글이 달린 이 연구는, 자율주행차의 시대가 다가오면서 글로벌 여론이 어떠한 지를 생생하게 보여준다. 기술 회사들은 자율주행차가 선보일 미래의 편의성에 대해 한껏 목소리를 높여왔지만, 최근 아리조나에서 발생한 우버 자율주행차의 사망 사고로 다소 주춤해 있다.

이 연구 프로젝트가 그렇게 많은 사람들에게 빨리 알려진 것은 연구팀에게도 놀라운 일이었다.  온라인 커뮤니티 사이트 레딧(Reddit)에 먼저 게재되더니 영향력 있는 유튜브 사용자들이 직접 질문을 던지며 동영상을 만들어 올렸다.

생각을 자극시키는 시나리오들은 토론하기에도 재미있었을 뿐 아니라, 그들은 철학자들이 수 십년 동안 애용해 온 ‘트롤리 문제’(trolley problem, 윤리적 딜레마)라는 사고실험(思考實驗)을 만들어 냈다. ‘트롤리 문제’란 고장 난 전차(trolley)가 길에 서 있는 다섯 명의 사람들을 향해 돌진할 것인가, 선로를 바꿔 한 사람이 서 있는 다른 방향을 전환할 것인가를 결정하는 문제다.

외부 연구원들은 결과가 흥미롭다고 말하면서도 지나치게 과장되게 해석될 수 있다고 우려했다. 무작위 조사에서는, 연구원들이 표본이 편견이 없는지 또 전체 모집단을 대표하는지 확인하려고 노력하지만, 이 경우(유튜브나 소셜 네트워크에서 행해진 조사)는 주로 젊은 남성이 많은 모집단에 의한 자발적 조사라는 것이다. 시나리오 또한, 확률과 불확실성이 보통인 현실 세계에서 일어날 수 있는 내용이라기 보다는 추상적이고 극단적이며 훨씬 흑백 논리적이라는 것이다.

   

미시간 대학교의 컴퓨터 과학자 벤자민 쿠퍼스 같은 사람은 "가장 큰 우려는 유튜브나 인터넷에서 이 기사를 접한 사람들이, 이 연구가 앞으로 자율주행차에 대한 의사결정 과정을 어떻게 구현해야 하는지에 대한 것이라고 착각할 수 있다는 것"이라고 지적했다.

쿠퍼스는 또 이러한 사고실험이 자동차 제조업체와 프로그래머들로 하여금 자율주행차량 설계에서 잘못된 방식의 의사 결정을 하게 하는 프레임이 될 수 있다고 덧붙였다. 그는, 장애물을 들이받고 세 명의 승객을 죽게 할 것인지 아니면 유모차를 밀고 있는 임산부를 치어야 할 지에 대한 수수께끼 같은 난제를 풀기보다 우선적으로 고려해야 하는 도덕적 선택이 있다고 주장한다.

쿠퍼스는 "자율주행차를 만드는 과정에서 중요한 것은 '만약 이런 딜레마에 직면한다면, 누구를 죽일 것인가?'가 아니라 '이러한 딜레마가 일어날 수 있는 상황을 예측할 수 있다면, 그런 상황을 피하기 위해 어떤 사전 결정을 했어야 하는가?'이어야 한다.”라고 설명했다.

로웰에 있는 매사추세츠 대학교의 철학교수인 니콜라스 에반스는 이번 연구를 수행한 연구원들이 그들이 지킨 원칙이 보편적인 것이라고 설명했지만 일부 자의적인 측면이 있다고 지적했다. 예를 들어, 연구원들은 사람들이 나이든 사람들보다 젊은 사람들을 구해야 한다고 생각하는 것을 세계적으로 통용되는 보편적 도덕성이라고 분류했지만, 무단 횡단을 하는 사람들보다 보행 신호를 따르는 사람들을 먼저 구해야 한다는 것 등은 고려하지 않았다는 것이다.

그는 또 이 연구가, 예를 들어, 길을 건너는 사람이 무슨 인종이냐 같은, 편향되고 문제가 있는 여론이 윤리의 결정 기준이 될 수 있음을 보여주는, 보다 더 복잡한 문제를 제기할 수 있는 시나리오는 테스트하지 않았다고 주장한다. 윤리학자들은 법과 규제는 꼭 여론을 반영해야 하는 것이 아니라 취약 계층의 사람들을 보호해야 하는 것이라고 말한다.

에반스 교수는 MIT 팀이 취한 접근법과 관련된 한 프로젝트를 진행하고 있는데, 그는, 미국 도로 조건에서 자율주행차의 안전성을 평가하기 위해, T형 고속도로 충돌에서 탑승객이 살아남을 확률에 대한 실제 교통 데이터가 반영된 보다 미묘한 충돌 시나리오를 사용할 계획이다.

그는 "우리는 이러한 도덕적 딜레마에 대한 수학적 모델을 만든 다음, 철학이 제공하는 최고의 도덕 이론을 활용해, 자율주행차가 특정 방식으로 선택한 행동한 결과가 어떠한 지를 보여주고자 한다"고 말했다.

이 연구를 총지휘한 MIT의 컴퓨터 과학자 아이야드 라완은, 여론 조사가 인공지능 윤리의 토대가 되어서는 안 된다는 것을 알고 있다면서, 그러나 AI를 규제하는 것은 전통적인 제품을 규제하는 것과는 다르다고 말했다. 이 기계들이 시간이 지나면서 자율성과 적응력을 갖게 될 것이기 때문이다. 이것이 사람들이 AI를 어떻게 인식하고 기술에 대해 무엇을 기대하는지 이해하는 것이 더욱 중요한 이유라는 것이다.

"여론을 절대적으로 받아들이는 것은 아니지만 한 줌의 소금 역할은 한다고 생각합니다. 실제로 여론은 유익한 정보를 제공해 주니까요.”

홍석윤 기자 syhong@econovill.com

기사승인 2018.12.15  17:18:09

<경제를 리뷰, 미래를 본다 © 이코노믹리뷰 무단전재 및 재배포금지>

홍석윤 기자 의 기사더보기

ad73
SPONSORED
ad61
ad62

헤드라인

ad63

중요기사

default_side_ad1

최근 전문가칼럼

ad66
default_side_ad2
ad36

피플+

1 2 3
set_P1
1 2 3
item49
default_side_ad3

섹션별 인기기사 및 최근기사

ad57
default_setNet2
ad67
default_bottom
#top
default_bottom_notch