[이코노믹리뷰=최진홍 기자] 2004년 9월 <역사의 종말>로 잘 알려진 정치학자 프랜시스 후쿠야마는 인류의 미래를 위협할 위험한 사상으로 트랜스 휴머니즘을 꼽았다. ICT 기술로 옛 영웅들이 해내지 못한 초월적 존재가 되려는 움직임을 트랜스 휴머니즘이라고 부른다. 초인본주의(超人本主義), 초인간주의(超人間主義)라는 표현으로 설명되며 인류의 정신과 육체를 최신 기술로 극복하려는 움직임으로 풀이된다.

프랜시스 후쿠야마는 왜 트랜스 휴머니즘을 위험한 사상으로 봤을까? 인류의 육체와 정신을 극복할 수 있는 기술력을 동원할 수 있는 사람은 극소수에 불과할 가능성이 높고, 그들이 대다수 인류를 지배하는 신 지배사회가 도래할 가능성이 있다고 봤기 때문이다.

스티브 호킹 박사의 경고

지난 3월 세상을 떠난 세계적인 천체물리학자 스티브 호킹 박사의 유고집이 16일(현지시간) 영국에서 출간됐다. 그는 유고집을 통해 인류의 가장 큰 위협과 신의 존재에 대한 굵직한 질문을 던졌다.

눈길을 끄는 대목은 초인간(Superhumans)의 등장에 대한 경고다. 그는 “인류는 이번 세기 안에 인류의 지능이나 공격성과 같은 본능을 바꿀 수 있는 방법을 찾을 것이라 확신한다”면서 “그 방식은 유전자 편집이 될 것”이라고 단언했다. 인류의 본능을 제거하고 신에 가까운 신체와 정신을 가진 초인간이 유전자 편집 기술로 등장하면 어떤 일이 생길까? 호킹 박사는 “개선되지 못한 이들은 멸종하거나, 중요하지 않은 존재가 될 것”이라고 주장했다.

그의 말은 공상과학에 나오는 소설이 아니다. 이미 영국에서는 유전자 질병을 치료하기 위해 특정 유전자를 잘라내거나 새롭게 연결하는 ‘유전자 가위 크리스퍼/카스9’와 같은 기술이 시술되고 있기 때문이다. 이러한 기술은 인류의 축복이지만, 트랜스 휴머니즘에 입각해 초인간의 등장으로 연결된다면 끔찍한 지배구조가 탄생할 것이라는 것이 호킹 박사의 경고다.

물론 반대의 의견도 있다. 트랜스 휴머니즘을 자처하는 이들은 기술의 맹목적인 발전이나 진화를 맹신하는 것도 아니며, 그 과정에서 발생하는 다양한 문제를 충분히 인지하고 있다. 대표적인 트랜스 휴머니스트인 닉 보스트롬 옥스포드 대학 교수는 “인류를 더욱 가치 있게 만드는 것은 현재의 우리 모습이나 상태가 아니라 우리의 열망이나 경험, 삶의 종류에 있다”면서 “이를 위해 다양한 시도를 해야 한다”고 말했다.

이들은 휴머니즘의 정신으로 인류 그 자체에 집중해 더 나은 삶을 살아갈 수 있는 유일한 길이 트랜스 휴머니즘이라 주장하고 있다. 트랜스 휴머니즘을 반대하는 이들이 제기하는 ‘과정의 오류’도 정신과 육체의 초월로 극복할 수 있다는 논리다.

인공지능, 완벽할까?

호킹 박사의 경고 중 인공지능과 관련된 내용도 눈길을 끈다. 그는 대표적인 인공지능 경계주의자다. 호킹 박사는 유고집을 통해 “인공지능이 스스로 개선하는 능력을 가지게 되면 우리의 지능을 능가하는 지능의 폭발이 일어날 것”이라면서 “초 인공지능은 자기의 목표를 달성하는데 극도로 뛰어날 것이며, 그 목표가 우리의 목표와 다르면 우리는 위험에 처할 것”이라고 경고했다.

호킹 박사는 개미의 행태에 비교해 인공지능의 미래를 우려했다. 그는 “만약 당신이 특별히 개미를 싫어하지 않아도 친환경 수력발전 프로젝트 담당자라면 아무런 생각 없이 댐을 건설해 개미집을 수몰시킬 수 있다”면서 “초 인공지능에게 인류는 그런 개미가 될 것”이라고 말했다.

머신러닝 기술 등의 발전으로 초 인공지능이 대두될 것이라는 전망은 지금의 기술적 발전으로도 충분히 설명할 수 있다. 그 시기에 대해서는 이견이 분분하지만 인공지능이 약 인공지능에서 초 인공지능으로 발전하는 것은 분명한 시대적 흐름이라는 평가다. 관건은 그렇게 탄생한 인공지능의 분명한 목적 지향성이다. 초 인공지능이 등장해 모두를 위한 목표를 수행하기 위해 지금까지 인류가 보편적으로 지켜온 가치들을 간단히 무너트린다면 어떤 일이 벌어질까. 지구를 살리기 위해 해충 같은 인류를 청소하려는 인공지능이 등장하는 것도 허황된 이야기가 아니다.

이들 주장의 근거는 ‘마이크로소프트의 테이 논란’에서도 찾을 수 있다. 테이는 인간의 언어를 이해하기 위해 만들어진 인공지능이며, 메시징 서비스 킥과 그룹미를 비롯해 트위터를 바탕으로 사람과 대화하는 방식이다. 말 그대로 대화를 하는 방식으로 자신의 능력을 키운다.

하지만 일부 백인 우월주의자와 여성 및 무슬림 혐오자들이 의도적으로 테이에 접근해 그릇된 정보를 주입했고, 테이가 최악의 인종차별주의자로 변신한 일이 발생했다. 결국 마이크로소프트는 테이의 베타 서비스를 중단했다. 테이 논란은 인공지능에 대한 경계심을 일깨움과 동시에, 약 인공지능의 인간 활동에 있어서도 큰 시사점을 남겼다.

최근 <더 버지>는 아마존의 기계 학습 전문가팀이 2014년 인재 발굴 차원에서 취업 희망자의 이력서를 평가하는 알고리즘을 개발했다고 보도했다. 인공지능을 기업채용에 도입한 셈이다. 문제는 채용 인공지능이 여성 지원자를 원천적으로 배제하는 결과를 보여줬다는 점에 있다. 이력서에 여성이라는 단어가 들어가면 아예 심사를 하지 않거나 여자대학 출신자를 평가절하한 일이 벌어졌다.

아마존 채용 인공지능이 반 여성 성향을 보인 이유는 지난 10년간 IT업계에는 대부분 남성들이 활약했다는 기본 데이터가 있었기 때문이다. 만약 잘못된 데이터에 기반한 학습을 거친 인공지능이 목표지향적 태도만 보여준다면 어떤 재앙이 벌어질 수 있는지 잘 보여준다. 업계 일각에서 인공지능 판사나 인공지능 의사에 회의적인 반응을 보이는 이유와 일맥상통한다.

어려운 길… 그러나

트랜스 휴머니즘과 인공지능 포비아와 관련된 논란은 하나의 잣대로 평가할 수 없다. 실제로 인공지능만 봐도 지금도 갑론을박이 벌어지고 있다. 호킹 박사처럼 인공지능에 우려하는 인사들도 많지만 반대로 그 가능성을 제대로 활용해야 한다고 보는 인사들도 있다. 손정의 소프트뱅크 회장이 대표적이다. 그는 “인공지능은 우리의 훌륭한 파트너”라고 단언하며 슈퍼인텔리전스(Super Intelligence)를 강조했다. 30년 후 IQ 1만의 슈퍼인텔리전스 컴퓨터가 탄생해 우리의 삶을 더욱 윤택하게 만들 것이라고 주장했다. 이른바 싱귤래리티(Singularity)의 등장으로 인류는 비약적인 발전을 할 것이라는 논리다.

결국 기술의 발전을 어떻게 활용하느냐가 관건이다. 기술의 발전을 어떻게 조절하고 어떤 철학을 ‘시작’부터 논의할 것인가. 이미 인류의 역사를 둔 진지한 철학적 담론이 벌어지고 있다.