21세기 탈로스 신화: 슈퍼 인공 지능

[요약] 슈퍼 인공 지능이 인류에 대한 존재론적 위협이 될 수 있다는 걱정의 소리가 점점 커지고 있다. 급기야 엣지[Edge]의 2015년 질문 주제로 “생각하는 기계”가 선정되었고, 200명에 가까운 세계 석학들이 답을 달았다. 그러나, 사실 이건 있지도 않은 신화에 대한 얘기일 뿐이고, 우리에게 진짜 중요한 문제는 인공 지능으로 당장 바뀌게 될 우리 사회, 우리 삶의 이야기가 될 것이다.

・      ・      ・

지디넷 코리아에 기고한 컬럼. 아래 링크 참조.

21세기 탈로스 신화: 슈퍼 인공 지능

・      ・      ・

(원고)

그리스 신화에 나오는 탈로스는 대장장이의 신인 헤파이스토스가 만든 청동 거인이다. 이는 제우스가 (연인인 유로파를 위해) 크레타의 왕 미노스에게 준 것으로, 크레타 섬을 하루 세 번 돌면서 무단 접근하는 배들에 바위를 집어 던지고, 상륙하려는 사람들을 불타는 몸으로 껴안아 죽게 한다는 가공할 위력의 (일종의) 로봇이다.

문명 이래로 반복되는 인조 인간의 이야기는 21세기에도 변함이 없다. 작년, 그리고 해를 넘겨서까지 첨단 기술 분야에서 아마도 가장 논쟁을 일으키고 있는 주제는 가공할 위력의 ‘인공 지능[AI]’일 것이다. 바로 21세기에도 반복되고 있는 최첨단 탈로스 신화라고 할 수 있겠다. 그러나 이 최첨단 키워드 자체는 이미 신상은 아니다. 마크 앤드리슨이 며칠 전에 날린 트윗이 이 키워드의 역사를 간단명료하게 잘 표현해주고 있다.

1960-1985: “AI가 세상을 지배할 것이다!”
1985-2010: “AI는 실패로 끝난 대실망이다!”
2010-current: “AI가 세상을 지배할 것이다!”

왜 다시 인공 지능인가? 흔히 무어의 법칙으로 대변되는 컴퓨팅 파워의 지수함수적인 증가와, 구글, 페이스북, 트위터 등 웹 서비스 기반의 (진짜) 빅 데이터의 등장, 그리고 이 빅 데이터를 이용한 기계 학습, 특히 ‘딥 러닝’ 기술 적용이라는 환경 변화가 인공 지능의 붐을 다시 불러일으키고 있는 것으로 보인다. 거기에 <트렌센던스>나 <그녀[Her]>, 최근의 <엑스 마키나>까지, 최근 부쩍 늘어난 인공 지능이 등장하는 영화들이 대중의 상상력을 자극하고 있다. 트랜스 휴머니즘 철학자인 닉 보스트롬은 최근 출간된 ‘초지능[Superintelligence]’에서 인간을 능가하는 지능의 가치, 문제점, 시나리오에 대한 진지한 화두를 던졌다. 이에 당대 최고의 물리학자(스티븐 호킹)와 가장 선망되는 첨단 기업가(엘론 머스크)가 인공 지능의 위험성을 경고하고 나섰고, 세계 최고의 부자(빌 게이츠)가 맞장구를 쳤다. 과연 슈퍼 인공지능이 인류 멸망의 ‘존재론적 위험[Existential Risk]’을 가져올 것인가?

이에 대해, 작년 하반기에 세계 석학들의 온라인 결집소라는 엣지(Edge.org)에 컴퓨터 과학자인 재론 래니어가 ‘AI의 신화[The Myth of AI]’라는 제목의 의견을 제시하자, 스티븐 핑커 등 쟁쟁한 학자들이 댓글로 뜨거운 반응을 일으켰다. 급기야 엣지에서는 매년 석학 회원들에게 한 가지 주제를 던져 의견을 받는 행사의 2015년 주제를 아예 ‘생각하는 기계에 대해 어떻게 생각하세요?[What do you think about machine that think?]’라고 정했고, 이에 대한 응답으로 물리학, 심리학, 인지과학, 뇌과학, 컴퓨터 과학, 저널리즘, 예술 등 인공 지능과 직간접적으로 관련된 분야의 자타 공인 전문가 186건의 답변이 올라와 있다.

우선 재론 래니어가 이 ‘신화’를 반박하는 의견부터 살펴보자. 래니어는 현재 나오고 있는 인공 지능의 위협은 가짜라고 단언한다. (진짜보다 가짜의 위험성이 더 크단다) 현재의 패턴 인식 기술, 예를 들어 사람 얼굴 인식이나 번역 같은 분야에서 최근의 딥 러닝 기법은 놀라운 성과를 보여주고 있기는 하다. 이것은 사용자들이 끊임없이 만들고 있는 대가 없는 자발적 빅 데이터에 기반을 둔다. 그런데 이게 문제가 될 수 있다. 우선 데이터가 조작될 수 있다는 것이다. 인공 지능이 만들어내는 추천을 사용자들이 쉽게 받아들이고, 그런 사용자들이 만들어내는 빅 데이터가 다시 인공 지능을 만들어낸다. 애초에 경험적 비교 기준이 없는 상태에서 이것은 잘못된 자기 이해로 이어질 수 있다. 예를 들면 라이브러리가 빈약한 넷플릭스가 첫 화면에서 추천하는 몇 안 되는 작품을 사용자들은 쉽게 받아들인다. 그럼 여기서 나오는 데이터가 순수한 데이터라고 말할 수 있나?

빅 데이터의 다른 문제는 이렇게 사용자들이 쌓아가는 데이터에 대해 공식적인 대가가 없다는 것이다. 이런 왜곡된 경제 시스템이라면 그 지속 가능성에 의문이 생긴다. (사용자들이 빅 데이터를 안 만들면 그만 아닌가? 줄어들고 있는 트위터 사용자 수를 보라. 야후, 싸이월드, 마이스페이스 등 불과 몇 년 전 성공 신화들의 현재는 어떤가)

그리고 결정적으로 그간의 많은 과학적 성과에도 불구하고, 실제 인간의 생각이 정확히 어떻게 돌아가는지에 대한 지식이 거의 없다는 게 문제다. 그래도 어쨌든 기술이 지수함수적으로 발전하고 있고, 그러다 보면 언젠가는 풀릴 문제가 아니냐는 항변에 대해, 래니어는 종착지가 어딘지도 모르고 그곳의 지리도 모르는 상태로 가속도만 높아지고 있다고 얘기하는 것과 같다며 반박한다. 이런 무지를 인정하지 않고 날로 영향력만 높아지고 있는 기술 회사들(구글, 페이스북, 아마존 등)이, 전통적 종교를 몰아내고 그 자리에 새로운 AI 신화를 만들어내는 데 일조하고 있다. 마치 예전엔 종교 권위의 엘리트 집단을 대중들이 떠받치고 있었듯이, 빅 데이터 알고리즘을 가진 기술 엘리트 집단을 떠받치기 위해 소비자들이 이용되고 있는 새로운 양상의 종교가 되고 있다는 것이다.

여기에 엣지의 2015년 질문에 대한 답변들도 몇 가지 간단히 들여다보자. (너무 많아서 아는 이름들 위주로 정리했음을 용서하시라)

천체물리학자 마틴 리스는 더 먼 미래적 관점에서 볼 때, 결국 비 유기체적인 기계 마음이 유기체적인 인간 마음을 압도하고 세상을 철저히 변화시키는 포스트 휴먼 시대가 되리라 전망한다.

철학자 닉 보스트롬도 ‘슈퍼 지능’은 가능할 것이라고 말한다. 그러나 이에 대비하기 위한 인공 지능의 제어 문제를 해결하기 위해 재능과 자금을 모아야 한다고 조언한다. (얼마 전 닉 보스트롬은 스티븐 호킹, 엘론 머스크, 마틴 리스 등과 함께 바람직한 인공 지능 개발에 대한 성명서에도 서명했다)

철학자 대니얼 대닛은 생각하는 기계가 문제라기보다는 생각을 못 하는 기계에 너무 큰 권위를 주게 되는 위험성을 경고한다.

저술가이자 와이어드 편집장인 케빈 캘리는 창발하는 인공 지능의 생각은 인간의 생각과는 이질적일 것으로 생각하는데, 그런 다름이 우리가 이해하지 못하는 더 심오한 과학적 질문들을 푸는 데 도움이 될 것이라 예상한다.

과학 저술가인 매트 리들리는 인간의 지능이 그랬듯, 그리고 지금의 인터넷이 그렇듯, 집단적, 협동적, 분산적 지능이 급진적 기계 지능을 만들 것이라 예상한다.

MIT 미디어랩 소장 조이치 이토는 인공 지능이 인간을 능가해도 인간이 더 잘할 수 있는 예술, 문화 등에 역할 분담을 하여 서로 음양의 조화를 이룰 것으로 생각한다.

저술가이자 출판업자인 팀 오라일리는 인터넷 환경에서 이미 인간과 기계는 글로벌 인공 지능이라는 거대한 유기체 안에서 서로 연결된 미생물체라고 생각한다.

과학사학자 조지 다이슨은 디지털 컴퓨터가 아니라 그것들이 네트워크화되어 나타나는 아날로그 프로세스(마치 뉴런의 동작처럼 네트워크의 위상이나 연결 간의 펄스 주파수로서 처리되는 것처럼)가 겉으로 드러나지 않는 인공 지능으로 발전하게 되리라 전망한다.

심리학자 매튜 리버먼은 3인칭 관점에서 생각하는 것처럼 보이는 것이 아니라 1인칭 관점에서 스스로 생각을 경험하는 기계를 만들 수 있을지에 의문을 제기한다. 1인칭 관점의 경험의 기제는 아직도 풀리지 않은 미스터리이기 때문이다.

심리학자 존 투비는 인공 지능이 진화의 최적화된 산물인 욕망에 들끓는 인간 지능을 닮아야 한다는 것은 미친 짓이라 생각한다.

심리학자 스티븐 핑커는 인간 마음에 대한 계산 이론이 결국 기계 마음을 만들어 내겠지만, 그 위험성의 경고는 마치 21세기 초 Y2K 버그 걱정 같은 미미한 문제에 불과하다고 진단한다. 누가 안전장치도 없이 그런 위험을 내버려두겠느냐는 것이다. 게다가 파괴적 인공 지능 디스토피아는 지능의 개념에 편협한 우두머리 수컷[alpha-male] 심리를 투영한 것에 불과하다고 지적한다.

대략 분위기를 종합해 보면, 1) 아직 인간의 마음을 잘 알지 못한다, 2) 먼 얘기긴 하지만 언젠가는 될 것이다, 3) 상상하기 힘든 양상으로 나타날 것이다, 4) 좋은 결과를 낼 수도 나쁜 결과를 낼 수도 있으니 대비를 해야겠다, 정도로 요약할 수 있을 것 같다. 좋은 말이다. 그런데 뭔가 허전하다. 애초에 재론 래니어가 제기했던 현실적인 우려에 대한 고민은 별로 없다. 지금의 빅 데이터 기반의 딥 러닝 알고리즘은 지속 가능한가? (소비자가 계속 거기 묶여 있을까?) 괜히 인공 지능에 대한 헛된 신화의 공포가 꾸준히 정진해야 할 연구 환경을 해치게 되는 건 아닌가? (인공 지능 연구 윤리 지침은 과연 어떤 제한을 가져오게 될까?) 이런 당장 손에 잡히는 현실적인 문제 말이다.

그런 의미에서 얼마 전 한 팟캐스트 방송에서 뇌과학자 김대식이 출연해 제기했던 문제점이 더 와 닿는다. 그의 주장은, 자율성이 부여되는 ‘강한’ 인공지능보다는, 현 수준의 인공 지능이 극대화되는 ‘약한’ 인공지능에서 발생하는 사회 경제적인 문제점을 더 걱정해야 한다는 것이다. 예를 들어, 스카이프가 동시통역을 하고, 블룸버그가 자동으로 기사 작성을 하고, IBM이 특허를 대신 써주는 시대에 이미 살고 있다면, 통역사, 기자, 변리사들은 앞으로 어떻게 될까? 생산 효율성이 극대화되고, GDP의 부는 상상도 못 할 정도로 향상되겠지만, 그 부를 과연 누가 가져가게 되는 것일까? (피케티가 증명한 이미 불평등한 이 세상에서)

학자들은 이제 자본주의의 종말을 얘기한다. 이제 어떤 새로운 사회가 되든, 좋으나 싫으나 인공 지능이 핵심적 기술로 자리 잡게 될 것은 분명해 보인다. 만약 그런 사회 격변을 목전에 두고 있다면, 먼 미래의 신화를 걱정하는 건 한가한 소리가 될 것이다. 슈퍼 인공 지능과 고질라는 현실의 걱정거리가 아닌 영화의 흥미로운 소재라는 면에서 같다. 재밌게 영화를 봤으면, 이젠 영화관 밖에서, 기계가 내 일을 대신하고 있는 이 상황에 나는 도대체 무엇을 하고 있어야 할까, 이 사회는 도대체 날 위해 뭘 준비하고 있을까를 고민해 봐야 하지 않을까.

탈로스 신화 얘기를 좀 더 해보자. 이 괴력의 로봇은 목에서 발목까지 하나의 정맥에 신성한 피인 이코르가 흐른다. 탈로스의 유일한 약점은 바로 이 정맥을 막고 있는 발목의 못이다. 이 못을 빼버리면 이코르가 다 빠져나가 버려 결국 탈로스는 죽는다. 이제는 신화가 되어버린 슈퍼 인공 지능의 발목에서 이제 못을 빼버리고, 거기서 흘러넘치는 인공 지능의 진짜 이코르를 이 사회가 받아들일 준비를 해야 할 것이다.

이윤수.