[이형열의 과학책 읽기]제임스 배럿 '파이널 인벤션'

파이널 인벤션
제임스 배럿 지음ㆍ정지훈 옮김
동아시아ㆍ448쪽ㆍ1만8,000원

이 책의 영어 원제를 그대로 번역하면 ‘우리의 마지막 발명품: 인공지능과 인간시대의 종말’이다. 왜 저자는 인공지능(AI)을 인류 최후의 발명품이라고 했을까? ‘파이널 인벤션’이란 말은 저자 제임스 배럿의 ‘발명품’은 아니고 한 때 앨런 튜링과도 함께 일한 적이 있는 수학자 어빙 존 굿이 50년 전에 이미 사용했던 말이다. 그는 자체적으로 발전하는 기계가 인간과 동등한 지능을 획득하게 될 것이고 결국은 인간을 추월하는 기하급수적인 지능 성장을 이룩할 거라고 예측했다. 그는 1965년에 발표한 논문 ‘첫 번째 초지능 기계에 대한 성찰’에 다음과 같은 글을 남겼다.

“지금까지 존재한 어떤 인간보다 현명하고, 모든 지능적인 활동을 모두 뛰어넘는 기계를 초지능 기계라 정의하자. 기계의 설계는 이런 기능적인 활동을 통해 이루어지기 때문에 초지능 기계는 자신보다 더 나은 기계를 설계할 수 있다. 그렇다면 의문의 여지없이 '지능 폭발'이 발생해 인간의 지능은 한참 뒤처지게 된다. 첫 번째 초지능 기계는 인간이 필요해서 만들어낸 마지막 발명품이 될 것이다.”

10년에 걸쳐 미국 내 인공지능 개발자들과 이론가들을 대부분 만났고, 관련 자료를 섭렵한 제임스 배럿의 견해도 굿과 다르지 않다. 우선 저자는 인공지능의 발전을 세 단계로 나눈다. 첫 단계는 ANI(Artificial Narrow Intelligence·약인공지능)로서 IBM의 왓슨이나 알파고 같은 한 가지 목적에 특화된 인공지능이다. 두 번째 단계는 AGI(Artificial General Intelligence·강인공지능)인데 인간의 지능과 비슷하거나 약간 넘어서는 수준이다. AGI는 자신을 알고, 자가 개선을 하는 지능이기에 ‘효율, 자기보존, 자원획득, 창의성’의 4가지 욕구를 갖게 되고 이로 인해 지능폭발과 특이점을 지나 ‘가속화 보상의 법칙’에 따라 그 발전 속도는 걷잡을 수 없이 빨라진다. 그 결과로 세 번째 단계에서 초인공지능이라 일컫는 ASI(Artificial Superintelligence)가 순식간에 탄생한다. 저자는 우리가 극단적으로 운이 좋거나 제대로 대비하지 않는다면 ASI가 인류를 지배하는 시대가 올 것이며 이로써 ASI는 인류 최후의 발명품이 된다고 주장한다.

이와 유사한 시나리오를 펼치는 사람으로 우리는 발명가이자 미래학자인 레이 커즈와일을 떠올릴 수 있다. 그는 세계적인 베스트셀러가 된 ‘특이점이 온다’를 통해 2045년이면 우리가 특이점에 도달하게 될 것이라는 대담한 예측을 내놓는다. 그는 기계가 인간을 넘어서는 순간 즉, 특이점에 이르게 되면 사람들이 자신의 생물학적 신체를 버리고 컴퓨터와 융합하는 과정이 시작되며 인간이 허약한 몸을 극복하고 영원히 살 수 있는 ‘수퍼휴먼’으로 증강될 수 있게 된다고 주장했다. 비관주의자인 제임스 배럿은 레이 커즈와일의 낙관주의가 종교적 성향으로까지 발전되는 것을 경계하며 이들을 ‘특이점주의자'라고 비판한다.

저자의 입장은 AI를 “인류가 여태까지 직면한 가장 중요하고 가장 위협적인 난제”로 보는 영국의 철학자 닉 보스트롬의 그것에 가깝다. 물론 그가 인공지능 전문가는 아니다. 그는 내셔널 지오그래피, 디스커버리, PBS와 함께 역사물이나 탐사물을 만든 다큐멘터리 감독이다. AGI를 만들면 그것이 필연적으로 ASI로 발전하게 되어 인류가 돌이킬 수 없는 재앙을 맞을 것이라는 그의 메시지는 한편의 다큐멘터리로 다가온다.

과학책 읽는 보통 사람들 운영자

공감은 비로그인 상태에서도 가능합니다

web_cdn 저작권자 © 한국일보 무단전재 및 재배포 금지

문화 최신기사