<1>아이작 아시모프의 로봇 3원칙
1월 12일 유럽연합(EU) 의회에서 주목할 만한 선언이 있었다. 인공지능(AI)을 가진 로봇의 법적 지위를 ‘전자인간’으로 인정하고, 이를 로봇시민법으로 발전시킨다는 것이다. 주요 원칙으로는 로봇이 인간을 위협해서는 안 되며, 인간의 명령에 복종해야 하고, 로봇 역시 자신을 보호해야 한다는 항목들이 꼽혔다.
로봇의 시민권 선언한 EU
경이로운 순간이었다. 로봇의 권리와 의무에 대해 규정하고 제도화하는 이런 일은 적어도 지성 있는 로봇이 생활 전반에 스며들고, 한 세대쯤 갑론을박을 해 본 뒤에 일어날 일이라 생각했었다. 물론 프랑스에서 인권선언이 있은 지 200년이 더 지난 지금도 인간의 인권에 복잡한 문제가 많지만, 로봇의 기본 원칙을 천명했다는 점에서 의미가 크다.
이 같은 기민함은 현실에서 시행착오를 할 필요가 없어서다. 우리는 이미 충분히 실험했다. 밤하늘의 별처럼 많은 창작물 속에서 AI와 인류가 공존하는 가상 시뮬레이션을 해 보았다.
2017년 EU 의회의 선언의 원칙은 직설적이고도 정직하게 70여년 전 아이작 아시모프의 로봇 3원칙을 빌려왔다. 이 또한 적절하다. 아시모프가 이미 이를 바닥까지 탐구해 보았기 때문이다. 로봇 3원칙은 1942년 아시모프가 자신의 단편에서 발표한 뒤 그의 모든 소설에 적용한 로봇의 기본 작동 원리로, 그의 세계관에서 이 원리를 무시한 로봇은 제작할 수 없다. 로봇 3원칙은 이렇다.
1원칙: 로봇은 인간에게 해를 입혀서는 안 된다. 인간이 해를 입는 것을 모른 척해서도 안 된다.
2원칙: 1원칙에 위배되지 않는 한 로봇은 인간의 명령에 복종해야 한다.
3원칙: 1원칙과 2원칙에 위배되지 않는 한 로봇은 자신을 보호해야 한다.
흔히 안전성, 편의성, 내구성으로 요약되는 3원칙이다. 지금도 실상 기계는 이 원칙하에 제작된다. 흔히 안전성은 편의성에 우선하고(압력밥솥은 밥을 찌는 동안은 열리지 않는다) 편의성은 내구성에 우선한다(아이패드 버튼이 고장이 잘 난다고 해서 누르는 횟수를 제한하지는 않는다). 물론 현실에서는 상황과 용도에 따라 세 원칙이 철저하게 적용되지는 않다. 전쟁터에서는 사람을 해치라는 명령에 복종하는 전쟁기계나 무인 전투기가 존재하고(2원칙이 1원칙을 앞선다), 우주탐사에 쓰이는 기계는 종종 내구성을 위해 편의성이 희생된다(3원칙이 1원칙을 앞선다).
로봇 3원칙이 지배하는 세상
이 원칙이 철저하게 적용되는 아시모프의 세계관에서는 이런 인간사회와는 다른 다양한 현상이 일어난다. 우선 범죄가 일어날 수 없다. 사람이 해를 입는 것을 보면 어디선가 로봇이 달려와 막기 때문이다. 이 세계에서 살인 사건이 일어나 로봇과 인간 형사가 함께 수사를 하는 소설이 로봇 ‘다닐 올리버’가 등장하는 장편 시리즈 첫 작품 ‘강철 도시’다.
아시모프는 자신의 무수한 작품에서, 자연법칙의 우회로를 찾는 과학자처럼 이 원칙 아래 일어날 수 있는 맹점과 모순을 실험한다. 1원칙부터 살펴보자. ‘인간에게 해를 끼치지 않는’ 것은 대체 무엇인가? ‘아이, 로봇(I, Robot)’이라는 그의 단편집의 한 에피소드에는 사람의 마음을 읽는 로봇이 등장한다. 이 로봇에게 ‘인간에게 해를 끼치지 않는’ 문제는 내면의 문제로 확장된다. 그는 인간에게 물리적인 해뿐 아니라 심리적인 해도 끼칠 수 없다! 그는 결국 귀에 달콤한 말만 하는 거짓말쟁이 로봇이 되어버리고, 이 거짓말이 결국 인간에게 해를 끼쳤다는 것을 알게 되자 자기 모순으로 기능을 정지해버린다.
이 문제는 아시모프의 세계관을 차용한 영화 윌 스미스 주연의 영화 ‘아이, 로봇’에서도 가볍게 건드려진다. 로봇은 사고 현장에서 아버지와 아들 중 아버지를 구한다. 아버지가 좀 더 살 가능성이 높았기 때문이다. 하지만 아버지가 원한 것은 자신이 죽더라도 아들을 구하는 것이었다. 이 경우, 과연 로봇은 아버지에게 해를 끼친 것인가?
로봇이 인간에게 ‘해를 끼치지 않게’ 하려면 인간에게 ‘해를 끼친다는 것이 무엇인가’를 먼저 정의해야 한다. 다시 말해, 로봇이 윤리적으로 행동하게 하려면 우선 우리가 ‘윤리가 무엇인지’ 먼저 이해해야 한다.
윤리적 로봇, 문제는 인간의 윤리
아시모프는 이 원칙에 숨겨진 다른 맹점도 놓치지 않는다. ‘인간’을 어떻게 정의할 것인가? 피부와 출신 지역에 상관없이 생물학적 인간 종 모두에게 동등한 인권을 상상한 것도 인류사에 그리 오래지 않았다. 만약 인간이 우주로 진출해 각기 다른 별에 사는 서로를 ‘외계인’으로 부르게 된다면?
그의 또 다른 장편 ‘파운데이션’ 시리즈에서는 특정 사투리를 쓰는 사람, 즉 특정 지역의 주민만을 인간으로 규정해 다른 인간을 공격하는 로봇이 등장한다. 로봇이 인간을 보편적으로 평등하게 존중하려면, 로봇을 제작하는 인간이 먼저 인간을 보편적으로 평등하게 존중해야 한다는 점을 시사한다.
아시모프의 고민은 이미 눈앞에 닥친 현실의 문제다. 마이크로소프트(MS)사는 대화형 AI 테이(Tay)를 트위터에 업데이트했다. 테이는 알파고처럼 학습이 가능한 AI로, 대화를 통해 사고력을 학습하며 성장할 예정이었다. 하지만 설치된 지 몇 시간 이내에, 테이는 유대인, 무슬림, 여성, 이주민에 대한 혐오를 쏟아내기 시작하며 순식간에 차별주의자로 성장했다. MS사는 놀라 16시간 만에 테이의 활동을 중단시켰다. 테이는 우리가 가치판단 없이 AI를 제작했을 때 일어날 위험성을 경고한다.
인류를 지키는 로봇을 상상하다
이 고민은 작품에 등장하는 로봇의 지능이 높아지면서 점점 복잡해진다. 로봇 장편 시리즈 중 마지막 편 ‘로봇과 제국’에서, 지능이 고도로 발달한 로봇 다닐과 지스카드는 더 많은 인간을 도우려면 소수의 사람에게 해를 끼쳐야 하는 일이 비일비재하다는 모순에 끊임없이 직면한다. 이들은 결국 모순을 해결하지 못하고 제 0원칙, ‘로봇은 인류에게 해를 끼칠 수 없다’는 대전제를 새로 만든다.
문제는 해결된 것 같지만 한층 복잡해졌다. ‘인류에게 해를 끼치지 않는다’는 것은 과연 무엇인가? 이를 어떻게 정의할 것인가? 로봇이 인류에게 해를 끼치는 행동을 했다는 이유로 자기모순으로 기능을 정지해버린다면, 너무 가혹한 일이 아닐까? 결국 이 원칙을 지키기 위해서는 한 인간의 지능을 한참 뛰어넘는 초지능의 존재를 가정할 수밖에 없다.
초지능을 보유한 로봇 다닐 올리버는 이후 ‘파운데이션’ 시리즈에 등장하여, 인류가 멸망하지 않도록 옆에서 지켜보는 주시자의 역할을 한다. ‘인간에게 해를 끼칠 수 없는’ 로봇이 존재하는 세상에서 범죄가 사라졌듯이, ‘인류에게 해를 끼칠 수 없는’ 로봇이 존재하는 세상에서 인류는 멸망하지 않는다.
전자인간과의 공생을 시뮬레이션
아시모프는 언제나 로봇이 인류를 멸망시키는 류의 SF에 불만을 가졌다고 한다. “아니, 왜 그냥 사이좋게 지내면 안 되는데?” 인류가 스스로 멸망하는 류의 SF도 좋아하지 않았다고 한다. “아니, 왜 그냥 계속 번영하면 안 되는데?”
자신의 방에 ‘천재가 일하고 있음’ 따위의 팻말을 걸어 놓고, 강연이 끝나면 리골레토를 테너로 부를 수 있었던 사람, 자기 사전에 겸손 따위는 없다고 당당하게 말하는 작가, 시상식에서 “제가 열심히 노력했으니 이 영광은 당연하지요”하고 유쾌하게 말하는 작가, 일생 500여권의 책을 냈고 도서관 십진분류법 상의 모든 항목에 저작을 내놓으신 이 낙관적이고 열정적인 천재 작가께서는, 그 천재성의 일부를 우리가 로봇과의 공존을 모색하는 데에 할애해주었다.
단지 소설이지만 단지 소설이 아니다. 한 사람의 머리에서 상상한 로봇 3원칙은 지금 현실이 되었다. 이 소설가는 예언가도 아니고 미래를 본 것도 아니다. 그의 소설을 통해 세상이 영감을 받았다. 로봇의 원칙은 창작의 세계에서 충분히 실험했다는 판단에 따라 현실에서 구현한 것이다.
가상이든 현실이든, 한 번 체험한 사람은 믿을 수도 있는 것이다. 새로운 형태의 지성체가 머잖아 우리와 함께 할 것이라는 사실을, 그들이 친절하고 너그러우리라는 것을, 그들이 우리를 장수와 번영의 미래로 이끌 수 있다는 것을.
김보영ㆍSF 작가
아이작 아시모프
1920년 1월 2일~1992년 4월 6일. 러시아에서 출생한 미국의 과학소설가. 화학ㆍ생화학 박사. 왕성한 필력으로 일생 500여권이 넘는 저작을 썼다. 소설과 대중과학서를 비롯하여 신학, 역사학 등 도서관 십진분류표의 모든 영역에서 책을 낸 사람으로도 유명하다. 1939년 데뷔하여 로봇 시리즈, 파운데이션 시리즈 등 SF사에 길이 남을 수많은 작품을 남겼다. 아서 C. 클라크, 로버트 A. 하인라인과 함께 SF의 3대 거장으로 손꼽힌다.
기사 URL이 복사되었습니다.
댓글0