단순 악마이거나 막역한 벗이기 어려워
인간의 더딘 진화를 추월할 가능성은 커
편의와 위험 갈림길 앞둔 고민이 필요해
자극적인 문제에 대해 흔히 극단적인 태도가 사람들에게 잘 먹히듯이, 인공지능은 사람들에게 두 가지 상반된 극단으로 다가오고 있다. 악마 또는 인간 향상. 우선 악마에 대한 공포를 보자. 전기자동차 테슬라의 엘런 머스크의 행보는 한편으로 도전적이지만 동시에 상당히 선정적이다. 인공지능을 개발하는 일은 “악마를 불러내는 일”이라고 비판하는 그의 태도가 그렇다. 그러나 인공지능을 단순히 악마로 이해한다면, 그것의 발전과정을 오해하는 일일 것이다. 그것은 단순히 악마는 아니기 때문이다. 또 그 때문에 ‘화성으로 떠나야 한다’는 말도 자신의 우주선 사업을 홍보하기 목적으로 부풀려진 면이 크다. 정말 인공지능에 의한 위협이 엄청나다면, 화성여행을 떠났다고 해도 인간은 아마 역설적이게도 그 위험을 피하지 못할 것이다.
그와 반대로, 아예 인공지능의 발전을 인류의 발전으로 받아들이는 관점도 다소 선정적이다. 80년대부터 이미 인간의 마음을 정보의 패턴으로 이해한 한스 모라벡 이후 많은 과학자와 공학자들이 여기에 속한다. 이들은 인공지능은 인간을 위한 도구이며 그 도구는 인간에게 많은 이로움을 가져다 줄 것이라고 생각한다. 인공지능이 인간을 위한 이로운 도구에 지나지 않으며 그것이 초래할 위험은 거의 없다고 생각한다는 점에서, 낙관적인 너무도 낙관적인 생각이다.
“완전한 ‘인공지능’의 개발이 인류의 멸망을 불러올 수 있다”는 제목으로 보도된 물리학자 호킹의 발언은 머스크의 발언처럼 선정성을 띠는 듯하지만, 다른 한편으로 냉정한 관찰을 담고 있다. 그는 2014년에 “지금까지 개발된 초보적 인공지능 기술이 매우 유용하다는 걸 이미 입증했지만 인간에 필적하거나 능가하는 수준의 인공지능 개발에는 두려움을 느낀다”고 털어놨다. “인공지능은 스스로를 개량하고 도약할 수 있는 반면, 인간은 생물학적 진화 속도가 늦어 인공지능과 경쟁할 수 없고 대체되고 말 것이다.” 머스크가 인간과 인공지능 사이에 단순하게 대립 관계를 설정하면서 공포를 부추기는 것과 달리, 호킹은 진화의 속도에 근거해 두려움을 느낀다고 말한 것이다.
어느 단계를 지나면 인공지능의 진화속도는 인간보다 훨씬 빠를 것이다. 그러나 그것이 우월하고 ‘강한’ 지능 또는 ‘초지능’이 된다고 해서, 그것이 꼭 인간과 대립관계에 들어서고 따라서 인류의 멸망을 원한다는 법은 없다. 무기경쟁도 적대적인 양쪽이 모두 공격적 태도를 보일 때 서로에게 치명적 결과에 이른다. 마찬가지로 우월한 인공지능도 그냥 ‘가만히 있는’ 인간의 멸종을 원하지는 않을 것이다. 그러나 인공지능이 단순한 도구에 지나지 않는다며 인간이 자신의 우월성을 고집하고 대립적 적대성을 유지할 경우, 폭탄은 터질 것이다.
인공지능에 대한 공포와 낙관은 둘 다 편향된 믿음을 확대한다. 그것이 초래할 상황은 아직 모호한 것이 사실이지만, 많은 공학자들이 가능성이 높다고 예측하는 예를 하나 들어보자. 자율주행 자동차가 확대되는 2050년쯤엔 인간이 운전하는 일이 아예 금지될 듯하다. 그것은 공포나 인간의 발전 어느 한 쪽에 의해 설명될 수 있을까? 그렇지 않다. 운전하지 않는 편의가 증대되는 반면에, 기계에 과도하게 결정을 위임하는, 인간 무력화의 위험도 크다. 과학기술은 이로움이나 해로움 어느 하나만을 야기하는 대신에, 안전과 위험을 동시에 불러온다.
여러 문제를 야기할 인공지능을 ‘굳이’ 개발할 필요가 있느냐고, 또 그 발전이 정말 바람직하느냐고 물을 수 있다. 하지만 산업화 이후 과학기술의 발전 과정은 계속되었고, 지금 그것을 막기는 어려울 듯하다. 사회 자체가 전반적으로 발전을 추구하는 강박에 사로잡혀 있다. 어쨌든 인공지능이 발전함에 따라 인간이 잉여가 되는 상황은 확대될 것이다. 그 앞에서 전혀 두려움을 느끼지 않을 수는 없겠지만, 두려움에만 호소한다면 한심한 일일 것이다. 일어날 일은 어쨌든 일어난다면, 무엇을 할 것인가? 한가하게 보이지만, 점점 심각해질 물음이다.
김진석 인하대 철학과 교수
기사 URL이 복사되었습니다.
댓글0