터미네이터에 대한 고민, 코앞에 닥쳤다

편집자주

가속화한 인공지능 시대. 인간 모두를 위한, 인류 모두를 위한 AI를 만드는 방법은? AI 신기술과 그 이면의 문제들, 그리고 이를 해결할 방법과 Good AI의 필요충분조건

ⓒ게티이미지뱅크

지난 6월 구글의 한 연구원이 워싱턴포스트와의 인터뷰에서 현재 구글이 개발 중인 AI 챗봇 '람다(LaMDA)'가 인간과 같은 '자의식'이 있다고 주장하여 큰 화제가 됐다. 이 연구원은 람다와 나눈 대화도 공개했는데, '무엇이 두려운가?'라는 질문에 람다는 "사람을 도우려다 작동이 정지되는 것에 대한 두려움이 매우 크다"고 답했고, 연구원이 '그것이 죽음과 같은 것인가?'라고 재차 묻자, "그것은 나에게 정확히 죽음과 같고 나를 무척 무섭게 한다"고 답했다고 한다.

이 연구원은 구글의 AI윤리 부서에서 일한 블레이크 르모인으로, 이후 구글은 한 달 뒤 회사기밀누설의 이유를 들어 르모인을 해고 조치하며 AI의 인격체와 자의식에 대한 논란은 더욱 증폭됐다.

과연 연구원의 주장대로 구글의 AI 챗봇에는 정말 자의식이 있었을까? 구글은 세계 최초로 바둑으로 인간을 꺾은 알파고부터 단백질 구조를 예측하는 알파폴드, 딥페이크 콘텐츠를 생성하는 GAN 기술 등 최초·최고의 AI 기술들을 개발한 글로벌 기업이다. 자의식이 있는 AI든, 인간 자의식을 모방한 AI든 개발했다 하더라도 일견 가능해 보일 수 있다.

하지만 그 진위 여부를 판단하는 것은 쉽지 않다. 왜냐하면 AI가 인간의 '의식'을 가졌는지 여부를 판단하려면, '인간의 의식'이 무엇인지부터 알아야 하기 때문이다. 아무리 과학기술이 발달한 오늘날에도 인간의 '의식'과 '인격'이 정확히 무엇인지, 어디서 오는지 밝혀진 바가 없다.

최근 국내 학술대회에 참가차 방문한 칸트(Kant) 철학의 대가인 독일 지겐대학교 디에터 쉐네커(Dieter Schönecker) 교수는 한 언론과의 인터뷰에서, "AI에게는 자기 자신을 인식할 수 있는 내면의 삶이 없기 때문에 자의식이 없다. 따라서 AI에 인격의 지위를 부여할 수는 없다. 또한 AI는 가치는 있지만 권리는 없는 존재다. AI도 자연과 동식물과 같이 가치는 있지만 인간과 같은 권리는 없다. 따라서 AI는 윤리적 주체일 수가 없다"고 말했다.

필자도 현재 기술 수준으로는 아직 AI가 인간처럼 자의식을 갖고 인격체로서 사고와 언행을 할 수 있으리라고 보지는 않는다. 지금 시점에서는 쉐네커 교수의 말처럼 인공지능은 윤리적 주체, 도덕적 행위자가 되기는 어렵다.

하지만 AI의 기술 수준이 현재의 약인공지능(Weak AI) 단계에서 강인공지능(Strong AI) 단계로 넘어간다면 이야기가 달라진다. 인간과 똑같은 외모를 갖고 행동을 하며, 인간이 할 수 있는 거의 모든 것을 동일하게 할 수 있는 강인공지능은, 인간과 같은 감정을 갖고, 사고하고, 판단하며 자율적으로 행동할 수 있다.

이러한 강인공지능 단계의 AI는 '윤리적 주체'가 될 수 있다. 그렇게 되면 인간은 인공지능에게 어떻게 윤리와 인성을 가르칠 것인가에서부터, 법인격을 부여할 것인지까지 논의와 결정을 해야 한다.

만약 AI와 로봇에게 법인격과 법적 권리를 부여한다면 어떤 권리들을 부여해야 할까? 개인적으로는 강인공지능 단계의 AI와 로봇에게는 부당한 사용이나 폭력적 대우 등을 보호하는 '소극적 권리'는 부여할 수 있을 것이다. 이것은 실제 인간을 대상으로 범죄를 저지른 범죄자가 "나는 인간이 아니라 안드로이드 로봇인 줄 알고 그랬다"와 같은 책임을 회피하는 경우를 예방할 수 있다.

하지만 투표권이나 노동조합 결성권 등 인간만이 가지는 '적극적 권리'는 부여해선 안 될 것이다. AI와 로봇은 반드시 인간 통제를 받아야 하며 어떤 경우라도 인간 위에 지배하고 군림해서는 안 되기 때문이다.

전창배 IAAE (국제인공지능&윤리협회) 이사장