자율형 AI 정치인의 걱정 가득한 미래

편집자주

가속화한 인공지능 시대. 인간 모두를 위한, 인류 모두를 위한 AI를 만드는 방법은? AI 신기술과 그 이면의 문제들, 그리고 이를 해결할 방법과 Good AI의 필요충분조건

ⓒ게티이미지뱅크

2014년 구글의 연구원이었던 이안 굿펠로우(Ian Goodfellow)는 논문을 통해 GAN이라는 혁신적인 AI 기술을 발표했다. GAN은 생성적 적대 신경망(Generative Adversarial Network)이라는 기술인데, 한마디로 진짜 같은 가짜 콘텐츠, 곧 딥페이크 콘텐츠를 만들어내는 기술이다.

그 후 8년이 지난 지금, 이 GAN 기술을 활용한 다양한 디지털 휴먼(Digital Human), 가상인간(Virtual Human)이 쏟아져 나오고 있다. 2021년 7월, 디지털 휴먼 '로지'가 국내 최초로 한 대기업의 광고모델로 발탁됐는데, 해당 CF영상 속에서 로지는 실제 사람과 다름없는 외모와 뛰어난 춤실력을 선보여 화제가 됐다. 로지는 작년에만 벌써 15억 원 이상의 수입을 올렸고, 이제 연간 모델료가 수직 상승해 3억여 원에 육박한다고 한다.

로지뿐만 아니라, 현재 다양한 디지털 휴먼이 방송, 미디어, 엔터테인먼트 분야에서 대활약 중이다. 올해 1월, 디지털 휴먼 '리아'는 세계 최초로 라방(라이브 방송) 쇼호스트가 되어 상품을 홍보하고 판매했다. 김주하, 김현욱 앵커를 모델링한 AI 아나운서가 뉴스 프로그램을 진행하고 있으며, 최근 디지털 휴먼 '로지', '래아', '한유아'는 가수로도 데뷔했다. 디지털 휴먼 '제인'은 웹드라마 '안녕하쉐어'에 배우로까지 출연해 이제 디지털 휴먼은 연예계에서 전방위적으로 영역을 확대하고 있다. 이제 연예인들도 일자리 걱정을 해야 하는 시기가 온 것이다.

이렇게 방송, 연예계에 디지털 휴먼이 각광을 받는 이유는 무엇일까? 먼저 디지털 휴먼은 실제 인간이 아니기 때문에 스캔들이라는 리스크가 없다. 또한 실제 유명 연예인에 비해 광고료도 저렴하다. 사람이 꺼려하는 연출 상황이나 위험한 장면도 구현이 가능하다. 무엇보다도 인간이 아니기 때문에 늙지 않고, 죽지 않아서 그 이미지가 영속적으로 유지될 수 있다.

최근에는 산업분야에서도 디지털 휴먼 기술과 서비스를 적극 개발 중이다. 키오스크에 디지털 휴먼을 탑재하여 매장에서 고객과 소통하며 주문과 응대를 하는 AI 직원, 은행에서 은행 업무를 처리해주는 AI 은행원, 관공서나 기업에서 소비자나 민원 상담을 해주는 AI 상담원 등의 디지털 휴먼도 곧 등장할 예정이다.

하지만 이러한 디지털 휴먼 기술 이면에 문제는 없을까? 작년 말 우리나라 대선 기간 AI 윤석열, AI 이재명 등 각 당의 선거캠프에서 후보자를 디지털 휴먼으로 구현하여 선거운동에 활용해 논란이 일었다. 원칙적으로는 AI 기술을 정치 분야에 활용하는 것은 큰 문제가 없다. 다만 AI 디지털 휴먼 정치인을 선거 운동에 활용할 때는 '유권자 기망' 부분에 특별한 주의를 기울여야 한다.

디지털 휴먼 정치인은 외모와 말과 행동에서 실제 정치인과 구별하기 어렵기 때문에, 디지털 휴먼 정치인을 통해 선거운동을 한다면, 유권자들에게 명확히 실제 인물이 아닌 'AI로 구현한 디지털 휴먼'이라는 점을 고지하고 밝혀야 한다. 그렇지 않을 경우 유권자들은 디지털 휴먼을 실제 인간으로 오인하고 정치적 영향을 받아 잘못된 판단과 선택을 하게 될 수도 있기 때문이다.

비단 정치인이 아니더라도 향후 디지털 휴먼은 실제 사회에서 사람들에게 큰 영향력을 가지고 이를 행사할 수 있게 될 가능성이 높다. 따라서 대중적 인기와 영향력을 가진 디지털 휴먼은 활동과 언행에 보다 신중하고 책임감을 가져야 할 것이다.

특히 스스로 판단하고, 활동하고, 소통하는 자율성을 가진 디지털 휴먼이 등장할 경우, 통제된 디지털 휴먼보다 사회와 인간에 미치는 영향이 더욱 클 수 있다. 지금부터 관련 주체들이 자율성을 가진 디지털 휴먼에 대해서도 논의와 연구를 진행해야 하는 이유다.

전창배 IAAE (국제인공지능&윤리협회) 이사장