‘싱크 비거’ 저자 리즈메넘 주장
딥페이크ㆍGPT-2 기술력 이미 위험 수위
“인공지능(AI) 악용을 막기 위해 유엔(UN) 같은 국제기구를 설립해야 한다”
빅 데이터 시대의 미래를 예측한 베스트셀러 ‘싱크 비거’(Think Bigger)의 저자 마크 반 리즈메넘은 20일 자신의 블로그를 통해 이같이 주장했다.
언뜻 허황된 말로 들릴지 모르겠다. 그러나 날로 발전하는 AI 기술력을 감안했을 때 이를 적절히 제어하기 위한 다자협의체 필요성을 더 이상 간과해선 안된다고 리즈메넘은 경고했다. 지금 추세라면 인간 통제를 벗어난 영화 속 ‘터미네이터’처럼 AI 살인 병기의 등장도 머지않았다는 것이다.
‘빅 데이터’ 분야에서 ‘가장 영향력 있는 10대 기관’으로 꼽힌 ‘데이터플로크’(Datafloq)의 창립자이기도 한 리즈메넘은 가짜 영상 생산에 이용되는 등 AI 기술 악용 수준이 이미 위험 수위를 넘었다고 지적했다. 특정 인물의 얼굴을 영상에 합성하는 ‘딥 페이크’(Deep fake) 기술이 대표적이다. 작년 미국에서는 딥 페이크로 만들어진 ‘가짜’ 버락 오바마 전 미국 대통령의 영상이 유포돼 논란이 빚어지기도 했다. 이미 AI 활용 영상 기술이 사람들을 감쪽같이 속일 수 있는 수준까지 올라갔다는 뜻이다.
가짜 뉴스 생산에도 AI가 악용될 수 있다고 리즈메넘은 지적했다. 글짓기 인공지능인 GPT-2는 미국의 AI 연구기관 ‘오픈 AI’가 최근 개발한 소프트웨어다. 특정 내용의 문장 몇 줄만 입력하면 그 맥락과 자연스럽게 이어지는 긴 글을 만들어낸다. 언뜻 보기엔 그럴 듯 하나 실제 내용은 대부분이 가짜다. 인터넷에 떠도는 근거 없는 내용을 임의대로 짜깁기한 결과물이기 때문이다.
리즈메넘은 GPT-2가 “일종의 텍스트 버전 딥 페이크”라며 “GPT-2가 사기꾼 손에 들어갈 경우 최근 벌어지고 있는 가짜 뉴스 문제에 비할 바 없을 정도의 문제가 발생할 것”이라고 우려했다.
따라서 더 늦기 전에 고도로 발달된 AI에 대한 ‘국제적 차원의 규제 협약’(global new deal for AI)이 이뤄져야 한다고 리즈메넘은 강조했다. G20이나 UN과 같은 국제기구를 창설해 각국의 대표들이 정기적으로 모여 회의를 열고, AI 규제와 관련된 정책을 만들어야 한다는 것이다. 이를 위해 먼저 각 국 정부가 일단 AI 전문 부서를 만들고 장관과 같은 책임자를 임명해야 한다고 지적했다. 실제로 아랍에미리트(UAE) 정부는 지난 2017년 AI를 담당하는 정부 부서를 신설했다.
홍윤지 인턴 기자
기사 URL이 복사되었습니다.
댓글0