'AI 윤석열'부터 '가짜 이재명'까지… 대선판 위협하는 딥페이크

딥페이크로 학습 대상 90% 이상 모방 가능
성범죄·보이스피싱 등 악용 사례 발생
"기술과 윤리 공존 위한 합리적인 규제 필요"

딥페이크를 활용한 선거운동의 적법성 여부와 가짜뉴스 유포 가능성 등을 놓고 정치권에서 치열한 논쟁이 벌어지고 있다. 국민의힘 중앙선거대책위원회가 선보인 'AI 윤석열'. 국민의힘 유튜브 캡처

20대 대통령 선거가 40여 일 앞으로 다가온 가운데 정치권에서 인공지능(AI)을 활용해 만든 가짜 동영상 딥페이크(deepfake) 논란이 계속되고 있다. 윤석열 국민의힘 대선 후보를 모방한 'AI 윤석열'의 선거법 위반 여부가 쟁점이 된 데 이어 최근 이재명 더불어민주당 대선 후보의 사적 통화 내용이 담겼다는 '가짜 이재명' 유포설까지 나돌았다. 대선과 맞물려 딥페이크 논란이 격화하자 관련 산업 규제 정책에 대한 관심도 높아지고 있다.

"딥페이크, 모방 대상과 90% 이상 유사"

23일 인공지능(AI) 전문가 등에 따르면 딥페이크에는 정해진 데이터를 학습하는 지도학습과 AI 스스로 정답을 생각하는 비지도학습이 함께 적용된다. 현재 딥페이크 기술은 학습 대상의 표정과 말투, 목소리의 90% 이상을 따라 하는 것으로 평가된다.

이수영 카이스트 명예교수는 "딥페이크는 책을 읽어주거나 아나운서처럼 단순히 말을 전달하는 경우 모방 대상과 90% 이상 유사하다"고 분석했다. 장병탁 서울대 컴퓨터공학 교수 역시 "특정인이 과거에 한 말이나 작성한 글을 학습시키면 딥페이크를 통해 그 사람의 성향까지도 보여줄 수 있다"고 평가했다.

다만 스스로 사고해 타인과 대화를 주고받는 수준에는 미치지 못한다. 장 교수는 "아직까지는 딥페이크가 어떤 관점에서 무슨 말을 할지 선택하는 과정에 사람의 간접적인 관여가 필요하다"고 말했다.

딥페이크 활용 분야와 부작용. 그래픽=강준구 기자

성범죄·인신공격 등 사회적 문제 발생

딥페이크 기술이 발전하면서 각종 사회 문제도 뒤따르고 있다. 성범죄가 대표적이다. 최근 일부 인터넷 커뮤니티에는 서울의 모 여고 재학생들을 음란물에 합성한 딥페이크 영상이 게재돼 경찰이 수사에 나섰다. 지난해 방송통신심의위원회 디지털성범죄심의지원단은 한국 연예인을 대상으로 한 614건의 성적 허위영상물을 적발했다.

전창배 한국인공지능윤리협회 이사장은 "딥페이크를 악용한 사례는 성범죄와 보이스피싱 같은 경제범죄, 정치적 목적의 가짜뉴스 유포 사례가 대표적"이라며 "최근에는 고인을 딥페이크 기술로 되살려내는 경우도 있어 이런 부분에 대한 전 사회적 논의가 필요하다"고 강조했다.

딥페이크 기술이 발전하면서 각종 성범죄와 경제범죄, 가짜뉴스 유포 등 부작용에 대한 우려도 커지고 있다. 한국일보

"기술과 윤리 함께 발전해야... 합리적 규제 필요"

딥페이크의 발전 가능성을 주목하면서 부작용에 대해 우려하는 것은 전 세계적인 현상이다. 미국 캘리포니아주는 선거 60일 이내에 후보 폄훼 등의 목적으로 조작된 영상 유포를 금지하고 있다. 국내에서는 딥페이크를 활용한 성범죄에 성폭력처벌법이 적용된다.

긍정적인 신호도 있다. 최근 중앙선거관리위원회는 딥페이크란 사실을 사전에 밝히는 것을 전제로 이를 활용한 선거활동을 허락했다. 다만 아직 딥페이크 관련 구체적인 규제 가이드라인은 없는 상황이다.

AI 전문가들은 기술과 윤리 문제를 조화시킬 합리적인 규제 방안이 필요하다고 입을 모은다. 딥페이크 기술이 앞으로 영화, 드라마 등 문화산업과 금융, 방송, 보안, 교육 등 광범위한 분야에 적용될 수 있어서다.

전 이사장은 "강한 규제로 일관하면 시장 자체가 형성이 안 된다"며 "성범죄나 보이스피싱 등 일부 범죄에는 선제적으로 대응하되 작은 부작용에 대해선 문제 발생 이후 대처해야 한다"고 말했다. 한국인공지능협회 관계자는 "메타버스 등 기술 검증용 샌드박스 플랫폼을 구축해 딥페이크를 내놓기 전 가상공간에서 윤리, 인권, 법률 관련 검토를 먼저 거칠 필요가 있다"고 제언했다.

송주용 기자 juyong@hankookilbo.com