"AI서비스 '달리' 생성 이미지엔 워터마크 기입"
'달리 이용 여부' 이용자가 확인할 도구도 출시
챗GPT 개발사 오픈AI가 15일 자사 블로그를 통해 인공지능(AI)이 생성하는 가짜 뉴스의 확산 최소화 대책을 발표했다. 사진은 이날 오픈AI가 올린 블로그 게시글이다. 오픈AI 블로그 캡처
챗GPT 개발사인 미국 오픈AI가 '가짜 뉴스와의 전쟁'을 15일(현지시간) 선포했다. 올해는 전 세계 약 42억 명이 투표에 나서는 이른바 '슈퍼 선거의 해'인 만큼, 가짜 뉴스·허위정보 확산을 최소화하기 위한 조치를 발표한 것이다. 인공지능(AI)으로 만든 가짜 뉴스와 이미지, 영상 등이 선거를 혼탁하게 만들고 민의를 왜곡할 것이라는 우려가 갈수록 커지자, 주요 사회관계망서비스(SNS) 업체들에 이어 오픈AI도 자체적인 대책을 마련하고 나선 모습이다.
오픈AI는 이날 블로그를 통해 챗GPT가 제공하는 최신 선거 관련 정보에 출처를 표기하겠다고 밝혔다. AI의 답변 출처를 밝힘으로써 이용자가 직접 해당 정보의 신뢰성을 판단할 수 있도록 하려는 조치다. 실제로 이날 챗GPT에 '공화당 대선 경선 후보를 알려 달라'고 묻자, 챗GPT는 답변 말미에 "각 후보자에 대한 자세한 정보는 (출처로 사용된) 위키피디아의 2024년 공화당 대선 후보 명단과 폴리티코의 공화당 대선 후보 개요를 참조하면 된다"는 설명을 덧붙였다.
오픈AI는 또, 자사의 이미지 생성형 AI 서비스인 '달리(Dall-E)'가 만든 이미지에 워터마크를 넣겠다는 방침도 공개했다. 이미지 제작 과정에서의 달리 활용 여부를 이용자가 직접 확인해 볼 수 있는 별도 도구(tool)를 조만간 출시하겠다고도 예고했다. 이를 통해 달리로 얼굴 등을 합성·조작한 딥페이크 이미지에 속아 넘어가는 일이 없도록 하겠다는 게 오픈AI의 목표다.
도널드 트럼프 전 미국 대통령과 앤서니 파우치 전 미 국립알레르기·전염병연구소(NIAID) 소장이 서로 얼싸안고 있는 모습을 담은 영상이 지난해 6월 공화당 대선 주자 론 디샌티스 플로리다 주지사 캠프와 연관된 한 사회관계망서비스 계정에 올라왔다. 트럼프 전 대통령이 재임 시절 친분 때문에 파우치 전 소장을 해임하지 않았음을 시사하는 내용이었는데, 이는 가짜 뉴스로 밝혀졌다. 베리파이 유튜브 캡처
AI발(發) 가짜 뉴스는 실존하는 위협이다. 예컨대 지난해 6월 공화당 대선 주자 론 디샌티스 플로리다 주지사 캠프와 연관된 한 SNS 계정에는 도널드 트럼프 전 미국 대통령과 앤서니 파우치 전 미 국립알레르기·전염병연구소(NIAID) 소장이 서로 얼싸안는 모습을 담은 영상이 올라왔다. 트럼프 전 대통령이 재임 시절 개인적 친분 때문에 파우치 전 소장을 해임하지 않았음을 시사하는 내용이었지만, 이는 AI를 이용해 조작한 가짜로 밝혀졌다. "대선 경선을 포기하겠다"는 디샌티스 주지사 발언이 담긴 영상이 퍼지기도 했는데, 이 역시 트럼프 전 대통령 지지자 측이 만든 것으로 추정되는 허위 영상이었다.
미국 SNS 플랫폼 운영 업체들은 자율 규제를 강화하고 있다. 지난해 11월 구글은 생성 AI를 써서 제작하거나 합성한 선거 광고에 대해 "AI 사용 사실을 '눈에 띄게' 표시하라"는 의무화 조치를 내놨다. 페이스북·인스타그램을 운영하는 메타도 올해부터 AI 사용 사실을 이용자들에게 공개하도록 했다.
다만 이런 조치들도 가짜 뉴스 확산을 원천 차단하진 못할 것이라는 전망이 많다. 미국 워싱턴포스트는 "인간의 눈에 보이는 워터마크는 쉽게 잘라내거나 편집할 수 있고, 보이지 않도록 암호화된 워터마크는 이미지 색상 변경만으로도 왜곡될 수 있다"며 "기술 회사들이 이런 한계 극복을 위해 노력하고 있으나 아직까지는 변조를 막을 효과적 방법을 찾아낸 이가 없는 듯하다"고 전했다.
기사 URL이 복사되었습니다.
댓글0