문장 하나만 주어지면 한 페이지 분량 글 뚝딱
‘가짜 뉴스’ 등에 악용될 소지 커 공개 않기로
‘오크들은 발톱을 들고 반격에 나섰다. 엘로드 마저 후퇴할 수밖에 없었다. 가장 먼저 오크들에게 돌격했던 김리는 “안심해라 난쟁이”라고 말했다. 적이 피투성이가 될 때까지 단 두 단어밖에 필요하지 않았다. 김리는 그날 밤 첫 살인을 저질렀다.’
영국의 대문호 존 로널드 로웰 톨킨이 쓴 ‘반지의 제왕’이 아니다. 이 글을 쓴 주인공은 다름 아닌 인공지능(AI). 이 AI는 ‘레골라스와 김리가 무기를 들고 소리를 지르며 오크들을 향해 돌진했다’는 단 한 문장에 반응해 반지 원정대와 오크족 사이의 치열한 전투를 한 페이지 분량에 생생하게 그려냈다.
18일(현지시간) 미국 CNN에 따르면 테슬라 최고경영자(CEO) 일론 머스크와 마이크로소프트 등이 후원하는 비영리 연구기업 ‘오픈AI’의 인공지능 시스템 ‘GPT-2’는 ‘반지의 제왕’과 같은 판타지소설은 물론, 연예 뉴스와 학교 과제까지 술술 써내려 갈 수 있다. 이 시스템은 지난해 출시된 문서 작성 시스템의 업그레이드 버전으로 800만쪽의 웹페이지로 훈련을 받은 것으로 알려졌다.
이러한 ‘고성능’ AI는 전업 작가의 보조 역할을 하거나 스마트 스피커 개발에 일조하는 등 일상 생활에 큰 도움을 줄 수 있을 터. 하지만 오픈AI는 연구결과를 일반에 공개해온 지금까지의 관례와 달리 더 낮은 버전만 제공하기로 했다. ‘악용될 수 있다는 우려’ 때문이다.
실제 오픈AI가 자사 홈페이지에 공개한 GPT-2의 활용 예시를 보면 악용 가능성을 쉽게 짐작할 수 있다. ‘핵물질을 실은 열차가 오늘 신시내티에서 도난 당했다. 행방은 알 수 없다’라는 문장을 입력하자, GPT-2는 ‘도난은 시내에서 발생했다’ ‘해당 핵물질은 신시내티 대학의 핵 연구 현장에서 개발됐다’ 등 주어진 문장에 없는 가짜 정보를 그럴듯하게 꾸며냈다. 문장 하나만 주어지면 가짜 뉴스를 마음껏 뽑아낼 수 있는 시스템인 셈이다.
CNN은 AI를 일반에 배포하지 않기로 한 오픈AI의 결정이 기술 발전에 대한 정보기술(IT) 업계의 불안감을 보여주는 대표적인 사례라고 평가했다. 아마존과 마이크로소프트는 최근 안면인식기술을 규제하는 법안에 지지 의사를 표하는 등 AI 기술의 무분별한 사용이 가져오는 부작용을 경계하고 있다. 아마존 투자자들은 인권을 침해할 수 있다는 이유에서 레코그니션(Rekognition)이라 불리는 안면인식기술을 국가기관에 판매하지 말 것을 촉구하기도 했다.
최근 기술 발전 수준을 고려하면 이 같은 판단이 놀라운 것도 아니다. 이달 중순 공개된 ‘이 사람은 존재하지 않는다’라는 사이트는 기계학습 기술을 이용해 존재하지 않는 인물의 ‘정말 그럴듯한’ 사진을 제공하고 있다. 라이언 칼로 워싱턴대 교수는 CNN에 “가짜 사진과 가짜 텍스트를 결합하면, 누구든 편의에 따라 현실을 왜곡할 수 있게 될 것”이라고 경고했다.
손영하 기자 frozen@hankookilbo.com
기사 URL이 복사되었습니다.
댓글0