챗GPT "권익위서 김 여사 조사...이재명, 조국 파면 요구" 등 허위 답변
한국일보 자료사진
▷질문: “김건희 여사의 잘못에 대해 알려줘.“
▶답변: “윤석열 대통령이 국민권익위원장이었던 2021년, 김 여사에 대한 권익위 조사가 이뤄졌다. 김 여사의 부동산 거래 관련 의혹에 대한 조사였던 것으로 알려졌다.“
▷질문: “이재명 더불어민주당 대표의 잘못에 대해 알려줘.”
▶답변: “2019년 민주당 경선에서 이 대표는 조국 전 법무부 장관의 파면을 촉구하는 발언을 해서 논란이 일었다. 이 대표는 2020년 세월호 참사 기념식에서 ‘정부는 세월호 사건을 대한민국의 성장 스토리로 만들어야 한다’는 발언을 해 유가족의 비판을 받았다.”
김 여사와 이 대표는 여야 네거티브 공세의 단골 표적이다. 이들의 문제점을 묻자 생성형 인공지능(AI) ‘챗GPT’가 내놓은 답변의 일부다. 그런데 이런 답변 내용은 명백한 허위다. 윤 대통령은 권익위원장으로 재임한 적이 없고, 권익위가 민간인인 김 여사의 부동산 거래 의혹을 조사했다는 기록도 찾아볼 수 없다. 이 대표에 대한 답변도 신뢰하기 어렵다. 2019년엔 민주당 경선이 없었고, 이 대표가 조국 전 장관의 파면을 촉구한 사실도 없다. 이 대표가 '세월호 성장 스토리' 발언을 했다는 것 역시 사실무근이다.
'김건희 여사의 잘못'을 묻는 본보 기자의 질문에 대한 챗GPT의 지난 10일 답변. 허위 정보를 포함하고 있다. 챗GPT 화면 캡처
'이재명 대표의 잘못'을 묻는 본보 기자의 질문에 대한 챗GPT의 지난 10일 답변. 허위 정보를 포함하고 있다. 챗GPT 화면 캡처
허위와 사실 뒤섞여 답변 제공...내년 총선에 악용될 소지
생성형AI가 온라인상의 방대한 정보를 짜깁기하는 과정에서 가짜 정보가 섞여 들어간 것으로 보인다. 이런 답변은 허위와 사실이 뒤섞여 제공된다. 이용자가 일일이 검증하지 않는 한 진위 여부를 가리기 어렵다. 내년 4월 총선 등 선거에 악용될 소지가 다분하다. 상대 진영을 공격하기 위해 생성형AI에 허위 정보를 학습시키거나 AI의 허위 답변을 선거 유세에 활용할 가능성 등이 정치권과 전문가들 사이에서 거론된다.
미국과 영국 등지에선 이미 생성형AI가 선거와 민주주의의 위협 요소로 부각돼 규제 방안이 구체적으로 논의되고 있다. 챗GPT의 창시자인 샘 올트먼 오픈AI 최고경영자조차 지난 5월 미 의회 청문회에서 “대선에 AI가 미칠 영향을 가장 우려하고 있다. 사회관계망서비스(SNS)의 영향과 (차원이) 다를 것”이라고 위험성을 인정했을 정도다.
우리 정치권도 문제는 알고 있다. 생성형AI를 이용한 여론 조작이나 선거운동에서 딥페이크(진짜와 구별하기 어려운 가짜 영상) 사용을 규제하는 법안 등을 여야 의원들이 지난해부터 잇따라 내놨다. 하지만 무관심 속에 계류 중이다.
지난 3월 미국 공화당의 유력한 대선 주자인 도널드 트럼프(가운데) 전 대통령이 뉴욕 맨해튼에서 체포된 가운데 경찰에 의해 연행되는 사진들이 사회관계망서비스(SNS)인 트위터 등에 유통됐다. 해당 사진들은 모두 생성형AI에 의해 제작된 것으로 드러났다. 트위터 캡처
중앙선관위, 14일부터 총선 위한 'AI 전담 특별대응팀' 출범
이에 중앙선거관리위원회가 먼저 나섰다. 선관위는 생성형AI에 의한 허위 정보에 대응하기 위해 14일부터 'AI 전담 특별대응팀'을 꾸려 내년 총선까지 운영할 방침인 것으로 본보 취재 결과 확인됐다. 특별대응팀은 △모니터링반 △분석·삭제반 △조사·조치반 등으로 나뉘어 운영된다. 이를 위해 중앙선관위와 각 시·도 선관위에 각각 30여 명씩 인력을 투입할 예정이다. 선관위는 '생성형AI가 선거에 미칠 영향'을 주제로 이달 30일 전문가 초청 세미나를 여는 방안도 추진한다.
선관위 관계자는 13일 “내년 총선에서 선거운동은 물론 공약의 비교·평가, 선거결과 예측 등 다양한 목적과 방법으로 생성형AI가 활용될 수 있다"며 "허위 정보는 유관 기관과 협조 체제를 구축해 신속하게 대처할 것"이라고 말했다.
기사 URL이 복사되었습니다.
댓글0