음성 생성 '보이스 엔진' 활용 실험 사례 공개
"오용 위험성 잘 알아 당분간 출시 않을 것"
챗GPT의 결과물이 표시된 컴퓨터 모니터 화면 위로 휴대폰에 오픈AI 로고가 보인다. AP 연합뉴스
챗GPT 개발사 오픈AI가 이번에는 사람 음성을 학습해 모방 음성을 생성하는 인공지능(AI) 도구 '보이스 엔진'(Voice Engine)을 개발해 공개했다. 다만 '음성 조작' 등 오용 위험성을 고려해 당장 출시 계획은 없다고 밝혔다.
29일(현지시간) AP통신 등에 따르면 오픈AI는 이날 자사 블로그에 "인조(Synthetic) 음성의 도전과 기회 탐색하기'란 제목으로 자사가 개발한 보이스 엔진의 사전 실험 결과를 공개했다. 회사 측은 15초 분량의 음성 샘플만 있으면 보이스 엔진을 이용해 원래 화자의 목소리와 비슷한 음성을 만들어 낼 수 있다고 밝혔다.
오픈AI는 2022년 말 보이스 엔진을 처음 개발했으며, 이 기술의 잠재적인 활용 가능성을 알아보기 위해 지난해 말부터 신뢰할 만한 소규모 그룹의 비공개 테스트를 거쳤다.
다만 오픈AI는 "인조 음성 기능의 오용 가능성 때문에 더 광범위한 출시에 대해서는 조심스럽게 접근하고 있다"며 "현재로서는 이 기술을 미리 보여주기(preview)만 하되 널리 출시하지는 않기로 했다"고 밝혔다. 회사 측은 "사람의 목소리를 닮은 음성을 생성하는 것은 심각한 위험을 야기하며, 선거가 있는 해에는 특히 더 그렇다는 것을 인지하고 있다"고 강조했다.
보이스 엔진은 AI 기술의 새로운 지평을 열었다는 평가와 함께 딥페이크(AI로 만든 영상이나 이미지, 음성 조작물) 위험에 대한 불안감도 일으키고 있다. 지난 1월 미국에서는 뉴햄프셔주(州) 프라이머리(예비경선)를 하루 앞두고 조 바이든 대통령을 사칭한 가짜 전화가 주민들에게 걸려 와 투표 거부를 독려하는 사건이 벌어지면서 음성 조작에 대한 공포가 현실화한 바 있다.
기사 URL이 복사되었습니다.
댓글0