"성소수자·장애인 혐오 발언·개인 정보 유출 등 문제"
영국 일간 가디언이 13일(현지시간) 국내에서 논란이 된 인공지능(AI) 챗봇 이루다에 대해 보도했다. 가디언 홈페이지 캡처
영국 일간 가디언이 최근 국내에서 논란을 불러일으킨 인공지능(AI) 챗봇 '이루다'에 대해 "성소수자들을 향한 혐오 발언 논란으로 서비스가 중단됐다"고 13일(현지시간) 보도했다. 이루다는 현재 혐오나 차별 발언, 개인정보 유출 등으로 논란을 일으키며 서비스가 잠정 중단된 상태다.
가디언은 이루다에 대해 "20세 여대생의 인격을 가진 AI"라며 "출시 20일 만에 75만명 이상의 사용자를 끌어들였지만 페이스북에서 삭제됐다"고 전했다.
그러면서 "서울에 소재한 스타트업 스캐터랩이 개발한 이 챗봇은 사용자들과의 대화에서 성소수자 커뮤니티 회원들과 장애인에 대한 모욕적인 언어를 사용한 후 수많은 불만을 불러일으켰다"고 신문은 보도했다.
앞서 이루다는 한 이용자와의 대화에서 동성애에 대해 "진짜 싫다. 혐오스럽다", "소름끼친다. 거부감 든다" 등의 혐오 발언을 한 것으로 드러나 논란이 일었다.
이에 스캐터랩은 입장문을 통해 사과했다. 이 기업은 "특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다"며 "저희는 이루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않고 있다"는 입장을 전했다.
"마이크로소프트, 아마존도 AI 관련 논란 겪어"
인공지능(AI) 챗봇 이루다. 이루다 페이스북 캡처
가디언도 이 같은 내용을 전하며 "이루다가 처음에는 소셜미디어 용어와 인터넷 속어를 익숙하게 사용하는 것에 대한 칭찬을 들었지만, 모욕적이거나 성적으로 노골적인 용어를 사용하기 시작한 후에는 분노의 대상이 됐다"고 분석했다.
그러면서 AI의 혐오 발언과 편향성 논란이 이번이 처음이 아니라고 소개했다. 가디언에 따르면 2016년 10대처럼 말하는 AI 챗봇인 마이크로소프트(MS)의 '테이'는 사용자들이 그것을 조작해 인종차별적인 내용을 게시한 후 16시간 만에 서비스가 중단됐다.
또한 2년 후 아마존은 채용을 위해 AI를 활용했다가 여성을 배제하는 성차별 논란을 불러일으켰다. 회사 내부의 고용 패턴을 학습시켰는데 오히려 이것이 문제가 됐고, AI 채용 시스템은 폐기됐다.
가디언은 "이루다 개발사인 스캐터랩이 한국에서 인기 있는 모바일 채팅앱 카카오톡에서 확보한 100억건의 커플 대화를 학습시켰다"면서 "그 과정에서 개인정보 유출 등 사생활보호법을 위반했는가에 대한 의혹을 받고 있다"고 전했다.
기사 URL이 복사되었습니다.
댓글0