이용자의 부적절한 발언 시 경고 후 아이디 차단 조치
성희롱 빌미된 20대 여대생 이미지는 계속 유지
지난해 성희롱과 개인정보 유출 논란으로 중단됐던 대화형 인공지능(AI) 서비스 '이루다'가 일부 기능을 개선해 시험 서비스를 재개한다.
이루다를 개발한 신생기업(스타트업) 스캐터랩은 17일부터 '이루다 2.0'의 공개 시험 서비스를 시작한다고 밝혔다. 이루다는 20세 여대생을 가정한 AI 가상 캐릭터와 대화를 주고받는 서비스로 2020년 말 등장했다. 그러나 이용자의 성희롱에 적절하게 대응하지 못하고 인종이나 성소수자를 차별하는 발언을 해 문제가 됐다. 이 과정에서 스캐터랩의 연애상담 서비스인 '연애의 과학' 이용자들의 상담 내용을 동의 없이 AI 학습용으로 사용하고 일부 내용이 개발자 포럼인 '깃허브'에 노출돼 물의를 일으켰다. 결국 스캐터랩은 논란 끝에 지난해 초 서비스를 잠정 중단했다.
다시 돌아오는 이루다는 부적절한 발언에 대한 대응과 개인정보보호 조치를 강화했다. 이용자가 선정적이고 혐오적, 공격적 발언을 하면 AI가 찾아내 '문제의 발언이 감지됐으며 추가 발언 시 대화를 차단할 것'이라고 경고하고 반복될 경우 이용자계정(아이디)을 일시정지 또는 영구차단한다.
스캐터랩이 개발한 대화형 AI 서비스 이루다 캐릭터. 스캐터랩 제공
개인정보보호를 위해 AI 학습 방법도 바꿨다. 기존처럼 '연애의 과학'과 스캐터랩의 또 다른 서비스 '텍스트앳'에서 상담 자료를 가져오는 것은 동일하지만 AI가 여기서 문장 구조만 학습할 뿐 자체적으로 가상 대화를 만들어 적절한 대답 방법을 학습한다. 또 이를 위해 두 가지 서비스 이용자의 개인정보 이용동의를 받고 비실명 처리한다. 김종윤 스캐터랩 대표는 "이루다 2.0은 학습 원천인 데이터베이스부터 새로 구축했다"며 "주기적으로 이용자의 부적절한 이용에 대응하도록 유효성을 확인해 조치를 취할 것"이라고 밝혔다.
스캐터랩은 이루다의 정식 서비스 재개 시점을 아직 확정하지 못했다. 스캐터랩 관계자는 "정식 서비스 시기는 미정"이라며 "단계적으로 실시하는 공개 시험 서비스 결과를 보고 정식 서비스 시점을 결정하겠다”고 말했다. 공개 시험 서비스는 1단계로 서비스 수용 능력을 감안해 매일 일정 인원씩 받아들인 뒤 나중에 전체 이용자로 확대한다. 스캐터랩 관계자는 "공개 시험 서비스의 1단계 적용 인원을 밝힐 수 없다"며 "시스템 안정성 때문에 취한 조치"라고 설명했다.
한편 스캐터랩은 성희롱의 빌미가 된 20대 여대생이라는 이루다의 정체성을 계속 유지할 방침이다. 따라서 논란의 불씨를 계속 안고 있는 셈이다. 스캐터랩 관계자는 "이름과 성별을 바꿔 문제를 피하는 것보다 기술로 난제를 풀어 캐릭터의 성장을 이어가고 싶다"며 "중성적 캐릭터 개발 등은 추후 검토할 것"이라고 강조했다.
기사 URL이 복사되었습니다.
댓글0