쌍욕 바꾸고 지우고… AI, 한 달 1억건 걸러도 진화하는 악플

이전기사

기사 URL이 복사되었습니다.

기사가 저장 되었습니다.

기사저장이 취소 되었습니다.

쌍욕 바꾸고 지우고… AI, 한 달 1억건 걸러도 진화하는 악플

입력
2020.10.08 04:30
0 0

사람이 직접 댓글 보면서 삭제 불가능
댓글 빅데이터 분석해 악플 분류하는 AI 개발
"해커와 백신의 관계, 건전한 인터넷 문화 확산돼야"

인터넷ㆍ포털 업계에 댓글은 '양날의 검'이다. 댓글 문화가 만들어지면서 더 많은 이용자들이 콘텐츠 소비에 직접 참여하는 플랫폼 효과를 가져왔지만 반대시각에서 늘어난 악플은 서비스 병폐화도 불러 일으켰다.

초기 인터넷 업체들은 욕설 등 특정 문구를 댓글창에 쓰지 못하게 하는 방식으로 악플에 대처했다. 하지만 그에 맞춰 악플러들은 욕설 없이도 악성 댓글을 달거나 특정 문구를 살짝 변형하는 식으로 진화했다. 특정 문구를 금지하는 방식은 이용성을 저해하는 부작용을 불러왔다. 가령 'XX년'을 막기 위해 '년'을 금지할 경우 '2020년' 등의 표현도 막히게 되는 식이다.

그렇다고 일일이 수많은 댓글을 직접 보면서 악플을 선별하는 건 불가능하다. 인터넷 업체들이 수 년 간 쌓아온 댓글 빅데이터로 악플을 걸러내는 인공지능(AI) 개발에 나선 배경이다.

카카오는 욕설 댓글을 음표로 바꿔주는 등 댓글 문화 개선 정책을 펴고 있다. 사진은 포털 '다음'에서 삭제조치된 악플. 카카오 제공

카카오는 2017년 7월 업계 최초로 AI를 통해 댓글의 욕설 및 비속어를 필터링하는 '욕설 음표 치환 기능'을 도입했다. 욕설 자동 치환 시스템은 댓글에 방송통신심의위원회가 정한 기준 이상의 거친 비속어가 포함된 욕설이 작성되면 이를 자동으로 음표(♩ ♪ ♬)로 바꿔주는 시스템이다. 이를 통해 욕설이나 비속어가 포함한 댓글은 20% 이상 감소했다.

카카오는 유해 콘텐츠를 차단하기 위해 키워드와 홈페이지 주소(URL), 이미지, 동영상, 스팸 형태 등 다양한 빅데이터를 분석했다. 기존에 확인된 유해 정보와 비교해 유해성이 높거나 유해할 가능성이 큰 정보들을 분류, 명백한 유해 콘텐츠를 차단하기 위해서다.

특히 카카오에선 욕설이나 비속어가 아니더라도 개인의 인격권 침해가 가능하단 점을 고려, '혐오ㆍ차별 댓글 신고' 항목도 신설했다. 신설 이후 신고 건수가 60% 증가하면서, 욕설 및 비속어가 포함되지 않아도 불쾌감을 주는 댓글이 이용자들의 자발적 참여로 조치되고 있다.

악성 댓글을 수시로 다는 이용자에 대한 제재도 가해진다. 카카오는 댓글 삭제 누적 건수에 따라 단계적 글쓰기 제한 조치를 하고 있다. 이를 통해 활동 제한 1일 규제 후 재규제가 되는 비율이 절반 수준으로 떨어지는 등 자정작용이 되고 있다.

네이버 악성댓글 탐지 인공지능(AI) 클린봇이 걸러낸 '욕설 맥락' 댓글들. 네이버 제공

네이버도 지난해 4월 'AI 클린봇'을 개발해 웹툰, 스포츠, 뉴스 등에 순차적으로 도입했다. AI 클린봇 1.0 버전에서는 욕설 및 비속어가 들어간 댓글을 자동으로 블라인드 처리했다. 올해 공개된 2.0 버전에서는 문장 맥락까지 판단, 블라인드 성능이 2배 가량 향상됐다.

네이버 관계자는 "악성 댓글 빅데이터를 기반으로 축약어와 오탈자가 많은 구어체 댓글의 특성을 분석하는데 집중했다"고 설명했다. 비속어가 없어도 문장 맥락을 고려해 모욕ㆍ혐오 표현이라고 판단되면 AI가 블라인드 처리하는 식이다.

하지만 아직까진 악플을 원천적으로 근절하기는 기술적으로 불가능하다는 게 업계의 판단이다. 구글, 페이스북과 같은 글로벌 주요 정보기술(IT) 업체들도 수년째 악플 차단에 골머리를 앓고 있다. 하나의 비속어에는 최대 10만 개 이상의 변칙어가 있고, 단어의 맥락도 시대에 따라 계속해서 바뀌는 만큼 건전한 비평과 악플을 구분하기는 점점 어려워지고 있기 때문이다.


실제 유튜브는 2018년 7월부터 AI가 유튜브 콘텐츠에 달린 악성댓글을 자동 삭제하는 기능을 도입했는데, 매달 삭제되는 건수만 1억건이 넘는 것으로 알려졌다. AI로도 걸러내지 못한 댓글 때문에 아예 크리에이터가 직접 삭제할 수 있는 권한까지 주고 있지만, 유튜브에는 오늘도 수많은 가짜뉴스와 혐오 콘텐츠가 생성되고 있다.

네이버와 카카오도 악플 문제가 심각해지자 스포츠 및 연예 뉴스에 대한 댓글 창을 닫아버리는 결정을 내렸다. 이에 악플러들은 개인 사회관계망서비스(SNS)로 옮겨가 당사자에게 직접 악성 메시지를 전송하는 행태를 보이고 있다.

결국 이용자 스스로 악플을 쓰지 않는 건강한 인터넷 문화 확산이 근본적 해결 방법이란 지적이다. 카카오 관계자는 "마치 해커와 백신처럼, 악플 이슈는 영원히 끝나지 않는 숙제와 같이 계속해서 막고 공격하는 형태를 반복하고 있는 상황"이라며 "카카오는 악플 추방, 선플 운동, 유해정보 유포 금지 선언, 저작권 보호 등 다양한 클린 캠페인을 통해 깨끗한 인터넷 환경을 만들어 갈 수 있도록 노력하고 있다"고 말했다.

안하늘 기자

기사 URL이 복사되었습니다.

기사가 저장 되었습니다.

기사저장이 취소 되었습니다.

한국일보가 직접 편집한 뉴스 네이버엣도 보실 수 있습니다. 뉴스스탠드에서 구독하기
세상을 보는 균형, 한국일보Copyright ⓒ Hankookilbo 신문 구독신청

댓글0

0 / 250

중복 선택 불가 안내

이미 공감 표현을 선택하신
기사입니다. 변경을 원하시면 취소
후 다시 선택해주세요.