'신생아 입양' '장애인 판매' 당근마켓 사건
두 달 후 또 터진 비윤리적 게시글 등록 행위
자동 필터링 AI 기술·운영정책 명문화 필요
3일 오후 중고나라에 '제 아들 팝니다'라는 제목으로 올라온 글. 연합뉴스
중고거래 커뮤니티인 '중고나라'에 자녀를 거래한다는 내용의 글이 올라와 논란이 거세다.
앞서 중고거래 플랫폼 당근마켓에선 20대 미혼모의 '신생아 판매', 10대 청소년의 '장애인 판매' 글이 올라와 당근마켓 측이 불법 게시물을 걸러내는 인공지능(AI) 기술을 고도화하고 영구퇴출 등 위반 시 제재를 강화하는 대응에 나선 바 있다.
지난해 10월 중고 물품 거래 앱 '당근마켓'에 올라왔던 아기 입양 게시물. 연합뉴스
경찰, 게시자 신원 등 파악 중
3일 업계에 따르면 이날 오후 중고나라 한 가입자는 5분 간격으로 '제 아들 팝니다'와 '제 딸 팝니다'라는 제목의 글을 올렸다. 각 게시글 안에는 남자아이와 여자아이의 사진도 첨부돼 있었다. 현재 글은 모두 삭제된 상태다.
중고나라 한 회원의 신고로 경찰이 조사한 결과 글을 올린 아이디의 주인이 계정을 도용당했고, 중고나라에서 가해자로 추정되는 인물이 계정 주인과 거래가 불발되자 앙심을 품고 휴대폰 번호와 사진을 무단으로 올린 것으로 알려졌다. 사건 경위, 가해자 신원 등은 추가 조사 후 밝혀질 예정이다.
중고거래 플랫폼, AI 사전 필터링·정책 강화 필요
개인들끼리 물건을 주고받는 중고거래 특성상 중고거래 플랫폼에는 개인이 직접 찍은 사진과 글이 올라온다. 앞서 신생아와 장애인 판매 글로 홍역을 치른 당근마켓은 가이드라인 공표로 대응에 나선 바 있다. 생명 거래는 당연히 불법거래에 해당하지만 더 확실하게 인지되도록 이용정책으로 명문화한 것이다.
당근마켓이 새 가이드라인을 적용한 지난해 11월부터 당근마켓 앱에서 사용자 신고하기를 누르면 신고 이유 항목이 세분화돼 있다. 당근마켓 제공
이 가이드라인에는 △사람, 생명 등 불법거래 행위 △사기 행위 △음란성 채팅 및 게시물 △욕설 및 타인 모욕 △차별 발언 등 게시물에 대해 게시글 미노출, 강제 로그아웃, 한시적 또는 영구적 이용 제재 등 조치가 담겼다.
당근마켓은 사람 생명 거래 행위가 제재 대상에 새로 추가됐고, 불법거래 행위와 폭력적이거나 비윤리적인 내용의 게시글은 장난으로 올려도 법적 처벌이 가능하다고 명시했다. 금지 게시글을 자동으로 걸러내는 AI 기술 고도화도 병행 중이다.
중고나라도 AI 기술을 도입했지만 사기 거래 감시에 주로 쓰는 것으로 보인다. 지난해 11월 중고나라 측은 감시 인력을 늘리고 AI 시스템을 가동해 8~10월 약 7,480건의 계정을 정지시켰고, 10월 사기피해 접수가 1,028건으로 7월(3,275건)보다 3분의 1 수준으로 줄었다고 밝힌 바 있다.
중고나라 이용정책 소개 메뉴에 올라와 있는 거래 제한 품목 중 '기타 법률 위반 물품'(위쪽)과 '동·식물'에 대한 상세 설명. 중고나라 캡처
중고나라가 지난달 업데이트한 거래 제한 품목에도 사람은 명시화되지 않았다. '기타 법률 위반 물품'에 성인잡지, 마약류, 청소년 유해물품, 모의총포 등이 적혀있는 정도다. 생명과 관련된 거래 제한 품목은 '동·식물'로 반려동물, 동물 박제류, 양귀비, 천연 담뱃잎 등을 적시했다. 거래 제한 품목을 등록하면 통보 없이 삭제되고 카페 이용도 제한된다는 게 중고나라 운영정책이다.
업계에선 금지 행위를 명백하게 표시하고 운영 정책이 이용자들에게 지속해서 노출되도록 하는 조치와 AI 시스템 개선이 필요하다고 본다. AI는 미리 학습한 정보를 기반으로 금지 게시글을 잡아낸다. 이전까지는 사람을 사고 팔 것이란 예상을 하지 못했기 때문에 중고거래 운영사들이 관련 데이터를 미리 입력시키지 않았던 게 현실이다.
앞서 새 가이드라인을 발표하면서 당근마켓 측은 "이용자 정책 강화를 비롯해 부적절한 이용행위에 대한 기술적 조치도 강화할 것"이라며 "정상 범주를 벗어나는 게시물로 분석되면 사전 필터링을 할 수 있는 AI 기술 고도화에도 중장기적 투자를 진행하겠다"고 밝혔다.
기사 URL이 복사되었습니다.
댓글0