리뷰 작성 완료 버튼 누르면?
노출 전 AI가 허위 여부 판별
전담인력 검수 후 노출 차단
배달의민족이 의도적으로 긍정적 또는 부정적 리뷰를 다는 행위를 원천 차단하기 위해 리뷰가 노출되기 전 허위 여부를 모니터링하는 시스템을 도입하기로 했다. 게티이미지뱅크
배달의민족이 허위 리뷰를 근절하기 위해 더 강력한 조치를 취하기로 했다. 이전까지는 등록돼 있는 리뷰들을 분석한 뒤 거짓으로 작성된 내용이 탐지되면 차단하는 사후 조치 방식이었지만, 앞으로는 사전 차단 기술로 등록 자체를 막는다. 실제 음식을 먹고 난 뒤에 다는 후기가 아니라 의도적으로 좋거나 나쁜 리뷰를 다는 일을 막기 위해 새롭게 도입된 기술이다.
배달의민족을 운영하는 우아한형제들은 허위로 의심되는 리뷰를 사전에 자동 탐지하는 실시간 모니터링 시스템을 도입한다고 24일 밝혔다.
이전까지 배달의민족은 애플리케이션(앱)에 리뷰가 등록된 이후에 허위나 조작 리뷰를 찾아내 차단했다. 이제는 사용자가 리뷰 작성 완료 버튼을 누르는 순간 시스템이 허위 여부를 실시간으로 판별한다. 허위 여부는 이용자의 이전 주문 기록, 앱 이용 현황 등과 비교해 비정상적인 패턴 등을 감지하는 식이다. 시스템이 허위일 가능성이 높다고 판단하면 배민 케어센터로 전달되고 검수가 진행된다.
배달의민족이 허위로 의심되는 리뷰를 사전에 검수하는 프로세스. 우아한형제들 제공
일단 허위나 조작이 의심되는 리뷰는 일시적으로 노출이 제한되고, 케어센터 전담 인력의 추가 검수가 24시간 이내에 최종 공개 또는 차단을 결정한다. 차단된 리뷰는 아예 앱에 노출되지 않는다.
음식 중개 앱에서 가짜 리뷰 문제는 꾸준히 지적돼왔다. 배달의민족에서는 가게 주인이 특정 사용자들에게 음식값보다 더 많은 금액을 주고 긍정적 리뷰를 쓰게 하는 행위가 적발되기도 했다. 음식을 주문할 때 리뷰에 의존하는 경우가 많기 때문에 리뷰 진정성이 훼손되지 않도록 거짓 리뷰를 걸러내는 일은 우아한형제들에도 중요하다. 회사 측이 지난 8월부터 2개월간 진행한 리뷰 집중 모니터링을 통해서만 2만5,000여건의 허위 리뷰가 차단 조치됐고, 앞선 4월엔 우아한형제들이 리뷰 조작 업체들을 수사기관에 고소하기도 했다.
우아한형제들은 허위 리뷰 사전 탐지율을 높이기 위해 인공지능(AI)을 활용한 시스템을 고도화하고 전담 검수 인력도 확대할 방침이다. 이원재 우아한형제들 서비스위험관리실장은 "이번 조치로 허위 리뷰를 더 빨리 탐지해 노출을 근본적으로 차단할 수 있게 됐다"며 "음식을 주문할 때 중요한 기준이 되는 리뷰를 사장님과 고객이 모두 믿고 볼 수 있도록 앞으로도 꾸준히 리뷰 환경을 개선해 나갈 것"이라고 말했다.
기사 URL이 복사되었습니다.
댓글0