게재 글 통해 약물ㆍ폭력성 등 판단
“과학적 근거 없어” 비판 목소리도
미국에서 베이비시터를 채용할 때 지원자의 사회관계망서비스(SNS) 활동을 분석해 약물 남용 여부나 폭력적 성향 등 인성까지 진단하는 인공지능(AI) 서비스가 등장했다. AI가 취업 시장에서 객관적 자료로 수치화하기 어려운 지원자의 윤리적인 덕목까지 평가하는 데 활용되는 추세를 보여 주는 것이지만, 과학적 근거가 없는 AI 상술이라는 논란도 제기되고 있다.
최근 워싱턴포스트(WP)에 따르면, 신생 테크 기업인 프리딕팀(Predictim)은 베이비시터 지원자들의 페이스북, 트위터, 인스타그램 등의 활동 내용 수년치를 분석해 약물 남용, 폭력성, 무례한 태도 등의 항목을 평가해 부모들에게 제공한다. 인공지능(AI)이 지원자의 온라인 활동을 샅샅이 조사해 오프라인 생활의 숨겨진 인성을 추적한다는 것이다. 지원자의 SNS 계정에 접근하기 위해선 동의를 얻어야 하는데, 지원자가 이를 거부할 경우 애초 이를 의뢰했던 부모 측이 채용을 하지 않기 때문에 지원자들로선 울며 겨자 먹기로 수락할 수밖에 없다.
SNS에 게재된 글과 사진 등으로 인성을 평가하기 위해 언어 처리 알고리즘 등의 기법을 활용한다는 것이 회사 측 설명이지만, 이는 현재로선 전혀 검증되지 않은 방법이란 비판도 크다. 얼핏 폭력성을 띤 문구가 영화나 소설의 명대사나 노래 가사를 인용한 것이거나 반어적 의미나 풍자적 표현일 수 있는데, 이런 복잡한 인간의 언어 활동을 컴퓨터 분석으로 포착할 수 없다는 것이다. 거대 테크 기업인 페이스북조차 증오 발언과 무해한 언급 간 차이를 구별할 수 있는 알고리즘을 개발하는데 어려움을 겪고 있다. 인권 단체인 일렉트로닉 프론티어 재단의 제이미 윌리엄스 변호사는 WP에 “온라인상에서 언어의 의미를 분석한다는 알고리즘 대부분은 독자가 받아들이는 맥락을 파악하지 못하고 보편적인 상식이 결여돼 있다”며 “알고리즘엔 나쁜 태도로 보이는 어떤 것이 다른 누군가에겐 건전한 비판으로 보일 수 있다”고 말했다. 이 때문에 폭력적 성향의 베이비시터를 피하려는 부모들의 우려를 이용한 상술에 가깝다는 비판이다.
하지만이 이 같은 논란에도 인성까지 평가하는 AI 서비스 시장은 더욱 커질 것이란 전망이다. 부모 수백만 명이 찾는 베이비시터 구인 사이트인 ‘시터시티’는 내년부터 보모 지원자들의 검증 자료 중의 하나로 프리딕팀 서비스를 활용할 계획이라고 밝혔다. 이 회사의 한 이사는 “베이비시터를 찾는 일은 불확실성이 매우 커, 부모들은 항상 많은 조사를 하고 많은 사실을 알고 싶어 한다”고 말했다.
워싱턴=송용창 특파원 hermeet@hankookilbo.com
기사 URL이 복사되었습니다.
댓글0