폭행 공방으로 시작된 클럽 버닝썬 사건이 마약, 성폭력, 탈세, 경찰유착 등 다양한 의혹 제기로 확대되고 있다. 그 가운데 성관계 불법 촬영 및 유포 혐의를 받고 있는 가수 정준영과 여성 연예인이 등장한 가짜 동영상, 이른바 ‘딥페이크(Deep Fake)’ 영상이 확산되면서 인공지능 기술의 발전이 다시금 주목받고 있다. 현재 인공지능은 육안으로는 그 진위를 확인할 수 없을 만큼 높은 수준의 합성 영상을 만들 수 있다. 또한 특정인의 목소리나 억양 등도 구현할 수 있는데, 이미 지난해 버락 오바마 전 대통령이 도널드 트럼프 대통령을 향해 독설을 내뱉는 딥페이크 영상이 화제가 되기도 했다.

이러한 기술이 보이스피싱에 악용된다면 어떤 일이 벌어질까? 발신자는 더 이상 어눌하게 한국어를 구사하지 않는다. 경찰이나 검사를 사칭하지도 않는다. 내 가족의 목소리로 전화를 걸어와 돈을 요구한다면 송금하지 않을 자신이 있을까? 이렇듯 인공지능의 발전은 범죄를 한층 더 고도화시키고 신종범죄를 출현시킬 우려가 있다. 그러나 그 기술은 범죄를 예방하는 기능도 할 수 있다는 점에 주목해야 한다. 얼마 전 공개된 보이스피싱 차단 어플리케이션이 그 예다. 보이스피싱 피해 사례를 학습한 인공지능이 통화 내용을 실시간으로 분석하여 보이스피싱 위험성을 경고함으로써 범죄를 사전에 막을 수 있는 것이다.

범죄예방을 넘어 형사재판에도 인공지능을 활용해야 한다는 일각의 목소리가 있다. 사법농단 의혹 등으로 인해 심화된 사법 불신은 차라리 인공지능 판사를 도입하라는 여러 건의 국민청원으로 이어졌다. 실제 미국에서는 선고할 형을 정할 때 인공지능 프로그램이 이용되고 있는데, 노스포인트사가 개발한 ‘컴퍼스(COMPAS)’가 대표적이다. 이와 관련해서는 알고리즘에 대한 확인이나 이의제기가 불가능한 상황에서 인공지능 분석에 근거해서 형을 선고하는 것이 부당하다는 주장이 제기된 바 있다. 이에 2017년 해당 사건을 맡았던 위스콘신 주 대법원은 컴퍼스가 가치 있는 정보를 제공했지만 그 보고서를 제외했더라도 동일한 형량이 선고되었을 것이라는 이유로 피고인이 제기한 상고를 기각하였다.

법원이 인공지능 프로그램을 보조수단으로 활용하는 것에는 큰 논란이 없을 것이다. 문제는 인공지능으로 하여금 판사의 업무를 대체하도록 할 수 있는가이다. 이미 국내에서 전자시스템을 통해 약식절차가 진행되고 있는 도로교통법 위반 사건 등에 대해서는 인공지능이 판사를 대신할 수 있다는 가능성이 언급된다. 그러나 인공지능 시스템도 알고리즘이나 데이터 자체의 편향성이나 차별 문제를 내포하고 있다는 점을 간과해서는 안 된다. 2016년 미국의 언론매체 ‘프로퍼블리카’는 컴퍼스를 이용한 재범예측 평가를 분석한 결과, 백인에 비해 흑인의 위험도가 실제에 비해 과대평가되고 있다고 보도했다. 같은 해 온라인 국제미인대회 출전자의 사진을 심사했던 인공지능 프로그램 ‘뷰티닷에이아이’는 백인만을 입선시켜 거센 비난을 받기도 했다. 다양한 감정과 편견을 가진 사람에 비해 기계는 객관적인 판단을 내릴 것이라는 기대와 달리 과학이라는 미명하에 새로운 방법으로 사회적 편견이 고착될 수 있다는 문제가 대두된 것이다.

이에 알고리즘이 내리는 자동화된 의사결정에 대하여 설명을 요구할 수 있는 권리를 인정해야 한다는 주장이 제기되기도 한다. 반면 이 권리는 기술의 혁신을 저해하는 불필요한 규제로 작용할 것이라는 회의적인 시각도 존재한다. 실제 알고리즘에는 그 개발자조차 이해할 수 없는 영역인 ‘블랙박스’가 있기 때문에 이 권리를 보장하기란 현실적으로 불가능하다는 것이다. 개별 정보주체에게 이러한 권리를 인정할 것인지는 별론으로 하더라도 형사법정을 비롯한 공공기관에서 사용되는 인공지능 프로그램에 대해서는 가능한 그 알고리즘을 공개하고, 편향성을 검증하여 보고하는 절차가 마련되어야 한다.

지난해 미국에서는 아마존의 인공지능 플랫폼 ‘알렉사’가 살인사건의 증인으로 법정에 선다는 뉴스가 보도되었다. 알렉사가 탑재된 홈 스피커 ‘에코’에 사건 현장의 음성이 녹음되어 있을 가능성이 제기되자 법원이 해당 파일을 제출하라고 명령한 것이다. ‘자료제출’이 ‘증인출석’으로 표현된 것처럼 우리의 일상에서 인공지능은 종종 의인화되고 있다. 그러나 형사법상 지능형 에이전트에게는 아무런 법인격이 인정되지 않는다. 다만 형사법도 사회 구성원들의 필요에 의해 만들어지고 유지되는 규범이라는 점에서 언젠가 지능형 에이전트에게도 별도의 법인격이 부여될지 모른다. 미국에서는 로봇 개를 발로 차는 영상이 공개되면서 동물학대 논란이 야기되었고, 일본에서는 더 이상 수리가 불가능한 로봇 반려견의 합동 장례식이 치러지기도 했다. 존재론적 관점에서는 한낱 기계에 불과한 그 대상에게 부여하는 사회적 의미가 달라진다면 법도 변해야 한다. 또 누가 아는가? 로봇 장례식이 더 이상 해외토픽에 실리는 기이한 일이 아니라 경조사 휴가를 받아 치르게 될 일이 될지.

윤지영 한국형사정책연구원 연구위원

공감은 비로그인 상태에서도 가능합니다

web_cdn 저작권자 © 한국일보 무단전재 및 재배포 금지

오피니언 최신기사