“인공지능(AI) 판사 도입을 신속히 요청합니다.” 지난 달 청와대 국민청원에 올라온 글이다. 사법농단에 휘말린 인간 판사보다 로봇 판사에게 재판을 받는 게 더 공정할 것이라고 기대한 사람들이 줄지어 ‘찬성’을 눌렀다. 자율주행자동차 개발자들은 사람보다 인공지능 프로그램에게 운전을 맡기는 게 교통사고를 줄일 수 있다고 주장한다. 정말로 인공지능이 인간의 불완전함을 해결해주는 만능 열쇠가 될 수 있을까.
‘페미니즘 인공지능’을 쓴 인공지능전문가인 메러디스 브루서드 미국 뉴욕대 아서 L. 카터 저널리즘 연구소 교수는 전제부터 잘못됐다고 말한다. 그에 따르면, 인공지능이 인간보다 객관적으로 판단할 것이란 기대는 환상이다. 인공지능이 사람에 의해 만들어지기 때문이다. 인공지능의 사고 원리인 알고리즘을 개발하고 판단의 근거가 되는 데이터를 채워 넣는 것도 사람이다.
세계 첨단 기술의 산실인 MIT 미디어랩 출신의 저자 역시 기술이 가져다 주는 장밋빛 미래를 꿈꿨던 낙관론자였다. 그러나 발전이 거듭될수록 기술은 인간의 폐단을 답습하고 재생산하고 있다는 걸 깨달았다. 저자는 그 원인을 기술지상주의에 빠진 ‘인공지능의 아버지’들로부터 찾는다. 그들은 요약하자면 ‘선진국의 부유한 백인 남성 엘리트 집단.’ 사회에서도, 기술 개발 현장에서도 견제 받지 않고 권력을 휘두를 수 있는 특권층이다.
‘민스키 사단’은 그 뿌리다. 인공지능 분야의 개척자인 마빈 민스키는 2016년 사망하기 전까지 미국의 과학기술 산업 전반을 주무르는 ‘테크놀로지의 대부’로 군림했다. 그의 공상을 구현하기 위해 막대한 연방 예산이 투입됐고, 물리학자, 공상과학 소설가, 정치인들이 달라 붙어 그를 도왔다. 여성과 유색 인종은 그의 곁에 갈 수 없었다. 민스키를 축으로 구축된 공고한 카르텔을 유지하는 데 걸림돌이었기 때문이다.
과학자로서 민스키는 누구보다 창의적이었다. 그러나 그는 반(反) 사회적이었다. 민스키 연구실은 컴퓨터에 미친 나머지 불법을 자행하는 해커들로 가득했고, 그의 집 뒷마당에서는 대륙간탄도미사일(ICBM)이 버젓이 개발됐다. 민스키 사단으로 똘똘 뭉친 수학, 과학, 컴퓨터공학 천재들에게 법과 도덕, 사회 규범을 어기는 것은 ‘미덕’처럼 용인됐다. ‘새로운 기술을 개발한다’는 명분 하나면 충분했다.
문제는 민스키 사단과 그 후예들이 만드는 인공지능 기술에 그들의 편견이 고스란히 입력되고 있다는 점이다. 애플의 시리, 아마존의 알렉사, 마이크로소프트의 코르나 등 음성인식 비서 기계의 이름은 예외 없이 여성이다. 그것도 상냥하고 고분고분한 목소리를 내는 여성이다. 이상하지 않은가. 저자는 여성은 ‘조수’ 역할에 머물러야 한다는 남성 개발자들의 인식이 반영된 결과라고 설명한다. 건강 관리 어플을 탑재한 애플 워치가 처음 개발 됐을 때 생리 주기를 추적하는 기능이 없었던 것 역시 여성 차별 사례라고 저자는 꼬집는다.
선입견에 사로잡힌 기술은 현실을 왜곡하기도 한다. 미국에서 도입된 인공지능 판사 소프트웨어인 ‘COMPAS’는 유색 인종과 가난한 사람들의 재범 위험성을 높게 예측해 공정성 논란에 휩싸였다. 피부색이 어두운 얼굴을 범죄자로 특정한 얼굴 인식 프로그램도 문제가 됐다.
페미니즘 인공지능
메러디스 브루서드 지음ㆍ고현석 옮김
이음 발행ㆍ364쪽ㆍ1만 5,000원
저자는 기술에 대한 맹목적 믿음도 개발자들이 만들어낸 신화라고 지적한다. 개발자들은 자율주행차가 언젠가 잘 달릴 수 있을 거라고 주장하지만, ‘언젠가’가 언제일지는 미지수다. 자율주행차 기술은 10년 째 제자리 걸음이다. 보행자 사망 사고도 심심찮게 발생한다. 하지만 기업들은 덮어 놓고 자율주행차 상용화를 노래한다. 기술만 개발하면 모든 게 해결될 거라는 기술지상주의 발상이다. 기술이 가져올 위험과 부작용, 공공의 안전과 공익에 대한 고민하지 않는다.
책의 메시지는 분명하다. 기술은 기술이 아니라 인간을 위해서 존재해야 한다는 것. 그러기 위해선 기술 설계부터 개발까지 인간을 중심에 두고 실행해야 한다. 저자가 제시하는 대안은 ‘견제’와 ‘참여’다. 백인 남성 엘리트 집단의 욕망과 공상에 끌려갈 게 아니라, 사회의 다양한 구성원들이 주도적으로 기술 혁명을 이끌어 나가야 한다고 주문한다. 쓸데 없는 기술에 대해선 단호하게 필요 없다고 거부하는 것부터가 시작이다. 저자는 외친다. “특권층의 탈을 쓴 인공지능에 속지 말자”고. 인공지능은 결코 공정하지도 완벽하지도 않으니 말이다.
강윤주 기자 kkang@hankookilbo.com
기사 URL이 복사되었습니다.
댓글0