개발자 윤리 외엔 국제합의 없어
‘AI에 폭격 결정 맡기나’ 등 논란
유엔 “국제적 규범 형성 전까지
AI무기 실험ㆍ생산ㆍ수출 자제를”
세계 로봇 전문가들이 카이스트(KAIST) 국방인공지능(AI) 융합연구센터가 AI를 활용한 ‘살상 로봇’을 개발할 수 있다고 우려를 표하면서 AI 윤리를 둘러싼 논란이 불거지고 있다. “자율살상무기 등 인간의 존엄성에 반하는 연구를 하지 않을 것”이란 카이스트 해명과는 별개로, 전 세계적으로 AI 윤리 제정이 아직 걸음마인 상황에서 AI 오작동ㆍ남용 등으로 예기치 못한 문제가 불거질 수 있다는 우려에서다.
비약적으로 발전하는 AI 기술과 달리, AI 윤리 문제는 아직 초보적인 수준에 머물러 있다. 한상기 테크프론티어 대표는 "AI 윤리는 개발자 윤리, 사용자 윤리, AI가 지켜야 할 윤리 등으로 구분되는데, 개발자 윤리를 제외하곤 아직 별다른 진전이 없다"고 말했다.
지난해 1월 미국 캘리포니아 아실로마에서 전문가들이 모여 AI 연구개발 방향 등 23개 방향을 담은 '아실로마 AI 원칙'을 내놨지만, 모두 AI 개발자에 대한 내용이다. 이 원칙에도 ▦방향성이 없는 지능이 아니라 유익한 지능을 개발한다 ▦인류의 가치에 부합하는 쪽으로 AI를 설계해야 한다 ▦AI를 이용한 자동화 무기 경쟁은 피해야 한다 같은 선언적 내용이 담겼을 뿐이다. 일론 머스크 테슬라 최고경영자(CEO), 최근 작고한 스티븐 호킹 박사, 알파고를 개발한 데미스 허사비스 구글 딥마인드 CEO 등 2,300여명의 전문가가 여기에 서명했다.
장우석 현대경제연구원 연구위원은 “드론(무인기) 폭격에서 마지막 미사일 발사 버튼을 누르는 것까지 AI에게 맡길 것인가를 두고 국제사회의 논란이 크다”며 “아직 AI가 지켜야 할 윤리ㆍ보편적 규범이 무엇인지 국제합의조차 이뤄지지 않은 상황에서 AI에게 자율의사 결정 기능까지 부여하면 통제할 수 없는 상황이 발생할 수도 있다”고 우려했다.
이런 이유로 유엔 인권이사회는 관련한 국제규범이 형성되기 전까지 자율살상무기 실험ㆍ생산ㆍ기술이전 자제를 권고하고 있다. 김윤정 한국과학기술기획평가원 연구위원도 "AI 기술이 발달할수록 AI가 자율적으로 내린 의사결정이 인류에게 해를 끼치는 경우가 증대될 수 있다"며 "자율살상무기시스템이나 경찰 로봇 등 인류의 기본권을 직접 침해할 수 있는 권한까지 AI에게 부여한다면 사회에 큰 혼란을 가져올 것"이라고 말했다.
AI가 인륜에 반하는 범죄를 저질렀을 때 누구를 처벌할 것인지도 아직 미해결 과제다. 과학기술정책연구원은 최근 '인공지능 시대의 법적ㆍ윤리적 쟁점' 보고서에서 "AI 로봇이 소유주의 명령에 따라 타인에게 상해를 입혔을 때 그 책임을 로봇 주인이 질지, 잘못된 명령을 따르도록 AI를 만든 제작자가 져야 하는지 등이 향후 쟁점이 될 것"이라고 내다봤다.
AI 윤리 제정 문제가 시급한 과제로 떠오른 만큼, 해외 유명 대학에선 전문가 양성을 위해 속속 AI 윤리 과목을 개설하고 있다. 미국 하버드대와 매사추세츠공대(MIT)는 올해부터 AI 규제와 윤리를 주제로 공동 강의를 시작한다. 미국 스탠퍼드대는 내년 개강을 목표로 '컴퓨터 사이언스 윤리학' 과목 개설을 준비 중이다. 김 연구위원은 "AI 발전을 가로막는 산업규제는 풀어야 하지만, 윤리 규제는 이와 별로도 생각하고 계속 고민해야 한다"고 말했다.
변태섭기자 libertas@hankookilbo.com
기사 URL이 복사되었습니다.
댓글0