인권적 관점서 AI 정책 수립·이행 권고
"인공지능 인권에 영향... 차별 구제해야"
지난 11일 서울 강남구 코엑스에서 열린 '바이오코리아 2022'에서 참가 업체 직원이 인공지능 VR 심폐소생술 교육 솔루션을 시연하고 있다. 뉴시스
국가인권위원회가 인공지능(AI) 개발·활용 과정에서 발생할 수 있는 인권침해와 차별 방지를 위한 가이드라인을 제시했다.
인권위는 국무총리에게 '인공지능 개발과 활용에 관한 인권 가이드라인'에 기초해 인공지능 관련 정책이 수립·이행되고, 관계 법령이 제·개정되도록 관련 부처들을 유기적으로 조정할 것을 권고했다고 17일 밝혔다.
가이드라인은 △인간의 존엄성·개인의 자율성과 다양성 보장 △투명성과 설명 의무 △자기결정권의 보장 △차별금지 △인공지능 인권영향평가 시행 △인공지능 위험도 등급 구분과 관련 법·제도 마련 등이 핵심이다.
가이드라인에 따르면 인공지능 기술을 활용한 판단 과정과 그 결과에 대해 적절하고 합리적인 설명이 보장돼야 하며, 기본적 인권에 중대한 영향을 미치는 경우에는 사용한 데이터와 알고리즘의 주요 요소를 일반에 공개하고 설명할 수 있어야 한다. 인공지능이 인권과 안전에 미치는 위험성을 단계별로 구분해 그에 걸맞는 수준의 규제와 인적 개입이 이뤄지도록 법과 제도를 마련하라는 내용도 포함됐다.
인권위는 "인공지능은 개인의 선택과 판단 및 결정을 강요하거나 자율성을 침해해선 안 된다"며 "인공지능의 결정이 특정 집단이나 일부 계층에 차별적이거나 부당한 영향을 초래하지 않고 개인의 안전이나 권리에 차별적 영향을 미치지 않도록 필요한 조치를 해야 한다"고 설명했다. 이어 "인공지능에 의해 인권침해나 차별이 발생한 경우에도 효과적인 권리구제를 받을 수 있는 절차와 방법이 미흡한 상황"이라고 덧붙였다.
기사 URL이 복사되었습니다.
댓글0