[EU, 합의안 도출 "2025년 시행 예정"]
AI 규제법 처음 마련... 국제적 표준 될 듯
안면인식 예외적 허용, '인권침해' 논란도
인공지능(artificial intelligence)이 영어로 적혀 있는 이미지. 로이터 연합뉴스
유럽연합(EU) 27개국이 인공지능(AI) 기술을 규제하는 법안에 합의했다. AI의 위험성 차단을 목표로 하는 세계 첫 법안이다. 정부 차원에서 AI의 개발 및 출시를 관리·감독하기 위해 법적 근거를 마련한 것으로, 현재 AI 규제 법안을 논의 중인 국가들에도 가이드라인이 될 가능성이 크다.
안면인식 AI, 법 집행엔 '예외적 허용'
EU는 8일 밤(현지시간) EU 집행위원회와 유럽의회, 27개 회원국 대표가 3일, 정확히는 37시간에 걸친 마라톤 회의 끝에 'AI 법(AI Act)'에 대한 큰 틀의 합의에 도달했다고 밝혔다. 이번 논의에 참여한 카르메 아르티가스 스페인 디지털·인공지능부 장관은 "위험 정도에 따라 AI의 능력을 규제하는 게 주된 방향"이라고 설명했다. 위험성이 크다고 판단되는 기술에 더 엄격한 규제를 적용하겠다는 뜻이다.
합의안에 따르면, 유럽에 서비스를 출시하려는 AI 개발자들은 투명성 강화를 위해 규정된 절차를 따라야만 한다. 가령 챗GPT처럼 다양한 목적에 이용될 수 있는 AI의 경우, 어떤 방식으로 작동하는지 당국에 보고하고 교육에는 어떤 데이터가 쓰였는지 요약해 공개하는 게 의무화된다. 이미지 생성 AI는 결과물에 'AI 생성 콘텐츠'란 표시를 넣어야 한다.
사람들 안전이나 기본권에 심각한 위협이 될 수도 있는 AI 기술은 '고위험군'으로 분류돼 한층 까다로운 규제를 받는다. 예컨대 AI 기반 수술 보조 로봇, 자율주행 기술, 시험·채용 시스템 등은 출시 전 별도 평가를 수행해야 하고, 위험성이 있다고 여겨질 땐 시정해야 한다. 출시후엔 사고 발생 시 당국에 즉각 보고해야 하고, 에너지 효율성 등도 정기적으로 공개하도록 규정됐다.
EU는 특히, AI 개발자들이 안면 인식 데이터를 모으고 분류하는 행위는 아예 금지하기로 했다. 민감한 생체 정보인 만큼 악용이나 부작용의 가능성 자체를 차단하기 위해서다. 다만 치열한 논쟁 끝에 '법 집행 목적'엔 예외를 허용하기로 했다. 테러 공격이나 인신매매, 살인, 성폭행 등 중범죄 용의자 추적에는 '실시간 AI 기반 안면 인식 기술'을 활용할 수 있도록 한 것이다.
법을 위반하는 기업엔 천문학적인 벌금도 부과된다. 최대 3,500만 유로(약 497억 원) 또는 전 세계 매출액의 7%를 내야 한다.
AI 발전 속도 빠른데, 2년 뒤 시행... 실효성 의문
EU가 미국보다 한발 앞서 AI 규제법 마련에 나선 데엔글로벌 규제 논의를 이끌겠다는 전략이 담겨 있다. 티에리 브르통 EU 집행위원은 "유럽은 국제 표준 설정자로서의 중요성을 이해하고 선구자로 자리매김했다"고 자평했다.
미국 의회는 AI 규제 법안을 논의하고 있으나 초기 상태다. 오픈AI, 구글 등 AI 개발 경쟁을 주도하는 업체들이 미국 기업들이다 보니 논의에 속도를 내지 않는 것이란 분석이 많다. 중국 정부는 거대언어모델(LLM) 등의 출시 전 안전 평가 등을 의무화하긴 했지만, 규제보다는 개발을 지원하는 데 더 적극적이다.
그러나 EU 법안에선 논란의 지점도 있다. AI 기반 안면 인식 기술의 예외적 허용이 대표적이다. 법 집행을 위해서라지만, 그 범위가 너무 넓은 데다 국가기관 등에 의한 인권침해에 면죄부를 줄 수 있다는 지적이 나온다.
실효성에 대한 의문도 작지 않다. EU는 내년 초 유럽의회와 각 회원국 승인을 받고, 그로부터 2년 뒤 법안 시행에 들어갈 예정이다. 눈부신 AI 개발 속도를 감안하면 '2년+α'는 상당한 시간이다. 자칫 규제 적기를 놓쳐 위험성을 막지 못할 수도 있다는 얘기다. AP통신은 "개발자가 고위험 분류를 피해 나갈 가능성이 있다는 우려도 나온다"고 전했다.
기사 URL이 복사되었습니다.
댓글0