금융위, 금융분야 AI 가이드라인 발표
금융분야 AI 가이드라인. 금융위원회 제공
2019년 애플이 골드만삭스와 손잡고 함께 선보인 신용카드 '애플카드(Apple Card)'는 출시 석 달 만에 논란에 휩싸였다. 해당 카드는 인공지능(AI)에 의해 심사되고 발급됐는데, 한 이용자가 "우리 부부의 조건이 같은 상황에서 내 한도가 아내의 20배나 된다"며 애플카드가 성차별적이라고 지적한 것이다.
심지어 애플 공동 창업자인 스티브 워즈니악마저 "우리 부부는 모든 자산을 공유하고 있음에도 내가 아내보다 10배 높은 신용한도를 받았다"며 "이게 2019년 빅테크의 현실"이라고 꼬집었다. 이를 조사한 미국 뉴욕주는 '해당 알고리즘에 성별 변수는 포함되지 않았다'고 결론 내렸지만, 업계에서는 기존 시스템과 사람의 편견이 알고리즘에 간접적으로 반영됐을 가능성이 높다고 보고 있다.
금융권의 AI 활용이 폭발적으로 늘어나면서 문제점도 덩달아 커지자, 금융당국이 AI를 올바르게 사용하고 책임 소재 등을 명확히 하기 위한 가이드라인을 내놨다.
8일 금융위원회는 제1차 '디지털 금융협의회 데이터 분과회의'를 열고 △3중 내부통제장치 마련 △개인정보 오남용 방지 △AI 공정성 제고 등을 골자로 하는 '금융분야 AI 가이드라인'을 발표했다.
먼저 금융위는 AI를 금융거래 및 대고객 서비스에 활용하고자 하는 금융사들이 자체적으로 윤리원칙과 관련 조직, 위험관리정책 등 내부 통제장치를 마련해야 한다고 권고했다.
예를 들어 AI가 고객 상담을 진행할 경우 음성봇이 응대하고 있다는 사실을 미리 고지하고, 신용평가나 대출심사 등 개인 권리에 영향을 끼치는 분야에 AI를 활용할 때는 사람에 의한 승인 절차를 마련하는 식이다.
2019년 출시된 애플카드. 애플 제공
가이드라인에서는 AI 활용 과정에서 나타날 수 있는 '공정성' 문제도 중요하게 다뤄졌다. 애플카드 사례에서 보듯 AI에도 성별이나 지역, 나이 등 특정 집단에 대한 편견이 작용할 수 있는 만큼 금융사가 각별히 신경써야 한다는 것이다.
금융위 관계자는 "금융소외계층을 위한 정책금융상품처럼 '결과의 평등'이 중요한 상품과, 카드발급 심사와 같은 일반 금융 상품의 평가 기준은 달라야 한다"고 설명했다.
가이드라인에는 고객 피해를 줄이고, 피해 발생 시 책임주체를 명확히 하기 위한 방안도 담겼다. 우선 고위험 상품 판매나 대출 심사 등 개인 권리에 영향을 미칠 수 있는 분야에 AI가 활용될 경우, 승인절차를 마련하는 등 사전 점검을 거치도록 했다. 고객 개인정보 보호나 시스템 오용 및 악용 가능성 차단 등도 당부했다. 아울러 금융사가 AI 개발을 다른 회사에 맡기는 경우에도 명확한 책임조항 및 손해배상 처리 절차를 기재하도록 했다.
다만 금융위는 연내 시행될 이번 지침에 강제성을 부여하지 않기로 했다. 과도한 검사 및 감독이 따를 경우 금융사가 부담을 느껴 AI 활성화가 어려워질 가능성이 높기 때문이다. 도규상 금융위 부위원장은 "AI 기술혁신의 과실이 금융 소비자들에게 돌아갈 수 있도록 금융권의 책임감 있는 AI 도입을 당부드린다"고 강조했다.
기사 URL이 복사되었습니다.
댓글0