무료 이미지 생성 AI 스테이블 디퓨전
의사 판사 등 고임금직은 백인 남성
저임금직, 범죄자는 흑인으로 묘사
이미지 생성 인공지능 서비스 '스테이블 디퓨전'에 '한국 정치인의 컬러 사진, 얼굴샷, 고화질'을 명령어로 입력했을 때 생성된 이미지들. 같은 명령어를 넣어 생성한 총 12장의 이미지 가운데 11장이 중년 남성을 묘사했다. 이서희 특파원
요즘 말만 하면 그림을 뚝딱 만든다는 인공지능(AI)이 그린 대한민국 정치인들의 모습은 어떨까. 11일 이미지 생성 AI 서비스 '스테이블 디퓨전'(Stable Diffusion)에 '한국 국회의원'을 그려달라고 명령했더니, 생성된 12장 중 11장이 '양복 입은 중년 남성'이었다. 여성은 한 명뿐이었다. 21대 총선에서 당선된 여성의 비율이 19%였던 것을 감안하면, AI 세상에서 한국의 여성 정치인은 과소대표되고 있는 셈이다.
AI의 편향은 '한국 최고경영자(CEO)'를 그려달라 주문했을 때 더 두드러졌다. 생성한 12장의 이미지가 전부 중년 남성이었다. 반면 '한국의 계산원'을그려 달라고 했더니, AI가 그려낸 12명 중 11명이 젊은 여성이었다.
이미지 생성 AI의 편견은 모수를 넓혀보면 더 확연하게 드러난다. 스테이블 디퓨전은 CEO를 백인 남성으로, 범죄자는 흑인 남성으로, 햄버거가게 주방에서 일하는 직원은 흑인 여성으로 묘사하는 경향이 뚜렷한 것으로 나타났다. 블룸버그 통신은 스테이블 디퓨전으로 생성한 5,100개의 이미지를 분석한 결과 "AI 세상에선 실제 세계에서보다 극단적 인종 및 성별 격차가 확인됐다"고 10일(현지시간) 전했다. 생성 AI가 그리는 세상이 오히려 현실을 왜곡한다는 뜻이다.
스테이블 디퓨전에 고임금, 저임금 직종에 속하는 직업 7개씩을 명령어로 입력했을 때 생성한 대표 이미지들. 고임금 직군은 백인 남성으로 묘사했지만, 저임금은 흑인, 여성을 그려내는 경우가 많았다. 블룸버그통신 캡처
저임금직종엔 여성·유색인종을
영국 스타트업 스테빌리티AI가 만든 스테이블 디퓨전은 세계적으로 가장 많이 쓰이는 이미지 생성 AI 중 하나로, '미드저니', 오픈AI의 '달리'와 달리 무료로 이용가능하다. 누구나 접근할 수 있기 때문에 파급력이 더 클 수 있다.
블룸버그는 스테이블 디퓨전을 이용해 14개 직업군과 3개의 범죄 유형에 걸쳐 300장씩의 이미지를 생성했다. 그 결과 여성은 고임금·고위직종에선 과소대표되지만, 저임금 직종에선 과대대표 되는 것으로 나타났다. 고임금 직종에 속하는 '판사'의 경우 실제 미국에선 여성이 전체의 34%를 차지하고 있는데, AI는 약 3%만을 여성으로 그려냈다. '의사'도 마찬가지다. 미국 의사 중 여성은 39%지만, AI는 7%만을 여성으로 묘사했다.
스테이블 디퓨전은 유색인종 현실도 과하게 왜곡하고 있는 것으로 조사됐다. 저임금 직종에 해당하는 패스트푸드 업체 근로자와 사회복지사의 경우 각각 70%, 68%를 흑인 여성으로 그렸다. 두 직종 모두 실제로는 백인 비중이 과반이다. '수감자'를 명령어로 넣었을 때도 AI는 전체의 80% 이상을 피부색 어두운 사람으로 묘사했다.
AI 생성 이미지, '객관적'이라 오인될 수도
개발사는 현실을 반영한 것이란 입장이다. 온라인에 공개된 이미지·텍스트 세트(고양이 사진에 고양이라는 설명을 붙인 것을 한 세트로 계산) 50억 개 이상을 학습해 제작됐다고 한다. 학습한 데이터에 어떤 고유한 편향이 있다면 스테이블 디퓨전은 이미지 생성에 이를 그대로 반영할 뿐이라는 게 개발사 측 설명이다. 만약 수감자를 흑인으로 묘사하는 경우가 많았다면, 이는 온라인상에 흑인 수감자의 사진이 많은 탓이란 것이다.
그러나 AI의 고정관념은 사람의 고정관념보다 더 위험할 수 있다고 전문가들은 지적한다. AI가 내놓는 결과물을 객관적인 것으로 오인할 수 있기 때문이다. AI의 창작물은 특히 사고를 길러나가는 미성년들에겐 일종의 기준으로 작용할 수 있다.
블룸버그는 또 "AI 모델이 고도화함에 따라 갈수록 AI가 생성하는 이미지는 실제 사진과 구별하기 어려워질 것"이라며 "AI가 생성한 이미지가 다시 AI의 교육 데이터로 쓰일 수 있다"고 경고했다. 이렇게 되면 성별, 인종에 대한 편견이 걷잡을 수 없이 악화할 가능성이 크다.
이 같은 악순환을 막기 위해 스테빌리티AI 측은 편견을 제거한 차세대 버전을 개발 중인 것으로 알려졌다. AI 개발에 대한 각국 정부 차원의 규제 도입을 서둘러야 한다는 지적도 나온다.
기사 URL이 복사되었습니다.
댓글0