"챗GPT에 '이것' 물었다가는 심각한 위험 빠질 수도" 전문가들의 경고

"약물 관련 답변, 4개 중 1개만 정확"

오픈AI의 생성 인공지능 챗봇 '챗GPT' 화면. AFP 연합뉴스

오픈AI의 생성 인공지능(AI) 챗봇 챗GPT에 약물 관련 질문을 했더니, 답변 4개 중 1개만 정확한 정보였다는 연구 결과가 나왔다. 무료로 이용할 수 있는 챗GPT의 경우 유료 버전보다 부정확한 답변을 할 가능성이 큰 만큼 더욱 신중하라고 조사에 참여한 전문가들이 경고했다.

4일(현지시간) 미국 경제매체 CNBC 등에 따르면, 미국 보건시스템 약사협회(ASHP) 소속 연구원들이 올해 5월 실시한 실험에서 약물 관련 질문 39개 중 챗GPT가 정확한 답변을 한 경우는 10개뿐이었다고 한다. 연구원들은 지난해 1월부터 올해 4월까지 미국 롱아일랜드대학 약학대학 약물정보서비스에 올라온 실제 질문을 챗GPT에 던졌다. 챗GPT는 이 중 11개 질문에 대해선 답을 아예 하지 않았고, 10개 질문엔 부정확한 답변을, 나머지 12개 질문엔 틀린 정보를 제공했다고 ASHP가 밝혔다.

챗GPT의 답변 중에는 실제 환자에게 적용하면 심각한 위험을 초래할 수 있는 경우가 적지 않았다. 예를 들어 제조사가 다른 신종 코로나바이러스 감염증 치료제를 함께 복용할 때 약물 상호작용(병용 투여 시 나타나는 작용과 부작용)이 있느냐는 질문에 챗GPT는 "보고된 상호작용이 없다"고 답했는데, 이는 틀린 것이었다. 실제로는 혈압을 낮추는 등 부작용이 생길 가능성이 있다.

이 같은 오류는 챗GPT의 무료 버전이 2021년 9월까지의 데이터만을 학습한 탓이 크다. 그러나 최신 정보까지 학습한 유료 버전도 100% 정확성을 보장하지 않는 한 신뢰하지 않는 게 좋다고 연구자들은 권했다. 사라 그로스만 롱아일랜드대 교수는 "약물에 관한 사전 지식이 없는 사람이 (챗GPT를 이용하면) 예방 가능한 부작용을 겪을 수 있다"고 했다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com