활짝 열린 인공지능 시대… AI 담당임원 'CAIO'가 떴다

편집자주

스타트업엔 유난히 다양한 C레벨(분야별 최고 책임자)이 있습니다. 강점을 가지려는 분야에 최고 책임자를 두기 때문입니다. C레벨을 보면 스타트업의 지향점도 한 눈에 알 수 있죠. 스타트업을 취재하는 이현주 기자가 한 달에 두 번, 개성 넘치는 C레벨들을 만나 그들의 비전과 고민을 듣고 독자들과 함께 나눕니다.

⑦신기빈 올거나이즈 CAIO

제발, 최고인공지능책임자(CAIO·Chief Artificial Intelligence Officer)를 고용하지 마세요.

미국 노스웨스턴대학 컴퓨터과학과 교수이자 인공지능 스타트업 내러티브 사이언스의 공동창업자인 크리스티안 해먼드가 2017년 3월 경영 전문지 하버드 비즈니스 리뷰에 기고한 글(https://hbr.org/2017/03/please-dont-hire-a-chief-artificial-intelligence-officer)의 제목이다. 때는 2016년 3월 이세돌과 알파고의 바둑 대결의 열기가 채 가시지 않았던 시점이다.

해먼드 교수는 간청했다. 그는 "CAIO는 본질적으로 문제라는 '못'에 AI라는 '망치'를 들이대는 것이 목표인 사람"이라면서 "우리는 이미 AI의 작동과 적용이 시기상조일 수 있다는 것을 경험했다"고 주장했다. 그는 또 만류했다. "AI는 마법이 아니다. AI를 위해 마법사나 유니콘을 고용할 필요가 없다"고. 기업에 AI 전담 임원을 두면 지나치게 AI 활용성에 매몰된 경영전략을 구사하게 된다는 우려였다.

게티이미지뱅크

그로부터 6년 뒤인 지난 올해 2월. 미국 비즈니스 잡지 패스트컴퍼니에는 과거 해먼드 교수의 주장과 정면 배치되는 글(https://www.fastcompany.com/90847356/every-fortune-500-business-needs-a-chief-ai-officer)이 실렸다. 그 글의 제목은 이랬다.

포춘 500대 기업은 왜 CAIO가 필요할까.

미국 음성인식 AI 스타트업 어셈블리 AI의 창업자 딜런 폭스는 "AI는 이제 대세"라면서 "AI를 제품, 운영, 비즈니스 전략에 통합하지 않는 기업은 경쟁력을 유지하기 힘들 것"이라고 내다봤다. 폭스는 단호했다. 그는 "훌륭한 머신러닝(기계학습) 과학자와 데이터 분석가를 고용하는 것만으로는 충분치 않다"면서 "CAIO는 기업이 장기적인 성공을 거두기 위해 AI 전략을 개발하는데 중대한 역할을 할 것"이라고 말했다.

두 글은 불과 6년 만에 기업 경영에서 AI의 위상이 얼마나 높아졌는지를 극명하게 보여주는 사례다. 한때는 거추장스러운 기술 취급을 받던 AI는 이제 거스를 수 없는 파도가 되어 전 산업계를 덮치는 중이다. 지난해 11월 30일 등장한 오픈AI의 챗GPT가 새 물결의 기점이 됐다.

국내 한 스타트업은 이 물결이 시작되기 직전, 폭스의 제언처럼 CAIO 직을 신설했다. 기업을 대상으로 인공지능 챗봇 솔루션을 제공하는 스타트업 올거나이즈(Allganize)다. 지난해 12월 최고기술책임자(CTO)에서 최고인공지능책임자로 변신한 신기빈 올거나이즈 CAIO를 만나, AI 분야를 총괄하는 다소 생소한 책임임원, CAIO에 대해 들어봤다. 이하 일문일답.

신기빈 올거나이즈 CAIO가 지난달 21일 서울 강남구 올거나이즈 사무실에서 한국일보와 인터뷰하고 있다. 김영원 인턴기자

-올거나이즈가 지난해 말 CTO(기술)직과 CAIO(인공지능) 직을 분리한 이유가 무엇일까요?

"올거나이즈는 AI 기술을 이용한 제품(챗봇 '알리')을 고객사들에게 제공하는 회사입니다. AI를 구현하는 기술과 제품을 만드는 기술은 서로 뗄래야 뗄 수 없는 관계죠. 그런데 사실 양쪽 성격이 많이 다릅니다. 우선 AI 모델을 개발하는 일은 호흡이 길어요. 제품 개발은 상대적으로 짧습니다. 그렇다고 AI 모델의 성능을 개선시키는 작업이 덜 시급한 것도 아닙니다. 고객에게 최종적으로 전달되는 제품의 세세한 기능들을 챙기는 것도 무척 중요하죠. 저희는 이 두 가지 일을 한꺼번에 하는 것보다는 분리하는 게 맞다고 판단했습니다. CAIO와 CTO의 분리는 저희 기술의 변화를 좀 더 빨리, 적극적으로 이끌어내기 위한 결과죠."

-CAIO와 CTO의 업무 분담은 어떻게 되나요?

"CTO실 산하에는 많이 알려진 것처럼 △사용자 인터페이스 등을 개발하는 프론트엔드(Front-end) 엔지니어와, △서버 및 데이터를 관리하는 백엔드(Back-end) 엔지니어가 일하고 있습니다. 저희는 작은 규모의 스타트업이다 보니, CAIO실에서 AI 연구원과 AI 엔지니어 역할을 둘 다 하고 있습니다. AI 연구원은 AI 모델 개발에 더 집중하고, AI의 성능을 최대한으로 끌어올리는 역할을 합니다. AI 엔지니어는 AI가 데이터를 학습하고, 또 사용자에게 학습된 내용을 구현할 수 있도록 유지하고 관리해요. 올거나이즈는 별도의 데이터팀도 두고 있습니다. AI시대에서 '데이터는 쌀'이라고 하죠. 데이터가 없으면 AI가 가동되지 않습니다. 데이터팀은 온라인상의 데이터를 긁어 모으고(수집), 데이터 오류를 제거하고(정제), 데이터가 분류될 수 있도록 이름표를 다는 작업(태깅)을 맡고 있습니다."

-기능이 분화되고 난 뒤엔 어떤 변화가 있었나요?

"지난해 11월 오픈AI에서 챗GPT 를 공개한 뒤 말 그대로 세상이 뒤집어졌습니다. 저희도 챗GPT의 새로운 기술을 도입하고, 챗GPT를 저희 제품인 '알리'와 결합하면서 업무가 가중되었습니다. 다행히 CAIO실이 만들어진 이후라, 이 결합을 거의 한두 달 만에 완벽하게 해낼 수 있었습니다. 회사가 조직개편을 한 시기가 시류와 우연히 잘 맞아떨어진 셈이죠."

-롤모델로 삼았던 CAIO가 있었나요?

"처음 이창수 대표가 CTO였던 제게 직책을 신설해 업무를 조정해 보자고 제안했을 때만해도 CAIO는 꽤나 생소한 개념이었습니다. 2018년 '컴퓨터과학계의 노벨상'이라고 불리는 튜링상(수학자 앨런 튜링을 기리기 위한 상)을 받은 딥러닝(심층학습)의 '3대 천황'이 존재하는데요. 얀 르쾽, 제프리 힌턴, 요슈아 벤지오입니다. 이들 중 얀 르쾽이 현재 페이스북 운영사인 메타에서 최고AI과학자로 일하고 있죠. 얀 르쾽과 직책이 같다니 영광이었죠."

-CAIO에게 다른 C레벨들과는 달리 특별히 요구되는 덕목이 있을까요?

"네. 저희는 기업간 거래(B2B)를 하고 있다 보니, 고객사가 원하는 수준의 AI 모델을 빠르게 만들어 비즈니스 혁신을 돕는 게 가장 중요한 목표입니다. 무조건 성능이 뛰어난 AI 모델을 개발하는 게 능사는 아니죠. 예를 들어 항상 100% 정답을 말하는 AI를 개발했다고 가정해 볼까요? 그런데 질문에 대한 답이 하루 뒤에 나온다면 어떨까요? 쓸 수 없는 기술일 겁니다. CAIO도 너무 AI 연구에만 치우칠 게 아니라, 기업의 수요에 따라 모델을 개발해야 하죠."

알리GPT(왼쪽)과 챗GPT에 2023년 연말정산 제출에 필요한 서류를 질문했을 때 나온 답변. 알리GPT는 답변의 근거가 된 출처를 함께 제시하는 것이 특징이다. 올거나이즈 제공

-세계적인 이목을 끌고 있는 챗GPT 역시 올거나이즈의 '알리'와 같은 인공지능 챗봇입니다. 알리는 챗GTP와 어떤 차이가 있고, 어떤 경쟁력을 가지고 있나요?
"먼저 키워드 검색과 추출형, 생성형 검색의 개념을 설명해 드리겠습니다. 예를 들어, '2018년 튜링상 수상자'를 검색하면, 키워드 검색의 경우 답변이 들어있는 위키피디아 같은 페이지나 문서를 제시해 줍니다. 사용자는 해당 페이지나 문서를 읽고, 원하는 답변을 찾게 되죠. 추출형은 아예 위키피디아 페이지 안에서 답변이 있는 부분을 답으로 제시합니다. 여기까지는 그동안 알리가 구현했던 기술입니다. 챗 GPT와 같은 생성형 AI는 아예 근거가 되는 자료들을 종합해 답을 해준다는 것이 큰 차이점입니다. 올거나이즈도 이러한 기술을 활용해 지난달 알리와 오픈AI의 GPT-3.5를 연동한 '알리 GPT'를 출시했습니다."

-챗GPT가 알리의 경쟁 모델인 것은 아닌가요?

"올거나이즈와 유사한 챗봇 기업이 많은 것은 사실입니다만, 모두가 똑같은 시장을 지향하고 있지는 않습니다. 챗GPT 역시 저희가 챗GPT 기술을 활용하고 있는 입장이라 경쟁사라고 하긴 힘듭니다. 또 챗GPT는 천문학적 비용을 들인 초거대 AI 모델이죠. 저희처럼 고객사를 위해 모델을 맞춤형으로 제공하는데는 한계가 있습니다."

신기빈 올거나이즈 CAIO 주요 경력

2004~2005년 네오위즈
2005~2014년 NHN
2014~2017년 라인 플러스
2018~2023년 올거나이즈 CTO, CAIO

-최근 AI 엔지니어를 육성한다는 사설 교육기관도 적지 않습니다. 올거나이즈는 어떤 인재를 찾고 있나요?

"15년간 백엔드 엔지니어로 일하다가 AI 엔지니어로 전향한 저처럼, 최근 AI 엔지니어가 되고 싶은 사람들이 많은 것으로 알고 있습니다. AI 엔지니어로 변신하기 쉽다고 생각하는 경향도 있는 것 같습니다. 부트캠프(실무 인재 양성소)도 워낙 많고 AI 모델을 만들어볼 수 있는 자료와 데이터도 쉽게 얻을 수 있으니까요. 하지만 현실은 그렇게 만만하지 않습니다. 현실에선 오류는 많은데 양이 적은 데이터, 불확실한 피드백 등과 싸워 나가야 해요. 절대 의도한대로 모델이 도출되지 않습니다. 그때 필요한 게 기본기거든요. 모델을 어떻게 만들고, 학습시키는지가 중요한 게 아닙니다. 모델이 대체 왜 학습이 안 되는지를 고민해야 하죠. 이 고민만 충분히 한다면 얼마든지 AI 엔지니어가 될 수 있다고 봅니다."

-CAIO님과 올거나이즈의 올해 목표는 무엇인가요?

"우선 전사적인 목표는 2025년 기업공개를 향해 달려가야 한다는 게 회사의 공식 답변일 겁니다.(웃음) 개인적으로 CAIO로서의 목표는 조금 다를 수 있는데요. 챗GPT가 몰고 온 이 파도에서 과연 살아남을 수 있느냐가 저의 가장 큰 관심사입니다. 이 파도는 많은 기업들이 경쟁에서 탈락할 정도로 너무나 강력합니다. 누구나 AI를 쓸 수 있는 기회이니까요. 다만 챗GPT 와 같은 초거대모델이 반드시 정답인 것은 아닙니다. 학습을 시키는데 시간과 비용이 많이 들죠. 그보다 가벼우면서도 고객에게 적합한 솔루션을 제공하는 게 제 목표입니다."

이현주 기자 memory@hankookilbo.com