'세탁기 윤리'는 없어도 '로봇 윤리'는 필수다

편집자주

가속화한 인공지능 시대. 인간 모두를 위한, 인류 모두를 위한 AI를 만드는 방법은? AI 신기술과 그 이면의 문제들, 그리고 이를 해결할 방법과 Good AI의 필요충분조건

ⓒ게티이미지뱅크

이전 칼럼을 통해 인공지능에는 '인공지능 윤리'가 중요하고, 로봇에는 '로봇 윤리', 자율주행차에서도 '자율주행차 윤리'가 중요함을 이야기한 바 있다. 그런데 우리는 이러한 인공지능, 로봇, 자율주행차 등의 기술에 왜 '윤리'라는 단어가 붙는지 궁금해진다. 도대체 인공지능, 로봇, 자율주행차에는 언제부터 '윤리'라는 단어가 붙게 되었고, 또 왜 붙게 된 것일까?

혹시 '냉장고 윤리', '세탁기 윤리'라는 단어를 들어본 적이 있는가? 물론 없을 것이다. 우리가 '인공지능 윤리', '로봇 윤리', '자율주행차 윤리'처럼 인공지능과 로봇, 자율주행차에 '윤리'라는 단어를 붙이게 된 것은 인공지능, 로봇, 자율주행차가 바로 '자율성'을 가지기 때문이다.

인공지능과 기계가 바로 이 '자율성'을 가지게 되면, 인간처럼 자율적으로 행동하고, 생각하고, 판단하고 의사 결정할 수 있게 된다. 그런데 이러한 '자율성'을 가진 인공지능과 기계가 나쁜 생각을 하고 나쁜 판단을 하고 나쁜 행동을 하면 어떻게 될까?

분명 인간에게 신체적, 정신적으로 큰 피해를 입히게 될 것이다. 따라서 '자율성'을 가진 인공지능과 기계는 절대 악해서는 안 되며, 반드시 선해야 하고 '윤리적'이어야 한다. 그러기에 자율성을 가진 인공지능, 로봇, 자율주행차에는 '윤리'가 반드시 필요하고 매우 중요해지는 것이다.

하지만 독자 중에는 이런 의문을 가지는 분도 있을 것이다. '아직 자율성을 가진 인공지능과 로봇이 개발되지 않았는데, 인공지능 윤리, 로봇 윤리를 벌써부터 따져야 하나?'라고···. 하지만 따져야 한다. 왜냐하면 자율성을 가진 인공지능과 로봇만 인간의 신체와 정신에 영향을 미치는 것이 아니라, 자율성을 가진 것으로 '오인'을 줄 수 있는 인공지능과 로봇도 인간의 신체와 정신에 큰 영향을 미칠 수 있기 때문이다.

예전에 온라인상에서 개 형태의 '로봇개'와 인간 형태의 '휴머노이드 로봇'을 만든 개발자가 이 로봇들을 밀치고 넘어뜨리면서 학대를 하는 듯한 영상이 공개되어 큰 화제가 된 적이 있었는데, 그 당시의 로봇개와 휴머노이드 로봇은 개와 인간을 크게 닮지도 않았고 100% 자율성도 없는 형태였다. 하지만 이 영상을 본 많은 사람들은 로봇개와 휴머노이드 로봇이 불쌍하다며 그러한 행위를 해서는 안 된다고 주장했다. 이러한 현상은 인간이 생명체나 인간과 비슷한 외모를 갖고 행동을 하는 대상에 감정이입을 하고 의인화하는 경향이 있기 때문에, 이렇게 현재 자율성이 없는 AI와 로봇일지라도, 무의식 중에 자율성을 가진 인간이나 생명체로 인식을 하고 정신적인 영향을 받게 되어 나타난 것이다.

현재 이렇게 자율성을 가진 것으로 오인을 줄 수 있는 AI기술로 이미 AI챗봇, 로봇, 가상인간 등이 활발히 개발되고 활용되고 있다. 따라서 우리는 지금부터 '인공지능 윤리'와 '로봇 윤리'를 연구하고 논의해야 하는 것이다.

인간은 선한 면과 악한 면이 있지만, 인공지능은 절대 악해서는 안 된다. 항상 선해야 한다. 따라서 자율성을 가진 인공지능을 개발한다면 기술적인 고도화만 강조할 것이 아니라, 그러한 자율성을 가진 AI와 로봇을 어떻게 하면 착하고 윤리적이게 만들 수 있는지, 곧 '윤리'와 '도덕'을 어떻게 AI와 로봇에게 가르치고 적용할 수 있을지를 함께 깊이 연구해야 한다.

이와 같이 자율성을 가진 인공지능의 개발에는, 인간이 인공지능에 '윤리'와 '도덕'을 가르치고 적용할 수 있다는 믿음이 전제돼 있다. 하지만 만약 연구하고 개발을 해 봤는데 AI에 '윤리'와 '도덕'을 가르치고 적용하는 것이 불완전하거나 불가능하다면, 인류는 결국 '자율성'을 가진 AI와 로봇을 개발할지 말지에 대해서 근원적으로 숙고를 해 보아야 한다.

전창배 IAAE (국제인공지능&윤리협회) 이사장