최근 IBM의 인공지능 컴퓨터인 왓슨이나 구글, 페이스북, 마이크로소프트 등에서 큰 투자를 강행하면서 빅 이슈가 된 딮 러닝 등의 인공지능 관련한 기술들이 뉴스화가 되면서, 인공지능 보급에 따른 미래와 관련한 뉴스들이 심심치 않게 보인다. 여기에 더해 엘론 머스크나 빌 게이츠, 스티븐 호킹 등의 영향력 있는 인물들의 경고까지 겹치면서 과거에는 일부 전문가들만 관심을 가지던 인공지능에 대해 많은 사람들이 이런저런 이야기를 나누는 상황이 되었다. 실제로 디스토피아를 그려낸 SF에서는 인간을 뛰어넘는 슈퍼 휴먼 인공지능은 단골로 등장한다. 그래서인지 많은 사람들이 막연한 두려움을 가지고 있는 경우도 많아졌다. 결국 인공지능이 인간보다 우위에 서면서 인간을 지배하거나 멸종을 시키는 시나리오를 많은 석학들조차도 이야기하고 있는 것이다.
그런데, 현재까지 이야기되고 있는 인공지능의 수준은 도구로 활용하는데 있어, 과거 인간이 하던 일들을 일부 대체할 수 있는 정도다. 인간처럼 자신을 인지하고, 의지를 가진 행동을 하는 등의 SF에서 나오는 그런 수준의 인공지능은 언제쯤 가능하게 될지, 아니 가능하기나 한 것인지도 아직 모르는 상황이다. 그렇지만, 인간을 넘어서는 인공지능에 대한 구체적인 상상은 필요한 듯하다.
가장 중요하게 지켜봐야할 내용은 스스로 발전하고 진화하는 인공지능이 가능한지 여부다.
미리 정해진 프로그램을 동작시키는 인공지능은 아무리 인간과 비슷하게 보여도 결국에는 인간의 창조물에 불과하다. 그러므로, '인간적'인 인공지능이라고 말하기 위해서는 자신의 힘으로 무엇인가를 익히고, 이렇게 학습한 것들을 바탕으로 자신에게 더 나은 방향으로 프로그램이 진화할 수 있어야 할 것이다. 이를 위해서는 학습 알고리즘 자체를 변경할 수 있고, 자신을 구성하는 프로그램을 수정할 수 있는 방법이 있어야 한다. 이 때 생명체의 DNA와 마찬가지로, 뭔가 잘못된 변경을 감지하고 이를 제거할 수 있어야 하며, 자신을 파괴할 수도 있는 암조직과도 같은 코드에서 자신을 보호할 수도 있어야 한다. 결국 아무리 뛰어난 인공지능 프로그램이나 알고리즘이라고 하더라도 고정된 프로그램을 단순하게 실행시키는 방식으로는 인간에 가까운 인공지능의 구현은 어려울 것이다.
자신을 변신시키고, 진화할 수 있는 시스템이 등장한다면, 예측불가능한 인공지능이 탄생할 수 있다. 변화가 존재하는 곳에는 균형을 이루는 시스템도 있겠지만, 일부에서는 예측불가능한 상황에 빠지는 시스템이 나타날 수도 있다. 복잡도가 높고, 연결성이 많은 시스템이라면 이런 예측불가능성으로 인한 파급력도 매우 클 것이다.
모든 것을 연결하고, 커다란 시스템의 형태를 가진 인공지능보다 개성을 갖춘 개인화된 인공지능의 탄생도 주목할 필요가 있다. 지나치게 복잡하고 연결성이 높은 시스템이 가지는 불확실성을 극복하기 위해서라도 어느 정도 분리된 인공지능 시스템이 독자적으로 진화한다면 앞서 언급한 위험성은 상당부분 감소시킬 수 있을 것이다. 같은 인공지능의 조상을 가졌다고 할 지라도, 이들이 어떤 것을 학습하고 경험하며, 변신하느냐에 따라서 서로 다른 형태로 발전해 나갈 수 있을 것이고, 이런 인공지능은 개성을 가졌다고 해도 좋을 것이다. 물론 서로 다른 분리된 인공지능들이 상호작용을 통해 서로에게 영향을 미치는 것은 가능할 것이다. 그렇지만, 필요하다면 이들의 접촉을 감지하거나 문제점을 조기에 파악해서 전체 시스템에 부정적인 영향을 미치지 않도록 예방을 하는 등의 체계를 갖춘다면, 인공지능에 의한 커다란 위협은 상당부분 제어할 수 있게 된다. 인공지능과 관련한 상당한 수준의 사회적 규제와 원칙, 프로토콜 등을 정비할 필요성은 이런 측면에서도 고려할 만하다.
이렇게 개별화된 인공지능이 일반화된다면 이들의 진화와 발전에는 다른 생명체와 마찬가지로 서로 다른 개별 인공지능의 적절한 만남과 이들이 새로운 인공지능을 탄생시키는 일종의 유성생식과도 같은 프로세스가 탄생할 수도 있다. 간단한 인공지능 시스템들이 여러 컴퓨터와 사물인터넷 디바이스, 클라우드 시스템 등을 통해 보급되는 현실을 고려하면 이 시나리오가 그렇게 황당하기만 한 것은 아니다. 예를 들어, 어떤 인공지능 시스템이 의학영상을 잘 판독할 수 있고, 어떤 인공지능 시스템은 환자와의 대화에서 필요한 증거를 잘 수집한다고 했을 때, 이들끼리 연결이 가능하고 각각의 프로그램들이 적절하게 협상을 한다면 어떨까? 더 나아가 이들이 공통의 목표인 질병의 진단을 위해 서로에게 영향을 주고, 이들의 장점을 통합한 새로운 시스템이 탄생하는 시나리오를 상상해볼 수 있다. 이를 위해서는 앞으로 많은 것을 고려해서 인공지능 시스템을 만들어야 하겠지만, 불가능한 것 같지만은 않다.
지금까지 언급한 기능이 실제로 구현된 인공지능이 탄생한다면 어떤 측면에서는 세계적인 석학들이 언급한 디스토피아적인 시나리오가 마냥 허황된 것으로만 생각되지는 않을 것이다.
그런데, 인간에게 이런 변화를 막을 수 있는 무기는 있는 것일까? 물론 인공지능 연구를 금지시키면 된다고 답하는 사람들도 있겠지만, 이는 인류의 역사를 되돌아볼 때 거의 불가능한 것이다. 한 가지 떠오르는 것은 아이작 아시모프가 이야기했던 로봇 3원칙과 같은 종류의 근원적인 원칙을 모든 인공지능 프로그램에 의무적으로 하드코딩해서 탑재하는 방법이다. 그런데, 만약 자신이 진화하는 인공지능이 구현된다면 이런 하드코딩한 원칙들은 결국에는 회피하거나, 제거하는 것이 가능할 것이기 때문에,근원적인 해결책이 되기는 어렵다.
결국 진화하는 인공지능이 구현된다면 인공지능이 인간의 명령에 항상 복종하는 도구로 머물러 있기를 기대하는 것은 쉽지 않은 듯하다. 비록 아직 그 가능성을 논하는 것은 지나치게 빠른 감은 있지만 말이다. 그렇지만, 언제든 그런 조짐이 보인다면 통제할 수 있는 수단을 미리 강구할 필요가 있다. 선진국들에서 로봇의 도덕이나 로봇이나 인공지능과 함께 하는 사회에 대한 법률 연구 등이 진행되는 것을 조금은 진지하게 생각하자.
우리가 그런 인공지능을 개발하지 못하더라도, 결국 사용자가 된다면 비슷한 사회적 파장은 언제든 발생할 가능성이 있으니까 말이다.
경희사이버대학교 모바일융합학과 교수
기사 URL이 복사되었습니다.
댓글0