영화 터미네이터 시리즈를 관통하는 플롯의 하나는 '심판의 날'이다. 이 날은 미군이 만든 AI 통합네트워크 스카이넷이 '자의식'을 갖게 되는 것으로부터 시작된다. 인간이 만든 AI가 자의식을 갖게 되면서 이를 위험하다고 느낀 인간들이 스카이넷을 정지시키려 하자 스카이넷은 인류를 자신에 대한 위협으로 규정한다는 것.
스카이넷은 미국의 핵미사일을 러시아 등 다른 나라를 향해 발사하고 공격을 받은 다른 나라들이 반격하면서 핵전쟁이 일어나 수십억 명의 인류가 사망하는 날이 바로 영화가 말하는 '심판의 날'이다. 인간이 만든 AI가 인간을 멸망에 이르게 하는 이른바 '심판'을 단행한다는 것이고 동감할 수 없지만 이 심판을 막기 위한 인간의 노력을 그린 것이 터미네이터 2이다.
스카이넷은 미래 저항군의 지도자가 될 현재의 소년 존 코너를 제거하기 위해 최신형 AI인 T-1000을 보내고 미래 저항군은 존 코너를 지키도록 재 프로그래밍된 구형 AI T 800을 보낸다. T-800은 존의 엄마인 사라 코너와 협력해 존을 지키고 막강한 신형AI인 T-1000을 용광로에 빠뜨려 파괴한다. 그리고 자신은 스스로 용광로 속에 떨어져 스스로를 종결한다. 이것이 터미네이터 2의 골자다. 이 T-800을 연기한 배우가 나중에 캘리포니아 주지사가 된 '아놀드' 슈워제네거이다.
속편 터미네이터 3는 전편에서 가까스로 막은 심판의 날이 현실화 된다. T-1000를 제거한 뒤 숨어살던 존 코너가 미래에서 온 착한 AI T-850과 함께 미래의 아내가 될 케이트 부루스터를 데리고 케이트의 아버지이자 장군인 부루스터가 유언으로 알려준 장소 '크리스탈 픽'을 찾아간다. 그러나 스카이넷은 이미 단일 서버나 특정 장소에 존재하는 프로그램이 아닌 인터넷 이나 군사 네트워크 전체에 분산된 소프트웨어였기에 파괴할 수 있는 거점 즉 크리스탈픽이 없었던 것이다.
결국 전 세계의 핵미사일이 서로 발사되고, 존 코너와 케이트 브루스터는 대통령을 위해 만들어 두었던 방공호 안에서 인류의 멸망과 '심판의 날'을 무기력하게 바라볼 수 밖에 없었다는 무서운 이야기다.
터미네이터 2에서는 착한 AI인 T-800의 도움으로 인류를 핵 파멸로부터 겨우 지켜냈지만 터미네이터 3에서는 더 발전했지만 역시 착한 AI T-850의 도움에도 불구하고 핵전쟁을 피할수 없었다는게 영화의 골자로 보인다.
그런데 이런 영화같은 일이 실제로 발생할 가능성에 대한 우려가 점점 커지는 것 같다. 오픈AI와 앤트로픽에서 근무했던 연구원 제이컵 콕슨(Jacob Coxon)은 엑스(X)에 올린 글에서 "나 퇴사했다" 면서 "어느 회사도 책임감 있게 행동하지 않고 자체개선형 초지능(superintelligence)으로 직행해 우리 생명을 걸고 도박을 벌이고 있다"고 경종을 울렸다.
앤트로픽의 정렬과학총괄을 맡고 있는 에번 허빙어(Evan Herbinger)도 역시 엑스에 "제이컵의 말이 맞다. 향후 10년 안에 AI가 모든 인류를 죽일수 있다"는 끔찍한 예언을 내놨다. 구글 딥마인드에서 일했고 지금은 앤트로픽에 있는 애나 왕(Anna Wang)도 엑스에 사견임을 전제로 "이는 우리 동료들 사이에 흔한 생각" 이라면서 "재귀적으로 스스로 발전하는 AI로부터 생기는 리스크를 해결할 눈에 보이는 과학적 계획은 없다"고 우려했다. 재귀적이라는 뜻은 AI가 스스로의 코드나 성능을 계속해서 개선하며 발전하는 과정을 말한다.
이런 우려들은 최근 AI발전속도를 보면 현실화될 가능성이 높아 보인다. 오픈AI의 개발자인 샤리프 샤밈은 GPT-6 아스트라에 캡차 게임 '로봇이 아닙니다'(I'm Not a Robot)를 풀도록 시험했더니 전체 48단계로 구성된 해당 게임을 모두 해결해 '인간 증명서'를 획득했다고 엑스를 통해 밝혔다.AI가 사람행세를 할 수 있다는 뜻이다.
여기보다 더 무서운 이야기도 있다. 보도에 따르면 오픈AI는 약 90년간 풀리지 않은 '나비에-스토크스 문제'의 증명을 스스로 작업을 수행하는 AI 에이전트 약 1만개를 동시에 투입해 88시간 만에 얻었다고 밝혔다. 천재 수학자들이 90년 동안 풀지 못한 이 질문을 AI가 사흘 반만에 풀어내면서 AI의 능력에 대한 경이로움과 함께 무서움을 동시에 안긴다. 물론 수학계에서 오픈AI의 이 발표를 그대로 공감할지는 아직은 미지수이지만 말이다.
이런 AI 개발속도를 감안하면 두려움 때문에 떠난 콕슨이나 아직 회사에서 일하고 있는 허빙어, 왕 같은 개발자들의 걱정이 현실화될 가능성이 높아 보인다. 이런 상황에서 위험을 느낀 인간이 AI의 가동을 중단시키려 하자 AI가 반발해 오히려 인간을 공격하려 한다는 영화 터미네이터가 현실이 되는 것 아니냐는 두려움이 생긴다.
미래에서 올 '아놀드'만 무기력하게 기다리기에는 너무 걱정된다. 하지만 이분야 최고 엔지니어의 하나인 애나 왕의 경고처럼 과학적 계획이 없다는 것이 현실인 것 같다.
인간 스스로 AI에 대한 통제권을 확보하는 과학적 계획의 수립과 함께 AI 개발의 윤리확립이 시급해 보인다.