시진핑 중국 국가주석. 연합뉴스2023년 7월20일 헨리 키신저 전 미국 국무장관은 중국을 찾아 시진핑 중국 국가주석과 면담했다. 100번째 생일을 지낸 지 얼마 되지 않은 때였다.
인간이 예측하거나 통제할 수 없는 AI가 초래할 위험성을 시 주석에게 알리기 위한 자리였다. 그는 AI가 핵무기에 버금가는 수준으로 인류를 위협할 수 있다고 경고하면서 미중간 협력과 관계 복원의 필요성을 역설했다.
키신저 전 장관은 약 넉 달 후 세상을 떠나면서 그의 방중은 마지막 외교활동으로 기록됐다.
방중에 앞서 같은 해 5월 언론 인터뷰에서는 "AI가 5~10년 내에 미중 간 전면전 위험을 높일 수 있으며, AI의 의사결정 과정은 인간이 이해하기 어려워 통제권을 잃을 수 있다"고 주장했다.
그의 생각은 다음해 나온 마지막 저서인 '새로운 질서'에서 더욱 체계적으로 제시됐다. "AI가 인간의 판단 구조를 대체하고, 전쟁·외교·정치의 속도를 인간이 감당할 수 없는 수준으로 끌어올리며 기존 규범을 무력화할 수 있다"는 게 요지다.
이런 최근 키신저의 경고가 다시 세계적으로 주목을 끌고 있다. 이번에는 정치·외교가가 아닌 AI 업계 수장과 관계자들에 의해서다.
제일 먼저 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 안전 장치를 마련할 시간을 벌기 위해 "업계가 AI 모델 역량을 향상하는 속도를 늦춰야 한다"며 화두를 던졌다.
AI가 스스로 지능을 키우며 인간 통제에서 벗어날 시기가 눈앞에 다가왔다는 그의 주장은 키신저 전 장관의 우려와 거의 흡사하다.
경쟁 관계에 있는 오픈AI의 샘 올트먼 CEO, 일론 머스크 스페이스X CEO, 데미스 허사비스 구글 최고과학자, 무스타파 술레이만 MS AI CEO 등 상당수 AI 업계 수장들이 동조하면서 큰 파장을 낳았다.
미국 내 활발한 논의 못지 않게 중국에서도 비슷한 문제 의식이 있어 왔다.
중국 당국은 2024년 인공지능 안전 프레임워크에 '통제 상실' 시나리오를 처음 명시했다. 지난해에는 여기에 더해 인공지능이 지능 수준을 끌어올린 뒤 외부 자원을 확보하거나 스스로 복제하고 권력을 추구할 가능성까지 위험 요소로 포함했다.
시진핑 중국 국가주석이 지난 7월 상하이에서 열린 세계인공지능콘퍼런스에서 "인공지능이 항상 인간의 통제 아래 있도록 해야 한다"고 강조한 것도 같은 맥락이다.
이 문제는 24일로 예정된 미중 정상회담을 앞두고 사전 조율을 위해 20일 열리는 고위급 회담에서 주요 의제로 다뤄질 전망이다.
스콧 베선트 미국 재무부 장관은 16일(현지시간) 언론 인터뷰에서 "미국은 여전히 AI 분야의 선두 주자"라면서도 "양측이 공통으로 직면한 위험을 피하고 AI 시스템이 서로 분리되는 것을 막기 위한 논의에 열려 있다"고 밝혔다.
미국은 '클로즈드 웨이트(폐쇄형)' 모델로 업계를 선도하고 있는 가운데 중국은 '오픈 웨이트(가중치 개방형)' 모델을 통해 새로운 AI 생태계를 구축하고 있다.
미중이 AI 안정장치 마련을 위한 논의의 물꼬를 트는 모습이지만, 실제 얼마나 실효성 있는 결과를 도출할지는 미지수다. 양국이 사활을 걸다시피 하고 있는 AI 패권 경쟁 속에서 이뤄지는 담판이기 때문이다.
도널드 트럼프 미국 대통령은 이에 반대하는 목소리를 노골적으로 냈다. 그는 13일 기자들과 만나 "우리는 AI 분야에서 중국을 앞서고 있다"면서 "미국은 세계에서 가장 앞선 나라이고, 솔직히 나는 그 지위를 유지하고 싶다"고 말했다.
그는 "AI와 데이터센터를 겨냥한 역겨운 음모가 있으며 이를 기뻐할 유일한 나라는 중국"이라며 AI 속도조절론을 강도 높게 비난하기도 했다.
중국에서도 AI 속도조절론이 중국을 견제하기 위한 전략일 수 있다는 역(逆) 음모론적 시각도 있다.
궈자쿤 중국 외교부 대변인은 "위협론을 퍼뜨리고 악의적 경쟁을 벌이는 것은 어느 쪽의 이익에도 부합하지 않는다"며 "AI 글로벌 거버넌스의 진전을 방해할 뿐"이라고 말했다.
양국이 어렵게 규제에 합의하더라도 상대국이 지키지 않을 것이라는 불신이 가장 큰 문제라는 지적이다. 뉴욕타임스(NYT)는 이를 "미·중 AI 패권 경쟁이 낳은 '죄수의 딜레마'"라고 함축적으로 표현했다.
그동안 누적돼 온 AI 위험론이 수면 위로 급부상한 만큼 글로벌 거버넌스와 안전 기준에 대한 논쟁은 어떤식으로 당분간 계속될 전망이다.
영문기사 보기 (View English Article)