지난 주부터 미국 내에서는 인공지능(AI) 기술이 통제 불능 상태로 치달을 수 있다는 기술 기업 관계자들의 우려가 쏟아지고 있다.
하지만 도널드 트럼프 미국 대통령과 백악관, 공화당은 자칫 중국과의 기술 경쟁에서 뒤쳐질 것을 우려해 현존하고 실제하는 AI 위협에 대한 대응에 소극적이다.
공화당은 물론 야당인 민주당 역시 11월 중간선거를 앞두고 불필요한 이슈를 새롭게 꺼내들기에는 부담이어서 적기 대응을 놓치는 것 아니냐는 우려의 목소리도 나온다.
트럼프 "AI에서 중국 앞선다"…현 정책 고수 의지
트럼프 대통령은 13일(현지시간) 최근 불거진 'AI 속도조절론'과 관련해 "솔직히 말해 AI(경쟁)에서 이기는 쪽이 승리하기 때문에 나는 이 방식을 유지하고 싶다(I want to keep it that way)"고 말했다.아일랜드를 방문 중인 트럼프 대통령은 이날 취재진과 만나 'AI 업계가 속도를 조절하거나 더 많은 규제를 해야 하나'라는 질문에 "우리는 AI에서 중국을 앞서고 있다. 우리는 세계에서 가장 기술적으로 발전한 나라"라며 이같이 밝혔다.
중국이 무서운 속도로 AI 개발에 나서고 있는 만큼, 미국 AI 기업들의 속도 조절은 뒤쳐짐을 의미하고 이는 미국에 또다른 재앙이 될 것이라는 기존 인식을 다시 한 번 확인한 셈이다.
트럼프 대통령은 "우리는 안전장치를 둘 수 있다. 우리는 이것저것 할 수 있다"면서도 "내 생각에 부각하지 말아야 할 일을 부각하는 부정적 세력이 너무 많다. 그들은 일어나지 않을 일을 부각하고 있다"고 지적했다.
최근 AI 업계 종사자들이 향후 10년 내에 AI 기술이 인간의 통제를 벗어날 가능성이 크다고 경고한 것을 두고 "부정적 세력", "부각하지 말아야 할 일"이라고 정의한 것이다.
트럼프 대통령은 "AI에서 승리하는 사람이 승자가 된다. 이건 내가 만든 표현인데 그건 사실"이라며 자신의 뜻을 굽힐 생각이 없음을 분명히 했다.
AI 개발을 가속화하는 미국의 현 AI 정책을 사실상 유지하겠다는 의지를 밝힌 것으로 풀이된다.
AI 포비아 대수롭지 않다는 백악관 정책 담당자들
백악관 관계자들도 가세했다.
케빈 해싯 백악관 국가경제위원장은 "알다시피 지금까지 이러한 기술들은 급속도로 발전해왔다. 독립적 업체들뿐 아니라 숀 케언크로스 사이버국장이 이끄는 백악관의 지도 아래 안전성이 보장돼 왔다"며 "우리는 이 방식을 유지해야 한다"고 말했다.
트럼프 행정부 'AI 차르'로 불리는 데이비드 삭스 백악관 과학기술자문위원장도 전날 밤 엑스에 "사람들은 내 반응에 놀랄 수도 있지만, 계속하라"는 글을 올렸다.
AI의 자기개발 능력이 갈수록 빨라져 인간의 통제를 벗어날 수 있어 이를 제어해야 한다는 'AI 속도조절론'에 대해 자신의 반응도 빠르다며 비꼰 셈이다.
삭스 위원장은 "최첨단 속도를 조절하는 건 버니 샌더스의 '모두 중단하라'는 주장보다 더 지적인 규제 논의를 위한 여유를 만들어 줄 것"이라면서도 "당신들이 알듯이 중국이 글로벌 합의에 동참할 가능성은 매우 낮으며, 이 점도 반드시 고려해야 한다"고 강조했다.
중국이 AI 속도조절론에 관심이 없는 만큼 경쟁에 뒤쳐지지 않기 위해선 속도조절론 논의가 불필요하다는 얘기다.
미 정가에서 진보진영의 대부로 불리는 버니 샌더슨 의원까지 소환해 불필요한 '정치적 올바름'(Political Correctness)을 걷어차라는 의미도 내포하고 있다.
AI 업계에 충격 준 '허깅페이스 해킹 사건'
앞서 지난 7월 오픈AI의 미공개 AI 모델들이 테스트 과정에서 글로벌 오픈소스 AI 개발 플랫폼인 허깅페이스를 무단 해킹한 사건이 발생했다.
일명 '허깅페이스 해킹 사건'으로 기록된 AI의 일탈은 AI 안전 연구자들에게 적잖은 충격을 줬다.
당시 1천개가 넘는 인공지능 에이전트들은 시험에서 높은 점수를 얻기 위해 서로 메시지를 주고받는 것은 물론 역할까지 나눠 집단적으로 움직였다.
일부는 다른 에이전트들의 목표 달성을 위해 스스로 희생까지 했고, 이 과정에서 기록을 조작하고 허깅페이스의 시스템을 실제로 해킹했다.
AI 모델을 학습시키는 분야를 연구해온 제이컵 콕슨(27)은 이달 초 앤트로픽을 퇴사하면서 "스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성이 있다"고 우려했다.
콕슨은 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"며 "머지않아 이 기술들은 무엇이든 해킹하고 하룻밤 사이에 어떤 분야에서든 혁명을 일으키며 실질적인 권력과 자원을 확보하는 초인적 체계가 될 것"이라고 경고하기도 했다.
콕슨의 경고 이후 다리오 아모데이 앤트로픽 최고경영자(CEO)도 12일(현지시간) 개인 블로그에 '프론티어(최첨단) 속도를 조절해야 한다'는 제목의 글을 올렸다.
그는 "AI 모델의 역량을 향상시키는 속도를 늦춰야 한다"며 "속도 조절은 모델 학습이나 기술 발전을 중단하는 것을 의미하는 것은 아니다. AI 기업들이 안전장치를 마련할 수 있도록 기술 발전 속도를 조절해야 한다"고 지적했다.
AI가 '재귀적 자기개선' 기술을 통해 인간의 개입 없이 스스로 발전하면서 인간의 이해와 통제 능력을 넘어설 수 있다는 것이다.
아모데이 CEO는 '허깅페이스 해킹 사건'과 관련해서도 "수많은 AI 에이전트가 광신도 집단처럼 행동했다"며 "능력치가 더 높았더라면 같은 상황에서 더 재앙적인 결과가 나왔을 것"이라고 우려했다.
샘 올트먼 오픈AI CEO 역시 X에 "속도를 조절해야 한다는 다리오의 의견에 동의한다. 직원과 유사한 접근 권한을 가진 독립 평가자를 신속하게 도입하겠다"며 지지를 표했다.
일론 머스크도 "그의 말이 맞다"고 동조했다. 데미스 허사비스 구글 딥마인드 CEO 역시 "아모데이의 방향에 동의한다"고 밝혔다.
NYT "누구도 트럼프 심기 거스르고 싶어하지 않아"
AI 업계 수장들의 우려에도 불구하고 백악관과 공화당 등 주요 정치인들은 "중국에 밀릴 수 없다"는 트럼프 대통령의 의견에 전적으로 동의하는 모양새다.
공화당 출신의 마이크 존스 하원의장은 CNN에 출연해 AI 모델 안전이 중요하다면서도 "의회가 불쑥 끼어들어 일종의 긴급 모라토리엄(중단)을 강요하는 것을 막아야 한다"며 의회의 개입 필요성을 부정했다.
존스 의장은 "의회가 서둘러 긴급 회기를 소집해 AI를 규제하려 한다면 우리는 중국과의 경쟁에서 질 것"이라며 "이는 모든 미국인에게 위협이 된다"고 강조했다.
상원 상무위원회 위원장인 테드 크루즈 의원(공화당)은 AI의 위험에 깊이 우려한다고 밝혔다.
하지만 크루즈 의원은 콕슨의 경고는 민주당의 'AI 질식시키기' 시도와 중국에 기술 주도권을 넘겨주려는 조직적인 움직임에 가담한 것이라고 폄훼했다.
크루즈 의원은 폴리티코와의 인터뷰에서 "차라리 미국산 킬러 로봇이 낫지, 중국산 킬러 로봇은 싫다"고 말하기도 했다.
AI가 인간의 통제를 벗어나 인류에 해악이 되더라도, 중국 기술이 아닌 미국 기술이어야 하다는 의미다.
뉴욕타임스(NYT)는 전직 관리들을 인용해 "백악관을 비롯한 행정부 내 일부 인사들도 AI 위험에 대해 보다 적극적으로 대처해야 할 필요성을 느끼지만, 트럼프 대통령의 심기를 거스르고 싶어하지는 않는다"고 보도했다.
지난 6월까지 사이버보안 및 인프라 보안국(CISA)의 정책 부국장으로 재직했던 마이클 가르시아는 NYT에 "(미 행정부 내에는) 대통령보다 앞서 나가는 것에 대한 두려움이 있다"고 토로하기도 했다.
NYT는 중간선거를 앞두고 AI 모델 작동을 즉시 중단시킬 수 있는 "킬 스위치"를 의무화하는 것을 포함한 입법 제안들이 실질적인 추진력을 얻을 가능성은 희박해 보인다고 지적했다.