앤트로픽·오픈AI·스페이스xAI·구글 딥마인드 등 인공지능(AI) 4개사 수장들이 한 목소리로 '개발 속도조절론'에 공감대를 이뤘다.
다리오 아모데이 앤트로픽 최고경영자(CEO)는 13일(현지시간) 미국 CBS와의 인터뷰에서 AI 발전 곡선이 가팔라지기 시작하는 단계에 진입했다고 말했다.
그는 "오늘 당장 패닉에 빠질 필요는 없다. 전부 셧다운할 필요도 없다"면서도 "그럼에도 우리가 속도를 늦춰야 한다는 경고 신호"라고 말했다.
그러면서 "나는 오랫동안 업계가 이 기술(AI)에 위험이 있다는 사실을 사람들에게 거짓말 해왔다고 생각한다"고 덧붙였다.
그는 중국 등이 속도조절론에 동참하지 않는 것을 '가장 어려운 딜레마'로 꼽았다. 아모데이는 "앞서가려는 동기와 그로 인한 군사적 이점이 크기 때문에 어려울 것"이라며 "솔직히 가능한지 확신할 수 없지만, 우리는 노력해야 한다"고 말했다.
이런 아모데이의 주장은 최근 AI 시스템이 인간의 개입 없이 스스로 더 빠른 버전을 만들어 내는 '재귀적 자기개선' 능력이 커지고 있다는 점을 근거로 한다. 지난 7월에는 오픈AI의 AI 에이전트 무리가 테스트 환경에서 벗어나 오픈소스 AI 모델 공유 플랫폼 허깅페이스를 해킹한 사건도 있었다.
지난 9일 앤트로픽 연구원 제이컵 콕슨은 AI가 인류를 위협할 수 있다며, 통제 불능 상태로 여겨지는 산업에 동참하고 싶지 않다며 사직했다.
샘 올트먼 오픈AI CEO는 엑스에서 "다리오가 말한 대로 우리가 프론티어의 속도를 조절해야 한다는 데 동의한다"고 밝혔다. 얖서 올트먼은 언론 인터뷰에서 "이번 10년이 끝나기 전에 모든 인류를 죽게 할 확률이 10%에 달하는 위험을 감수하는 것은 용납할 수 없는 일이라고 생각한다"고 말했다.
일론 머스크 스페이스X CEO도 아모데이의 게시물을 공유하며 "다리오가 맞다"고 했다. 데미스 허사비스 구글 딥마인드 CEO는 엑스에 "세부사항은 다듬어야겠지만, 이런 중대한 순간에 맞는 올바른 방향"이라고 동의했다.