연합뉴스인공지능(AI)이 인류를 멸망시킬 수 있다는 우려까지 나오는 가운데 오픈AI에 근무했던 전 직원이 회사가 안전 확보를 위한 충분한 노력을 하고 있지 않다고 비판했다.
데이비드 로빈슨 전 오픈AI 안전 담당 직원은 3일(현지시간) 디애틀랜틱에 기고문을 실은 기고문에서 "이 기술(AI)을 구축하는 기업들이 충분히 신중하지 않다는 최근 다른 퇴사자들의 의견에 동의한다"고 밝혔다.
로빈슨은 "오픈AI는 문제를 찾으면 가드레일(안전장치)을 개선하는 방식의 시행착오 방식으로 성장해 왔다"며 "이 방식은 주기적인 실패를 상정하며, 시스템이 강력해질수록 실패의 크기도 커지고 있다"고 지적했다.
실패나 시행착오가 불러올 수 있는 충분히 대비 없이 성능을 높인 AI 모델을 먼저 배포하고, 문제가 생기면 이를 수습하는 방식으로 오픈AI가 기술을 개발해 왔다는 것이다.
로빈슨은 AI의 성능이 빠른 속도로 발전하고 있다는 점에서 상황이 달라졌다고 판단했다. 그는 AI모델의 테스트 감지 능력이 향상되기 시작했고, 시험 단계와 배포 시 다르게 행동하는 형태로 개발진을 속일 가능성도 생겼다고 분석했다.
그는 "문제가 발생하면 언제든 해결할 수 있으리라는 막연한 낙관주의가 깔려 있다"며 "AI 기업들은 여러 겹의 예비 장치와 신중한 계획을 갖춘 원자력 발전소처럼 운영돼야 한다"고 주장했다.
이 같은 우려들에 대해 오픈AI는 "모델 성능이 우리가 안전하게 통제할 수 있는 범위를 넘어서지 않도록 보장하고 있다"며 "속도를 줄여야 할 때 훈련을 중단하거나 모델 출시를 보류하고 있다"고 밝혔다.
한편 오픈AI에서 3년 반 동안 근무하며 사내 최장기 근속자 중 한 명이었던 로빈슨은 안전 보고서 작성을 총괄하는 등 주요 업무를 해오다 최근 사직한 것으로 알려졌다.
영문기사 보기 (View English Article)