인공지능(AI)에 대한 기본 사항과 준수 의무를 규정하는 'AI 기본법'이 연내 통과될 가능성이 커졌다. 지난 21일 국회 과학기술정보방송통신위원회(과방위) 법안심사소위원회(법안소위)에서 통과한 AI 기본법 병합안은 이날 열리는 과방위 전체회의에서 무난히 의결될 것으로 보인다. 이후 법제사법위원회(법사위)에서 이견 없이 본회의에 상정해 통과하면 AI 산업의 규제와 육성에 대한 첫 '이정표'가 비로소 탄생하게 된다.
'고영향 AI' 기준 마련…해외기업도 위반 시 과태료
국회 과방위는 지난 21일 법안소위를 열고 여야 의원들이 각각 발의한 AI 관련 법안 총 19건을 병합 심리해 일괄 통과시켰다. 이번에 통과된 AI 기본법의 명칭은 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안'이다.
중대한 영향과 위험을 미칠 수 있는 인공지능에 대한 규제와 준수 의무를 규정하는 한편 11월 출범 예정인 AI 안전연구소와 지난 9월 출범한 국가AI위원회 등 국가기관의 법적 기반을 갖춰 AI 산업을 육성한다는 게 법안의 취지다.
이번 법안의 가장 큰 특징은 '고영향 AI'를 규정한 점이다. '고영향 AI'는 사람의 생명, 신체의 안전에 위험을 미칠 수 있는 인공지능 시스템을 말한다. 과학기술정보통신부 장관에게 자율적으로 확인을 요청할 수 있다. 고영향 AI로 분류된 사업자는 이용자보호 방안을 비롯해 신뢰성을 확보하기 위한 조치를 해야 한다.
해외사업자도 'AI 사업자'로 구분되면 법 적용 대상이다. 해외사업자 역시 AI 기본법을 의무적으로 이행해야 하며 국내대리인을 지정해 의무 조치 이행에 필요한 지원이 가능하도록 해야 한다. 글로벌 빅테크 기업들도 AI 사업자로 구분돼 법안 적용을 받게 된다.
딥페이크 범죄 확산에 따라 이를 방지하기 위한 규정도 담긴다. AI 투명성 의무를 부과해 실제와 구분하기 어려운 음성, 이미지 또는 영상 형태의 AI 결과물을 제공하는 경우. 이용자가 명확하게 인식할 수 있도록 '워터마크(식별표시)'를 표시하는 의무가 부과됐다.
의무 사항을 위반하면 과태료도 부과된다. 법안에 규정된 기준으로 분류된 'AI 사업자'가 의무를 위반했을 경우 과기부 장관은 사실조사 또는 시정명령을 할 수 있다. 시정명령을 이행하지 않으면 과태로 3천만원 이하 규정도 법안에 포함됐다.
업계·전문가 "신속 추진 환영하지만 실효성 의문"
업계에서는 이번에 명시된 '고영향 AI'를 판단하는 전문적인 기준과 체계 부재를 꼬집는다. 한 IT 업계 관계자는 "고영향 AI를 모델 크기로 볼 것인지, 접목되는 산업을 볼 것인지 기준이 천차만별"이라며 "미국 캘리포니아에서도 고위험 AI를 규제하겠다고 했는데 기준에 대한 합의가 되지 않아 의회에서 통과됐지만 결국 주지사가 거부한 사례도 있다"고 기준의 중요성을 강조했다.
'워터마크'로 딥페이크 범죄를 방지하겠다는 점도 단편적인 방안이라는 목소리가 나온다. 동시에 '워터마크' 사용 여부에 따라 생성형 AI 서비스의 경쟁력이 좌우되는 만큼 추가적인 논의가 필요하다는 의견이다. 다른 IT 업계 관계자는 "국내 AI 산업의 경쟁력은 현실적으로 글로벌 빅테크와 격차가 큰 것이 사실"이라며 "그 격차를 좁힐 수 있는 방향으로 AI 관련 규제와 육성 정책이 수립돼야할 것"이라고 전했다.
시민사회계에서도 법안이 신속하게 마련된 점은 긍정적이라면서도, 규제의 실효성에 의문을 제기한다. 그중에서도 위험을 야기할 수 있는 '금지된 인공지능'의 개발과 이용을 원천적으로 금지하는 규제가 기존 발의안에는 일부 담겼지만, 이번 병합안에는 빠졌다.
오병일 진보네트워크 대표는 "이번에 통과된 병합안에서 '금지된 인공지능'에 관한 규정은 기술 발전에 저해가 된다는 이유로 빠졌다"면서 "윤리적으로 허용할 수 없는 부분을 가이드라인을 통해 사전에 규정해야 하는데 수용되지 않은 점이 아쉽다"고 밝혔다.
전문가들도 규제 뿐 아니라 육성의 차원에서도 기준이 모호하다고 지적한다. 특히 법안이 다소 추상적이어서 AI 산업의 '역동성'이 배제됐다는 평가다. 최병호 고려대 인공지능연구소장은 "법안 내용 중 AI 안전확보를 위해 학습에 누적된 연산량을 기준으로 모니터링을 하겠다고 했다"며 "오히려 업계에서는 AI 모델 경량화에 나서고 있는데 이는 업계의 추세를 반영하지 못하는 것"이라고 지적했다.