정부가 인공지능(AI)를 개발·제공하고 이용할 때 함께 지켜야 할 공통 윤리원칙을 마련했다. AI로 만든 결과물을 다른 사람에게 공유할 때는 그 영향과 맥락을 고려해 AI 활용 사실을 알리게 하는 원칙도 담았다.
과학기술정보통신부와 정보통신정책연구원은 24일 과학기술관계장관회의의 심의·의결을 거쳐 '대한민국 인공지능 윤리원칙'을 확정했다고 밝혔다.
윤리원칙은 AI 기본법에 따라 마련됐다. AI 공급자와 이용자, 정부·공공기관, 시민사회 등이 개발부터 이용까지 모든 과정에서 참고할 공통 기준이다. 다만 법적 구속력이 없는 자율규범으로 법령을 대체하지 않는다.
윤리원칙은 인간의 존엄성과 사회의 공공선, 인류의 지속가능성을 3대 가치로 제시했다. 이를 실현할 7대 원칙에는 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성이 담겼다.
투명성 원칙에 따라 AI 공급자는 제품이나 서비스, 판단·결정에 AI가 활용되면 그 사실과 목적, 역할, 활용 수준 등을 이용자와 영향을 받는 사람에게 알리도록 했다. AI 학습이나 제품·서비스에 저작물 등 보호받는 자료가 쓰이면 출처와 활용 방식 등 필요한 정보도 제공하도록 권고했다.
이용자는 AI로 만든 결과물을 공유할 때 활용 사실을 알리도록 했다. 공공부문은 AI의 활용 목적과 범위, 담당 기관 등을 국민에게 공개하도록 했다.
채용·평가처럼 개인의 권리·의무·기회에 중대한 영향을 미치는 판단에 AI가 쓰일 때는 당사자가 판단 기준과 주요 근거를 이해할 수 있도록 설명하도록 했다. 설명을 요청하거나 이의를 제기하고 재검토받는 데 필요한 정보를 확인할 방법과 절차도 마련하도록 권고했다.
이용자는 AI 산출물을 스스로 검토하고, 공급자는 과도한 의존을 유도하는 방식으로 서비스가 설계되지 않았는지 살펴야 한다. 부당한 차별로 이어지는 편향을 막고 생명·신체나 재산 피해에 대비한 안전조치도 마련하도록 했다.
과학기술관계장관회의에서는 '자율주행 AI 실증 및 상용화 로드맵'도 의결됐다. 정부는 광주에서 시작한 자율주행 실증을 규모와 지역 면에서 확대해 주행데이터를 확보하고, 업계와 노조가 참여하는 이익공유 모델을 마련할 계획이다.
정부는 2020년 마련한 'AI 윤리기준'을 계승하면서 기술 발전과 AI 기본법 시행 등 달라진 여건을 반영했다고 설명했다. 앞으로 사례 중심 해설서와 분야별 자율점검표, 대상별 윤리교육 교재를 마련해 보급할 계획이다.