네이버㈜가 이용자들의 안전한 AI 서비스 경험까지 관리 범위를 확장한 AI 안전성 체계 'ASF(AI Safety Framework) 2.0'을 8일 공개했다.
ASF 2.0은 네이버가 지난 2024년 AI 서울 서밋에서 공개한 ASF을 최신화해 이용자 보호 측면까지 확장된 개념을 담아낸 AI 안전성 관리 체계다. AI 기술 모델의 성능과 위험 수준을 중점적으로 관리해 왔던 기존 ASF의 안전성 관리 범위를 확대해 사용자들이 실제로 경험하는 서비스를 중심으로 안전성을 관리한다는 게 핵심이다.
네이버는 이날 서울시 강남구에서 개최된 인공지능안전 서울 포럼(Seoul Forum on AI Safety & Security, SFASS)을 통해 ASF 2.0의 방향성과 구성요소, 강화된 분류·관리·실행 체계 그리고 앞으로의 활동 계획에 대해 공유했다.
네이버 ASF 2.0에는 △AI탭·쇼핑 AI 에이전트 등 고도화 중인 네이버 'On-service AI' 전략 △글로벌 AI 생태계에서의 멀티 모델 환경의 확산 △AI기본법 제정 등과 같은 정책·제도 환경의 변화 등이 다각적으로 반영됐다.
송대섭 네이버 AI Safety Policy 리더는 ASF 2.0의 제정 배경에 대해 "AI를 둘러싼 기술과 서비스와 정책과 제도 환경이 변화하며, 하나의 모델을 안전하게 만드는 문제를 넘어 다양한 AI 모델을 결합해 수천만 명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다"고 밝혔다.