| 프린트하기 닫기 | www.38.co.kr |
네이버, AI 탭도 안전성 관리…ASF 2.0 공개
 네이버가 AI 모델 중심이던 안전성 관리 체계를 이용자와 서비스 전반으로 확대했다. AI 서비스 출시부터 운영까지 전 과정의 안전성을 점검하는 'ASF(AI Safety Framework) 2.0'을 공개하고 AI 탭 등 실제 서비스에도 적용한다. 네이버는 AI 안전성 체계 'ASF 2.0'을 공개했다고 8일 밝혔다. ASF 2.0은 2024년 공개한 기존 ASF를 고도화한 체계다. AI 모델의 성능과 위험 수준을 관리하던 기존 방식에서 나아가 이용자가 실제 사용하는 AI 서비스까지 안전성 관리 범위를 확대한 것이 핵심이다. 네이버는 이날 서울 강남구에서 열린 '인공지능안전 서울 포럼(SFASS)'에서 ASF 2.0의 방향성과 강화된 분류·관리·실행 체계를 공개했다. ASF 2.0은 AI 서비스의 기획과 출시, 운영 등 전 주기에 걸쳐 안전성을 관리한다. 멀티모델 기반 AI 서비스 환경을 반영했다. 기존 성능 중심 평가도 맥락(Context), 활용사례(Use-case), 영향(Impact) 등으로 세분화했다. 이를 위해 AI 위험 분류 체계(AI Risk Taxonomy)를 통해 서비스에서 발생할 수 있는 위험을 유형화화한다. AI 영향 평가 매트릭스(AI Impact Assessment Matrix)로 활용 영역과 범위에 따른 영향을 평가한다. 이후 지속적인 안전성 평가와 이용자 피드백을 반영해 서비스를 관리한다. 네이버는 ASF 2.0이 일관되게 적용될 수 있도록 전사 실행 체계인 'CHEC 2.0(Consultation on Human-centered AI's Ethics and Safety Considerations)'도 마련했다. 6월 선보인 'AI 탭'에도 CHEC 2.0을 적용해 설계부터 출시까지 안전성을 점검했다. 향후 출시 예정이거나 운영 중인 AI 서비스에도 동일한 체계를 적용할 계획이다. 송대섭 네이버 AI Safety Policy 리더는 "AI를 둘러싼 기술과 서비스, 정책 환경이 변화하면서 하나의 모델을 안전하게 만드는 문제를 넘어 다양한 AI 모델을 결합한 서비스를 어떻게 안전하게 설계하고 운영할 것인지가 중요해지고 있다"며 "학계와 정책, 외부 전문가 등과 협업을 확대해 AI 안전성 경험과 노하우를 공유해 나가겠다"고 말했다. <저작권자 ⓒ 이투데이 무단전재/재배포 금지>
|
| 프린트하기 닫기 | www.38.co.kr |