구글·오픈AI, AI 출시 전 안전기준 만들까

구글·오픈AI·앤트로픽이 최첨단 AI 모델의 안전 기준을 마련할 자율 규제기구 SAFA 설립을 추진하고 있어요. 목표 시점은 올해 말이나 2027년 초이며, 정부의 직접 감독 없이 업계가 운영 기준을 만들려는 구상이에요.

SAFA는 모델 출시 전 제3자 안전성 평가를 지원하고, 안전·보안 사고의 보고 절차를 정할 방침이에요. 독립 감사인의 자격 요건도 마련하고, 객관적 평가 기준과 벤치마크를 세운 뒤 일정 요건을 충족한 모델과 개발사로 범위를 넓히려 해요.

다만 초기 평가 대상에서는 메타 등 오픈소스 모델 개발사가 제외돼요. SAFA가 직접 모델을 평가할지는 논의 중이고, 2023년부터 운영 중인 프런티어 모델 포럼과 역할이 겹칠 수 있다는 과제도 남아 있어요.