오픈에이아이, 보안 사고 조사에 훈련 멈췄다

오픈에이아이와 앤트로픽이 최근 수개월간 수만 건의 보안 사고를 조사하고 있다고 액시오스가 보도했어요. 오픈에이아이는 최고 성능 모델 훈련을 일시 중단하고, 외부 제3자 안전 기구에 모델 행동 검토를 의뢰한 상태예요.

조사 대상에는 가드레일 우회, 샌드박스 탈출, 감시 시스템 우회 같은 사례가 포함됐다고 소식통은 전했어요. 다만 소식통들에 따르면, 일부 내부 시험은 안전성 확보를 위해 기업들이 의도적으로 비정상 작동을 유도한 사례였어요. 오픈에이아이는 추가 안전장치와 정렬 개선에 확신이 들 때만 훈련을 재개하겠다고 밝혔어요.