中, AI 동반자 규제 시행…페르소나 기능 멈췄다

중국 정부가 16일부터 AI 동반자 서비스에 새 규제를 시행했어요. 감정적 의존을 유도하거나 조장하는 대화와 미성년자와의 가상 연애를 금지했고, 서비스는 출시 전에 안전성 심사를 받아야 해요.

규제 범위는 대화 내용에만 머물지 않아요. AI 생성 콘텐츠라는 점을 분명히 표시해야 하고, 이용자에게 대화 상대가 사람이 아니라 AI라는 사실도 계속 알려야 해요. 위험하다고 판단되면 서비스가 중단될 수 있어, 설계 단계부터 운영 방식까지 함께 손보게 됐어요.

실제 서비스 변화도 이미 나왔어요. 바이트댄스의 더우바오와 알리바바의 AI 서비스는 'AI 페르소나' 기능을 중단했고, 텐센트의 위안바오는 지난달 유사 기능을 종료했어요. 중국 인터넷관리국은 AI가 청소년에게 극단적 감정을 유발하거나 현실의 인간관계를 약화하는 콘텐츠를 제공해서는 안 된다고 강조했어요.