멀티턴 기법
같은 대상과 여러 차례 이어지는 대화로 경계 문구나 제약의 빈틈을 찾아내는 공격 기법이에요.
한 입에 정리하면
- 01한 번보다 여러 턴에서 효과가 커져요
- 02직접 요구보다 우회·유도 방식에 가깝죠
- 03문맥 누적을 악용해 방어를 흔들어요
왜 나온 말일까요?
멀티턴 기법은 AI와의 대화를 한 번에 끝내지 않고, 여러 차례 주고받는 과정에서 안전장치의 허점을 찾는 방식이에요. 처음에는 무해해 보이는 질문이나 요청으로 시작했다가, 대화가 쌓이면서 점점 더 제한된 답이나 행동을 이끌어내는 식으로 작동해요. 그래서 단발성 입력보다 문맥 전체를 함께 봐야 하고, 모델이 이전 대화를 어떻게 기억하고 해석하는지도 중요해요. AI가 도구를 쓰거나 외부 시스템과 연결될수록 이런 방식이 더 큰 위험으로 이어질 수 있어요.
예를 들어
예를 들어 처음에는 일반적인 설명을 요청한 뒤, 이어지는 대화에서 점점 더 구체적이고 제한된 정보를 묻는 식으로 방어 규칙의 경계를 시험하는 경우가 있어요.
이 용어가 나온 이슈
체리픽이 기사 원문이 아닌 사실관계를 바탕으로 쉽게 풀어 쓴 정의예요. 원문은 각 카드의 "더 읽기"에서 확인할 수 있어요.
용어사전으로 돌아가기