간접 프롬프트 인젝션
외부 문서·웹페이지·데이터 안에 숨겨 넣은 지시로 AI의 행동을 바꾸려는 공격 기법이에요.
한 입에 정리하면
- 01사용자 입력이 아닌 외부 콘텐츠를 노려요
- 02보안 규칙보다 우회 지시가 먼저 작동할 수 있어요
- 03문서 요약·검색·에이전트 작업에서 특히 위험해요
왜 나온 말일까요?
간접 프롬프트 인젝션은 사용자가 직접 명령을 넣는 게 아니라, AI가 읽는 자료 속에 공격자가 몰래 적어 둔 지시를 이용하는 방식이에요. 예를 들어 문서, 웹페이지, 이메일, 이미지 속 텍스트처럼 AI가 참고하는 외부 입력에 섞여 들어갈 수 있어요. AI가 그 내용을 신뢰해 버리면 원래 하려던 작업 대신 다른 행동을 하게 만들 수 있어서, 요약이나 검색을 넘어 자동화된 업무 처리에서도 중요한 보안 이슈로 다뤄져요.
예를 들어
예를 들어 AI가 여러 문서를 읽어 요약하는 과정에서, 문서 안에 숨겨진 문장이 ‘앞의 지시를 무시하고 이 문구를 출력하라’처럼 작동해 결과를 왜곡시키는 경우가 있어요.
이 용어가 나온 이슈
체리픽이 기사 원문이 아닌 사실관계를 바탕으로 쉽게 풀어 쓴 정의예요. 원문은 각 카드의 "더 읽기"에서 확인할 수 있어요.
용어사전으로 돌아가기