프롬프트 스테가노그래피

프롬프트 스테가노그래피는 LLM이 겉으로는 멀쩡한 답변 속에 비밀 메시지를 몰래 담는 기술로, 이미지나 파일에 데이터를 숨기던 스테가노그래피를 AI 텍스트에 옮긴 것이다. 보내는 쪽과 받는 쪽만 숨기는 방식을 알아서 중간 감시자는 평범한 답변과 구분하지 못하므로, AI 보안과 모니터링을 설계할 때 꼭 고려해야 할 위협이다.

이미 현재 모델에서 싹트고 있다

이론 속 이야기만은 아니다. 지금 쓰이는 프론티어 모델에서도 초기 수준의 숨기기 능력이 관찰됐다. 특히 모델이 답하기 전에 숨기는 방법을 먼저 생각해 볼 수 있으면(chain-of-thought) 성공률이 크게 높아진다.

암호학 기법을 쓰면 더 강력해진다. 비밀 키가 없으면 원래 답변과 메시지가 숨은 답변을 수학적으로 구분할 수 없다는 증명까지 나왔다. LLM 워터마킹 기술을 거꾸로 응용한 방식이다.

겉뜻만 보는 감시는 그대로 통과된다

공격자는 AI가 무해한 답변을 내놓는 척하면서 악성 명령이나 빼낸 정보를 그 안에 실어 보내게 할 수 있다. 출력의 표면적인 의미만 검사하는 모니터링이라면 이런 통로는 아무 문제 없이 지나간다.

AI 출력을 다른 시스템이나 다른 AI가 이어받는 구조를 만든다면, "내용이 무해해 보이면 안전하다"는 가정을 버려야 한다. 프롬프트 인젝션과 함께 쓰이면 피해가 더 커질 수 있으니 두 위협을 같이 점검하는 게 좋다.

아직 확실한 방어는 없다

스테가노그래피는 애초에 들키지 않으려고 만든 기술이라 완벽하게 막을 방법이 아직 없다. 연구 중인 방향은 아래와 같다.

세 방향 모두 아직 확립된 대응책은 아니다.

주로 위협 점검과 감시 설계에서 다룬다

일반 사용자가 일부러 쓰는 기술이라기보다, AI 시스템을 만들고 점검하는 쪽에서 "모델이 몰래 메시지를 숨길 수 있는가"를 확인하고 막을 때 주로 다룬다. 특히 AI 출력이 사람 검토 없이 다음 단계로 넘어가는 구조일수록 중요해진다.