PuzzleMask: 평범한 문장을 잠재적 AI 공격 수단으로 오용하기
시장 인사이트 · GeekNews · 2026.09.13
연구진이 평범한 문장 속에 악성 명령을 숨겨 AI의 보안 검증망을 무력화하는 'PuzzleMask'라는 새로운 공격 기법을 발견했습니다. 이 기술은 특수 기호 없이 일반적인 문장만 사용하여, 소형 검문 모델이 이를 정상 글로 오인하게 만든 뒤 고성능 AI 모델에게 전달하여 악의적인 명령을 실행하게 만듭니다. 실험 결과, gpt-4o-mini와 같은 모델들은 공격을 전혀 감지하지 못했으나, gpt-5-thinking-high와 같은 고성능 모델은 명령을 복원하여 실행하는 것으로 나타났습니다. 이를 방어하기 위해서는 사용자 입력을 재작성하거나, 최종 출력과 행동을 감시하는 체계를 구축하는 것이 필요합니다.