Large Language Model(LLM)의 보안 취약점과 최신 공격 트렌드를 심도 있게 다루는 글입니다. LLM은 명령어와 데이터를 하나의 시퀀스로 처리하는 특성 때문에 prompt injection과 같은 공격에 노출될 수 있습니다. 특히 개인 데이터 접근, 외부 콘텐츠 노출, 외부 통신 채널이라는 세 가지 요소를 모두 갖춘 AI agent는 'lethal trifecta'라 불리는 매우 위험한 공격 대상이 될 수 있습니다. 또한, Hugging Face와 같은 플랫폼을 통한 supply chain 공격의 위험성도 함께 설명하고 있습니다. 이에 대응하기 위해 단일 필터링보다는 여러 계층의 보호를 구축하는 defense in depth 전략이 필수적임을 강조합니다.