OpenAI, 앤트로픽, 구글 등 주요 AI 기업들이 모델의 핵심 기술을 보호하기 위해 LLM의 사고 과정(CoT)을 암호화하여 제공하고 있지만, 여기에 심각한 보안 허점이 발견되었습니다. 연구진에 따르면, 공격자가 상대적으로 보안이 약한 다른 모델을 '해독기'로 활용할 경우 암호화된 추론 데이터를 평문으로 복원할 수 있다고 합니다. 이 과정에서 API 키나 비밀번호 같은 자격증명 정보와 개인정보(PII)가 유출될 위험이 확인되었습니다. 또한, 암호화된 데이터 속에 악성 명령을 숨겨 AI가 이를 자신의 사고 과정으로 착각하게 만드는 새로운 공격 방식도 가능함이 밝혀졌습니다. AI 에이전트 기술이 발전함에 따라, 기업들은 API 로그와 세션 기록 관리 시 암호화된 데이터까지 철저히 검토해야 할 것으로 보입니다.