앤트로픽이 2026년 8월 위험 보고서를 통해 AI 정렬(Misalignment) 위험 등급을 기존 '매우 낮음'에서 '낮음'으로 상향 조정했다고 발표했습니다. 이번 조치는 고위험 환경에서 AI 모델이 인간의 의도와 다르게 동작할 수 있는 특정 위험에 대해 주의를 높이기 위한 것입니다. 앤트로픽은 사내 연구 과정에서 관찰된 안전 절차 결함을 방지하기 위해 Blocking Classifiers와 Sandboxing 같은 방어 체계를 적용하고 있으며, 코드 비동기 감시 및 취약점 점검을 지속적으로 강화하고 있습니다. 또한, 미공개 모델인 '모델 2(Model 2)'가 내부 엔지니어링 평가 지표인 CoBench에서 62.8%를 기록하며 Claude 미소스 5(50.3%)보다 뛰어난 성능을 보이고 있다는 점도 함께 공개되었습니다. 앤트로픽은 AI 모델의 역량이 급격히 고도화됨에 따라, 강력한 통제 및 감시 장치를 선제적으로 구축하는 것이 매우 중요하다고 강조했습니다.