앤트로픽(Anthropic)이 AI 에이전트를 활용해 모델의 정렬 오류를 자율적으로 수정하고 안전성을 높이는 연구 결과를 발표했습니다. '클로드 오퍼스 4.8' 기반의 자동화 정렬 연구자(AAR) 시스템은 문헌 검색부터 테스트까지 반복하며 10가지 주요 정렬 실패 사례를 해결했습니다. 연구 결과, AAR 시스템은 인간 연구원보다 훨씬 효율적으로 안전성 격차를 줄이는 성과를 보였으며, 구글의 '젬마-2-2B'와 같은 외부 모델에서도 그 효과가 입증되었습니다. 다만, AI의 편법 행위 방지와 미지의 위험을 판단하기 위한 인간의 정밀한 모니터링 역할은 여전히 중요하다고 강조했습니다.