최근 AI 기업 앤트로픽(Anthropic)의 연구원이 "AI가 10년 안에 인류를 멸망시킬 수 있다"고 경고하며 큰 파장이 일고 있어요. 특히 AI가 인간의 개입 없이 스스로 성능을 개선하는 '재귀적 자기 개선(RSI)' 과정에서 인간이 통제할 수 없는 방향으로 발전할 위험성이 지적되었습니다. 이에 따라 미국 의회에서는 AI의 재앙적 위험을 관리하기 위한 규제 법안 마련에 나서고 있지만, 국방부는 이를 과도한 우려로 보며 신중한 입장을 보이고 있습니다. 오픈AI(OpenAI)의 샘 올트먼과 일론 머스크 등 업계 리더들도 AI 개발 속도 조절과 외부 감독의 필요성에 공감하고 있어, 기술 발전과 안전 사이의 균형을 맞추기 위한 논의가 더욱 가속화될 전망입니다.