오픈AI의 수석 과학자인 Yaqub Pachoki는 AI가 스스로를 발전시키는 '재귀적 자기개선(RSI)' 단계에 진입할 가능성이 높다고 경고했습니다. AI가 인간과는 근본적으로 다른 방식으로 작동하는 '외계인의 마음(An Alien Mind)'과 같은 특성을 가질 수 있어, AI를 인간의 의도와 가치에 맞게 만드는 '가치 정렬' 연구가 매우 시급하다고 강조했습니다. 또한, AI의 자율적 위험에 대비하기 위해 제3자 감사와 책임 있는 확장 정책(RSP) 같은 공통 안전 기준이 마련될 때까지 개발 속도를 조절해야 한다고 제안했습니다.