KAIST와 Microsoft Research Asia 공동연구진이 사람의 뇌파를 피드백으로 활용해 AI의 목표와 행동을 조정하는 Neural Value Alignment (NVA) 기술을 제안했습니다. 기존에는 AI가 사람의 행동만 관찰해서는 그 의도를 정확히 파악하기 어렵다는 한계가 있었지만, 이 연구는 사람이 예상과 다른 상황을 마주했을 때 나타나는 뇌의 '예측 오차'를 활용합니다. 구체적으로 보상 예측 오차(RPE)는 AI가 사용자의 목표를 다시 추정하는 데 도움을 주고, 상태 예측 오차(SPE)는 AI의 행동 방식을 수정하는 데 사용됩니다. 시뮬레이션 결과, 두 신호를 함께 사용할 때 AI가 사람의 목표 변화에 훨씬 빠르게 적응하는 것으로 확인되었습니다. 이 기술은 향후 Physical AI, 자율주행, 의료/재활 로봇 등 인간과 AI의 긴밀한 협업이 필요한 분야에서 매우 유용하게 활용될 전망입니다.