오픈AI가 챗GPT의 성능을 개선하기 위해 외부 계약직 인력을 활용하는 '프로젝트 릴리(Project Lily)'를 운영해 온 사실이 밝혀져 논란이 되고 있습니다. 이 프로젝트는 RLHF(인간 피드백 기반 강화학습) 과정의 일환으로, '프롬프트 리뷰어'들이 사용자의 대화 내용을 읽고 답변의 품질을 평가하는 방식으로 진행됩니다. 하지만 이 과정에서 익명화가 완벽하지 않아 사용자의 민감한 개인정보나 위치 정보 등이 노출될 수 있다는 사생활 침해 우려가 제기되고 있습니다. 오픈AI는 이미 관련 내용을 안내해 왔다고 설명했지만, AI 모델 학습 과정에서의 데이터 보호 문제가 중요한 쟁점으로 떠오르고 있습니다.