오픈AI가 챗GPT 이용자의 대화 내용 중 타인에 대한 구체적인 위해 계획을 감지하여 미 연방수사국(FBI)에 직접 신고한 사례가 발생했습니다. 한 이용자가 전 여자친구를 살해하겠다는 계획을 챗GPT와 나눈 것이 발각되어 실제 체포 및 기소로 이어졌는데요. 이번 사건은 AI 기업이 이용자의 대화를 수사기관에 제보한 이례적인 사례로, 공공의 안전을 위한 AI 모니터링 강화와 이용자의 사생활 보호 사이의 경계에 대한 논쟁을 불러일으키고 있습니다. 오픈AI는 위험한 콘텐츠를 탐지하기 위해 대화를 모니터링하고 있으며, 심각한 신체적 위해 가능성이 있을 경우 법 집행기관에 신고하는 프로세스를 운영 중입니다.