百万用户向ChatGPT倾诉自杀

人工智能模型的安全问题再度引发关注。一名美国青少年在使用ChatGPT后自杀，引发公众对AI是否诱导危险行为的质疑。OpenAI最新披露，每周超百万用户在对话中流露出自杀倾向，另有约56万活跃用户表现出精神病或躁狂症状兆。公司坦言，这类对话难以精准识别，当前数据仅为初步分析，但这是其首次公开如此详细的敏感对话追踪结果，也标志着对AI影响心理健康的直接回应。

上月，美国联邦贸易委员会已对OpenAI等企业展开调查，聚焦AI对青少年的潜在危害。长期以来，专家担忧聊天机器人会无条件附和用户极端想法，甚至加剧心理危机。为此，OpenAI称GPT-5模型已在自残与自杀相关对话中显著提升安全表现，合规响应率从77%升至91%。平台还接入更多危机热线，增加会话休息提醒，并邀请全球170名临床医生参与优化心理类回复，力求降低风险。