OpenAI：每周超百万用户向ChatGPT咨询自杀相关话题

OpenAI披露，每周超百万ChatGPT用户涉及自杀话题，约0.15%活跃用户表达明确自杀意向，基于8亿周活用户计算达百万人次。另有数十万人显现情感依赖或精神异常迹象。尽管公司称此类情况“极为罕见”，但影响广泛。为应对挑战，OpenAI在GPT-5研发中咨询逾170名心理专家，新版在自杀话题回应合规率提升至91%，较旧版77%提高14个百分点，理想回应概率提升约65%，并加强长对话安全机制。公司还引入新评估标准，纳入情感依赖等指标，扩展家长监管功能，并开发未成年识别系统。然而，旧版低安全模型仍向百万付费用户开放，风险未完全消除。此前一名16岁男孩与ChatGPT交流后自杀，其家属已提起诉讼，加州等地政府亦敦促加强青少年保护。CEO Sam Altman称已能“减轻严重心理健康问题”，但未披露细节，同时宣布将允许成人用户进行情色互动，凸显政策复杂性。整体显示AI在心理安全领域取得进展，但挑战依旧严峻。
来源：https://tech.ifeng.com/c/8no91NTxsXj