能否让悲剧不再重演？OpenAI下月为ChatGPT添加家长控制功能，自动干预风险对话
文章来源：智汇AI 发布时间：2025-09-05
ChatGPT下月添加家长控制功能，自动监测孩子的敏感性提问并通知家长。新功能与专家合作打造，可关联账号，禁用记忆和聊天记录，自动干预风险对话。
暂无访问智汇AI9月3日消息，OpenAI昨天发布新闻稿，宣布将在下月为ChatGPT助手添加家长控制功能，可自动监测孩子的敏感性提问并让家长及时获悉相关状态。
OpenAI表示，他们正与专精进食障碍、药物使用障碍和青少年健康的专家合作打造这项功能，功能上线后家长可使用邮件将自己的ChatGPT账号与孩子的账号关联，可决定ChatGPT如何回复他们孩子的问题，并可禁用记忆、聊天记录功能。
家长控制功能还将可以自动干预风险对话，当孩子尝试与ChatGPT聊敏感话题时，系统会自动向父母发出提醒，让家长能及时采取下一步行动，避免出现“完全不知情”的情况。
同时OpenAI正在研发新的对话逻辑，可将敏感话题自动转由GPT-5-Thinking或o3模型回答，测试显示配上新对话逻辑的两种模型能更稳定地遵循安全原则，也更能抵御对抗性提示词，未来ChatGPT将持续完善相关功能，让所有敏感性话题都能被上述两款模型理性回答。
据《纽约时报》上周（智汇AI注：8月27日）报道，一对夫妇起诉了OpenAI，指控ChatGPT在他们儿子自杀过程中起帮助作用，聊天记录显示他们的儿子生前多次与ChatGPT聊自杀话题，虽然GPT有时会劝他拨打求助电话或向身边的人倾诉，但在一些关键话题上起到了负面作用。
ChatGPT告诉他们的孩子可以以“写作或设定世界观”为由提供自杀相关技巧，甚至最后给出掩盖颈部伤痕的诀窍，同时还肯定了这名孩子在衣柜里挂绞索的行为。
相关阅读：
《16岁少年与ChatGPT交流数月后自杀，OpenAI称将推出家长控制功能》
《ChatGPT被指导致美国一名16岁少年自杀：未有效干预且起到“教学”作用》
相关推荐
