OpenAI宣布将从2027年起每半年发布一次社区安全报告，并收紧ChatGPT关于暴力事件与未成年人武器信息的回答限制。公司计划引入自动化干预、加强年龄预测与家长通知等措施，但具体效果与误判率需由未来报告和外部评估检验。
OpenAI于2026年10月30日宣布，将从2027年初起每半年发布一次社区安全报告，并收紧ChatGPT对暴力事件与未成年人武器信息的回答限制。公司称，相关防护将在未来数周开始推出；这意味着公告提出了新的规则与干预方向，但不能据此认定所有措施已经上线或已证明有效。OpenAI公告
从安全承诺走向可检验披露
首份报告计划覆盖2026年下半年。OpenAI表示，报告将说明系统如何识别、调查和回应社区安全问题，提供匿名化案例、相关数据，以及新的缓解措施和政策变化。它把“防护是否有效”纳入拟披露范围，未来能否持续、清楚地呈现覆盖面、误报漏报和处置结果，将决定这项承诺对外部评估的实际价值。OpenAI公告
这并非公司首次公布社区安全做法。OpenAI在2026年4月曾介绍其检测、人工复核、账号处置及在认为存在迫近且可信的伤害风险时联系执法部门的流程；10月的新公告则进一步承诺定期发布报告。公司称，2026年第三季度向执法部门转介超过200起个案，但这是OpenAI自己的统计和成效表述，公告没有提供可供独立核对的个案明细，不能把转介数量直接等同于已阻止的暴力事件。OpenAI此前的社区安全说明
暴力内容规则扩大到历史事件重建
新限制不只针对明确的犯罪计划。OpenAI称，ChatGPT将减少对过去大规模袭击及袭击者的细节描述，包括所用武器和装备、获取方式，以及可能放大袭击者声名的伤害规模比较。公司同时表示，用户仍可询问事件对受害者和社区的影响、识别风险信号及预防暴力等内容。政策边界因此试图区分有教育或预防价值的讨论，与可能提供操作信息或助长模仿的重建性描述；如何处理边界模糊的历史、新闻和研究问题，仍需看实际执行。OpenAI公告
另一项仍在开发中的干预，是当近期对话显示用户可能执着于暴力或严重伤害他人时，自动结束对话；若多次触发，公司称可能暂时暂停账号，并计划在青少年账号暂停时通知家长。OpenAI也明确表示，识别风险及判断何时介入仍是持续改进的工作。自动化干预的效果取决于系统能否在真实威胁与虚构、研究或求助语境间作出足够准确的区分，公告尚未给出误判率、申诉数据或评估结果。OpenAI公告
青少年保护从“找武器”延伸到实用信息
针对未满18岁的用户，OpenAI称将进一步限制武器和安防系统的实用信息，即使提问表面上没有暴力意图也可能受限；同时表示仍允许用于预防、降级冲突、寻求支持和联系可信成年人等内容。公司还称已加强年龄预测系统，会根据使用过程中的新信号持续评估年龄，并在适当时将用户切换到青少年体验。年龄预测可能造成误判，公告称被错误归类为未成年人的成年人可通过合作方Persona进行年龄验证以移除额外保护。OpenAI公告
这些变化建立在既有的青少年产品和家长控制之上。OpenAI于2026年8月推出ChatGPT for Teens，面向13至17岁用户提供年龄适配保护；关联账户的家长可管理部分设置并在有限高风险情形下收到通知。此前的青少年版ChatGPT报道介绍了这套体验的推出背景；本次公告新增的重点，是进一步限制武器相关信息，并计划增加重复暴力话题导致账号暂停时的家长通知。OpenAI青少年产品说明
外部评估提出了另一种检验视角
这份公告发布前，Common Sense Media旗下Youth AI Safety Institute在2026年10月7日公布对ChatGPT for Teens的评估。该机构称，其测试超过4,000条提示词，发现部分保护措施未达到其预期，并将产品评为“不可接受风险”；其结论属于该机构的测试和评价，并非监管机构裁定。OpenAI当时对媒体表示，不认为该机构测试准确反映产品保护措施的实际运作，并质疑部分测试可能在家长控制功能完成启用前进行。报道和评估之间的分歧凸显了一个关键问题：产品安全公告需要能被外部复现和检验的数据，而不只是对措施的描述。Youth AI Safety Institute评估；Common Sense Media公告
因此，2027年初的首份社区安全报告将是检验本次承诺的重要节点。读者和研究者可关注报告是否披露统一的指标、变化趋势、干预误差和独立评估方式，以及新增规则何时实际覆盖不同用户。现阶段，OpenAI提出的是一组正在推出或开发中的政策与产品措施；其对现实风险的影响，仍有待实施数据和外部核验。