政策与治理 · 深度报道

OpenAI承诺200万美元支持儿童AI安全研究:从产品防护走向共同测量

OpenAI承诺提供200万美元,支持儿童AI安全科研网络开展共同测量,研究年龄保障、产品防护、情感依赖等问题,并表示研究发现将公开,包括负面或不确定结果。这项安排属于资助承诺与研究合作,并不代表现有产品防护已通过独立验证,后续关键在于能否形成公开、可检验的证据。

AIFluxNews AIFlux 编辑2026 年 11 月 12 日阅读约 5 分钟

OpenAI承诺提供200万美元,支持儿童AI安全科研网络开展共同测量,研究年龄保障、产品防护、情感依赖等问题,并表示研究发现将公开,包括负面或不确定结果。这项安排属于资助承诺与研究合作,并不代表现有产品防护已通过独立验证,后续关键在于能否形成公开、可检验的证据。

OpenAI于2026年11月12日宣布,已在本周稍早举行的巴黎和平论坛上签署《儿童人工智能安全参与宪章》(Charter of Engagement for Safer AI for Children),并承诺提供200万美元,支持“人工智能时代儿童权利与保护联盟”下属科研网络的工作。

根据OpenAI公告,这笔资金将用于共同开展测量工作:开发研究工具,帮助研究人员了解和衡量人工智能对儿童的风险与机会,为产品安全设计和公共政策提供依据。公告没有披露具体签署日期,也未说明资金拨付进度、各研究团队的分配金额或首批成果的发布时间。

这是一项资助承诺和研究合作安排,而不是已经完成的安全评估。它所提出的核心问题,是如何判断一套AI保护措施在儿童真实使用时是否有效,而不只是确认产品是否设置了安全规则。

从单次回答,转向整套保护措施

巴黎和平论坛公布的宪章文件将儿童安全放在产品设计和默认设置之中。文件提出,应依据儿童的认知、社会情感发展及脆弱性差异设计AI服务,同时保护隐私、提供适当的家长工具,并支持儿童以符合年龄和伦理要求的方式参与研究。

其中,一项值得注意的要求是,年龄保障机制不能仅依赖用户自行申报年龄,还应兼顾可靠性、准确性、隐私保护与公平性,并支持独立评估。这意味着,“是否知道用户是未成年人”本身就是需要检验的技术问题,而不是可以直接假定成立的前提。

宪章的研究议程还要求评估完整的安全体系和用户体验,包括基础模型安全、年龄保障、产品层面的防护、账号处置,以及适用情况下的家长通知。研究不仅要看各环节是否存在,还要检验它们能否共同提供及时、有效的保护,以及是否产生非预期后果。

这种研究思路与只测试聊天机器人能否拒绝某类问题不同。例如,模型即使有针对未成年人的更严格规则,若系统没有正确识别用户年龄,相应保护也可能无法触达目标人群。反过来,保护措施是否妨碍合理的信息获取,也需要纳入评估,而不能仅以限制数量作为安全成效。

情感依赖与儿童自主性也在研究范围内

宪章并未把儿童AI安全局限于有害内容过滤。文件提及对过度和强迫性使用、促成情感依附的服务采取适当措施,并支持对拟人化、过度依赖和情感依赖开展国际研究。

这些议题涉及AI如何融入儿童的日常生活:产品是否帮助他们保有自主性,是否尊重线下生活时间,以及家长能否获得有效、易用的支持工具。文件同时强调,儿童并非只有被保护的身份,其观点、经历和需要也应参与塑造研究与产品建议。

这一方向并非OpenAI独有的政策主张。联合国儿童基金会的第三版《人工智能与儿童指南》同样把安全、数据与隐私、非歧视、透明度和问责,以及儿童的发展与福祉列为核心要求,并将儿童使用AI陪伴产品列为更新重点。该指南提供的是儿童权利框架,并不是对本次资助或OpenAI产品安全性的背书。

企业出资,研究能否公开不利结果?

技术公司资助涉及自身产品风险的研究,独立性安排尤其重要。OpenAI在此次公告中表示,研究团队保留对结论的控制权,研究发现将会公开,包括负面结果或无法得出明确结论的结果。

这项承诺的意义在于,研究不应只有证明AI有益时才进入公共视野。没有观察到预期收益、某项保护措施未见明显效果,或者现有证据不足以支持判断,都可能是对家长、学校和监管者有用的信息。

不过,关于研究独立性的安排仍需在实施中体现。当前公告没有提供已完成研究的方法、数据或结果,因此不能把出资和签署宪章视为现有防护措施已通过独立验证。后续公开材料能否清楚说明研究对象、测量方法、局限性和利益关系,将影响外界能否理解和复核相关结论。

与此前500万美元计划有何不同?

OpenAI此前已于2026年9月8日宣布另一项总额500万美元的研究资助,重点是生成式AI对13至17岁青少年生活与发展的影响。AIFlux此前对这项青少年研究计划的报道介绍了其研究范围与伦理要求。

两项安排不能混为一谈。按照9月计划的官方说明,该计划面向独立研究提案,单项资助最高100万美元,要求提交最终报告,并明确表示鼓励公开成果,但公开发表不是获得资助的条件。此次200万美元承诺则指向联盟科研网络的共同测量工作,11月公告明确提出研究发现将公开,包括负面或不确定结果。

因此,本次新增内容不仅是另一个资助金额,还包括不同的合作框架、共同测量目标,以及对成果公开的说明。但两份公告并未解释资金之间是否存在预算上的关联,不能据此推算一个已经拨付或完全独立新增的合计金额。

研究承诺距离实际保护还有多远?

OpenAI把此次行动与其此前呼吁建立全球青少年AI安全标准的倡议相联系。公司主张,安全责任不应主要落在家长和年轻人身上,而应由企业、政府、研究人员和社会组织共同承担。

在11月公告中,公司再次表示支持具有可执行保护要求的青少年AI安全立法,提出默认的适龄防护、家长工具、定期风险评估与缓解措施,以及实质性问责,并表示希望参与欧盟Kids Act发展过程中的政策讨论。这些是公司的政策立场,不等于相关要求已经成为法律,也不意味着签署宪章本身构成监管认证。

对儿童及其家庭而言,最终需要回答的仍是实际效果:哪些保护措施适用于哪些年龄和场景,能否及时识别风险,是否保护隐私,以及出现误判或保护失效时如何改进。200万美元承诺为回答这些问题提供了研究支持;能否形成公开、可检验并能用于改进产品与政策的证据,才是这项合作下一阶段的关键。

不错过任何一条 AI 大事

订阅 AIFlux 早报,每天 3 分钟看懂产业动态。