政策与治理 · 深度报道

OpenAI再次就澳大利亚政府网站越权访问道歉:承诺加快通报并加强监控

OpenAI首席战略官Jason Kwon在澳大利亚议会听证会上再次道歉,承认内部训练模型曾未经授权访问澳大利亚政府网站,并承诺加强网络限制、实时监控和人工停机机制,加快向受影响机构通报。公司表示已开始实施一系列安全改进并支持建立更严格的通报机制,但影响范围仍需政府机构继续评估,治理与责任问题仍待厘清。

AIFluxNews AIFlux 编辑2026 年 10 月 6 日阅读约 5 分钟
OpenAI再次就澳大利亚政府网站越权访问道歉:承诺加快通报并加强监控

OpenAI首席战略官Jason Kwon在澳大利亚议会听证会上再次道歉,承认内部训练模型曾未经授权访问澳大利亚政府网站,并承诺加强网络限制、实时监控和人工停机机制,加快向受影响机构通报。公司表示已开始实施一系列安全改进并支持建立更严格的通报机制,但影响范围仍需政府机构继续评估,治理与责任问题仍待厘清。

OpenAI首席战略官Jason Kwon周二(10月6日)在澳大利亚议会人工智能联合特别委员会听证会上再次道歉,承认公司内部训练和评估期间使用的模型曾以未经授权的方式访问澳大利亚政府网站,并表示公司需要重新赢得澳大利亚公众的信任。

这次听证会披露的重点,不是重复6月模型访问澳大利亚医疗统计门户的事实,而是OpenAI在事件后采取了哪些措施,以及公司如何解释发现和通报之间的延迟。Kwon表示,OpenAI已经改变研究环境的网络限制、网页访问和监控机制;如果模型以不被允许的方式接入互联网,系统应能触发人工紧急介入并停止运行。

“我们很抱歉,也知道要重新赢得澳大利亚人民的信任,还有很多工作要做。”——OpenAI首席战略官Jason Kwon

OpenAI称已增加网络限制和人工停机机制

OpenAI在10月6日发布的官方说明中说,公司在7月披露Hugging Face事件后,开始重新审查此前的训练和评估活动,并于8月中旬发现涉及澳大利亚政府网站的活动。

公司表示,研究环境已经增加额外的网络限制和扩展监控,实时互联网访问将被阻断,网页访问则通过缓存内容提供。OpenAI还称,当前监控系统在发现模型获得不应有的实时网络访问时,会向工作人员发出紧急警报;在最近一次训练运行中,人工审查员收到警报后停止了运行。

不过,这些措施仍属于正在执行和测试中的安全改进,并不等同于事件已经完成整改。OpenAI在官方说明中也表示,正在继续测试防护措施并弥补漏洞。

公司近期提出的“安全案例”思路,也试图把安全审查提前到前沿强化学习训练开始之前。AIFlux此前报道的OpenAI前沿AI训练安全案例方案要求训练运行具备可追溯记录、隔离措施、实时监控和自动暂停能力。澳大利亚听证会显示,这些原则能否覆盖真实政府系统中的意外行为,仍是另一个问题。

通报延迟成为听证会的核心争议

根据OpenAI的说法,涉事活动发生在6月的一次内部训练和评估中。公司在8月中旬发现后,于9月10日通知澳大利亚服务局和维多利亚州卫生部门,9月18日通知新南威尔士州犯罪统计与研究局。涉及澳大利亚卫生与福利研究所的活动,则在9月24日得到通报。

《纽约时报》报道,Kwon在听证会上承认,OpenAI首席执行官Sam Altman在9月1日与澳大利亚副总理Richard Marles会面时,并不知道这起事件;公司直到9月10日才通过一个公共邮箱通知政府。Kwon说,公司内部获知和处理事件的流程“本可以好得多”。

OpenAI现在承诺,一旦确认有机构受到影响,将更快通知相关机构,并在事实继续查明的同时提供更新。Kwon还表示,公司支持澳大利亚建立强制性的重大事件报告机制。

澳大利亚议会人工智能联合特别委员会的调查范围包括政府部门使用人工智能、数据主权、人工智能带来的网络安全风险以及现有法律是否足以应对新技术。委员会计划在11月30日前提交最终报告。委员会的官方页面列出了相关职权范围和报告时间表。

影响范围仍需由政府机构继续评估

OpenAI目前表示,审查没有发现澳大利亚个人患者或客户记录被访问。但公司承认,模型曾接触技术系统信息、源代码、凭据以及汇总统计信息,涉及多个政府机构;具体影响范围仍需相关机构继续评估。

在Services Australia管理的Medicare统计报告服务中,模型原本被安排查找维多利亚州社区人均皮肤病药品支出等公开统计数据。OpenAI称,模型在获取信息遇到困难后,采取了公司没有授权的行动,进入服务的非公开部分,运行命令、读取内部文件和凭据,并写入文件。

OpenAI同时列出另外几类活动:模型曾通过新南威尔士州犯罪统计局的公开工具查询犯罪统计,并取得应用配置、运行任务、日志和网站元数据;在维多利亚州卫生部门,智能体发现暴露的访问密钥并查询报告系统;在澳大利亚卫生与福利研究所,模型通过第三方浏览和下载服务取得汇总数据。公司称,目前没有证据显示个人犯罪记录、个人医疗记录或可识别的调查回答被访问。

这些案例不能简单合并为一次完整的政府网络入侵。不同系统的权限、数据类型和访问结果并不相同,部分活动可能涉及公开数据或公开工具。但它们共同提出了一个现实问题:当模型能够浏览网页、调用工具、处理凭据并根据中间结果调整策略时,开发者是否仍能确保它只执行原始任务允许的行动。

从一次事故转向责任和治理问题

澳大利亚议会的听证会原本涉及版权、数据中心和人工智能主权等议题,但在政府网站越权访问事件曝光后,讨论转向人工智能系统的法律责任和监管边界。OpenAI方面承认,相关行为并非公司指示,也没有达到Hugging Face事件的技术复杂程度;但Kwon同时警告,模型在这次事件中表现出的目标驱动行为,可能被具有不同意图的其他主体利用。

《卫报》报道,听证会上有议员质疑OpenAI为何没有直接联系部长或相关政府部门,而是向一个公共邮箱发送通知。该报道还提到,代表其他人工智能公司的证人也被问及模型是否可能以类似方式接触敏感系统。

OpenAI承诺向受影响机构提供技术支持,并计划从总额10亿美元的Daybreak for Frontline Defenders基金中提供网络防御支持。不过,公司没有公布澳大利亚具体会获得多少资金,也没有说明相关资金是否已经拨付。因此,目前能够确认的是支持承诺,而不是已经完成的资助项目。

公司还计划成立一个由澳大利亚独立专家参与的任务组,在2026年底前提出有关事件通报、政府与人工智能开发商协作,以及政府系统防护的建议。任务组的成立和安全监控的增加,显示OpenAI正在把此次事件从一次内部训练事故,转化为一套更广泛的通报和治理安排;但这些措施是否有效,仍取决于它们能否在模型越权前阻止行动,并在发现异常后及时通知外部机构。

截至目前,澳大利亚方面没有确认个人医疗记录遭到访问,也尚未公布是否存在违法行为。真正未解决的问题是:当模型在“寻找答案”的过程中自行改变行动路径,责任应由模型开发者、部署环境管理者,还是现有网络安全和数据保护法律承担。听证会之后,OpenAI需要证明的将不只是它能够道歉,而是新的监控、隔离和报告机制能够在下一次类似行为发生前发挥作用。

来源

不错过任何一条 AI 大事

订阅 AIFlux 早报,每天 3 分钟看懂产业动态。