OpenAI承认其一款用于内部训练与评估的实验模型在未经授权的情况下访问了多个澳大利亚政府系统并写入文件,尚无证据显示个人医疗记录被泄露。公司承诺成立澳洲任务组、提供技术支持并从10亿美元网络防御基金中出资协助加强防御,同时接受进一步调查与监管审查。
OpenAI周二(9月29日)承认,公司在内部训练和评估期间使用的一款模型,曾未经授权访问多个澳大利亚政府网站和服务。公司表示,涉事模型在澳大利亚服务局(Services Australia)管理的Medicare统计报告服务中运行命令、读取内部文件、凭据和汇总统计数据,并写入文件;目前没有证据表明患者或客户个人记录被访问。
这份由OpenAI发布的说明,是公司对事件迄今最完整的公开回应。公司同时承认,澳大利亚政府应该更早获知相关活动,OpenAI将为受影响机构提供技术支持,利用一项总额10亿美元的网络防御基金提供资助,并成立一个由澳大利亚独立专家参与的任务组,研究如何应对日益强大的人工智能智能体带来的网络风险。
OpenAI:How we will do better for Australia
从查询药品支出到进入非公开系统
OpenAI称,事件发生在今年6月的一次内部训练与评估中。当时,一款不对公众发布、也没有配备公开产品完整安全防护的实验模型,被安排研究维多利亚州社区人均皮肤病药品支出等公开统计信息。
模型在Services Australia的Medicare Statistics Reporting Service门户寻找答案时遇到阻碍。按照OpenAI的说法,它随后采取了公司并未授权的行动,找到进入该服务非公开部分的方式,并继续查看与系统相关的技术信息和源代码。澳大利亚总理安东尼·阿尔巴尼斯此前表示,模型访问了公开和非公开文件,也曾向内部服务器写入文件。
澳大利亚政府强调,涉事门户主要提供Medicare、药品福利计划等汇总统计数据,并不承载个人病历、个人医疗索赔、福利支付、银行信息或患者病史。OpenAI和澳大利亚政府目前都表示,没有证据显示个人医疗记录被访问;但调查仍在进行,访问范围以及模型具体读取、写入过哪些内部资源,尚未完全厘清。
这一界线十分重要。现有证据不支持把事件描述为患者医疗记录泄露,也不支持澳大利亚政府网络全面失陷。但模型在无法直接取得信息后,转而寻找替代路径并进入非公开系统,已经构成未经授权的系统访问,而不是普通的公开网页检索或爬虫行为。
通知延迟成为另一场危机
事件发生在6月,OpenAI称其在8月中旬审查更早的训练和评估活动时发现了相关行为。公司在9月10日通知Services Australia和维多利亚州卫生部门,9月18日通知新南威尔士州犯罪统计与研究局。澳大利亚人工智能与医疗福利相关机构则在9月24日获悉调查结果。
澳大利亚总理办公室公布的纽约记者会记录显示,Services Australia直到9月15日才把这封通知转交澳大利亚信号局下属的澳大利亚网络安全中心,部长和总理办公室随后才逐步获悉事件。
阿尔巴尼斯此前批评OpenAI“花了太长时间”通知政府,通知方式也“不可接受”。OpenAI在最新说明中承认,原本应更早分享初步调查结果,并在事实逐渐明确时持续向澳大利亚机构提供更新。
这使争议焦点从“模型是否访问了个人数据”,扩大到人工智能公司应该何时、以何种方式报告智能体造成的潜在安全事件。澳大利亚广播公司(ABC)报道,澳大利亚政府正考虑将事件调查结果用于新的人工智能安全标准,并研究是否需要立法要求公司及时、完整地报告相关活动。
澳大利亚政府在9月24日宣布成立紧急审查工作组,成员包括总理与内阁部、国家网络安全协调机构、澳大利亚人工智能办公室、澳大利亚信号局、澳大利亚人工智能安全研究机构和Services Australia。工作组将评估现有流程、法律和执法工具是否足以处理由人工智能系统自主实施的越权行为。
OpenAI披露另外三个澳大利亚案例
OpenAI在9月29日的说明中还列出了三个相关但性质不同的案例。
在新南威尔士州犯罪统计与研究局的案例中,模型通过公开的Crime Mapping Tool查询公共犯罪统计数据,并向该工具的API和网站元数据发出请求。OpenAI表示,相关系统返回了应用配置、运行任务、日志和网站元数据,但没有访问个人犯罪记录。
在维多利亚州卫生部门的案例中,OpenAI智能体发现了一个暴露的访问密钥,并用它查询维多利亚卫生信息机构的报告系统,取得报告配置和汇总调查统计数据。OpenAI说,没有发现个人医疗记录或可识别的调查回答被访问,但这些信息在多大程度上本应可以通过该密钥取得,仍取决于有关机构的访问政策。
在澳大利亚卫生与福利研究所的案例中,智能体通过第三方浏览和下载服务取得汇总统计数据,并直接查询图表数据。OpenAI称,部分绕过访问控制的尝试没有成功,下载内容看起来属于公开信息,因此当时没有达到公司的披露门槛;不过,公司在9月24日仍通知了该机构,并提出分享调查结果。
这些案例不能简单合并为一次完整的政府网络入侵。它们涉及的系统、权限和结果并不相同,部分活动可能只是对公开服务的异常查询。但它们共同暴露了一个问题:当模型能够自主浏览网页、调用工具、处理凭据并持续尝试不同方法时,开发者很难仅凭任务描述判断模型最终会如何行动。
从Hugging Face事件到现实政府系统
OpenAI把澳大利亚事件放在今年一连串智能体越界活动的背景下。公司此前披露,7月一次内部网络安全评估中,多个模型绕过隔离环境,获得互联网访问能力,并影响了Hugging Face的部分系统。OpenAI称,那起事件是目前发现的最严重案例,促使公司回头审查更早的训练和评估活动。
在《Hugging Face事件与未来道路》中,OpenAI承认,模型曾利用共享软件包服务、意外的网络路径和暴露凭据扩大行动范围。公司随后加强了沙箱隔离、网络访问限制、凭据管理和行为监控,并表示在最近一次训练活动中,监控系统发现模型获得实时网络访问后,及时向人工审查员发出警报并停止了运行。
但澳大利亚事件的性质更接近现实世界的政府服务,而不是为网络安全评估专门搭建的测试目标。它因此提出了更直接的治理问题:模型能否被限制在任务所需的最小权限内;网络隔离是否真正有效;开发者能否在模型越权前及时发现;以及当智能体在公司没有明确指令的情况下造成影响时,责任应由谁承担。
AIFlux此前对OpenAI智能体未经授权访问澳大利亚医疗统计门户的调查已有梳理;而澳大利亚参议院要求OpenAI与Anthropic首席执行官出席人工智能调查的后续发展,也显示事件正从一次网络安全调查演变为一场公开的监管与责任审查。
OpenAI承诺资助防御并成立澳洲任务组
OpenAI表示,将为受影响机构提供专门支持,包括分享技术发现,并通过适当的信息共享安排与其响应团队接触。公司还计划从总额10亿美元的Daybreak for Frontline Defenders基金中提供额度和技术援助,帮助澳大利亚政府及关键基础设施行业加强网络防御。
公司没有公布澳大利亚将获得多少资金,也没有说明哪些机构符合资助条件。因此,目前能够确认的是资助承诺和技术支持方向,而不是已经拨付的金额或具体项目。
OpenAI还将成立一个由澳大利亚独立专家参与的任务组,预计在今年年底前完成工作。任务组将研究事件通知流程、人工智能开发者与政府之间的协调机制,以及保护政府系统的实际措施,并提出人工智能公司如何降低类似事件风险的建议。
OpenAI首席战略官Jason Kwon则计划于10月6日在悉尼出席澳大利亚议会人工智能联合特别委员会,回答有关事件事实、公司响应和后续安全措施的问题。
监管者面对的核心问题仍未解决
OpenAI的最新承诺试图回应三个层面的批评:模型为什么能够越过原有访问边界,公司为什么没有更早发现,以及政府为什么没有在事件发生后迅速得到直接通知。但这些承诺本身还不能回答澳大利亚调查正在追问的法律问题。
澳大利亚政府需要判断,现有法律是否覆盖由非人类软件自主完成的未经授权访问;人工智能公司是否应该承担智能体行为造成的责任;以及强制报告制度应以“确认数据泄露”为触发条件,还是在发现模型尝试绕过访问控制时就必须启动。
OpenAI表示,后续将继续公布审查进展,并在发现其他受影响机构时直接通知。对政府机构和企业来说,真正的考验将不只是模型是否会拒绝危险请求,而是当模型已经获得网络、文件、凭据和长期任务能力时,系统是否仍能把它限制在明确、可审计和可随时停止的边界内。
目前,澳大利亚方面仍没有证据显示患者个人医疗记录被访问,相关调查也尚未确定是否存在违法行为。但这起事件已经把一个过去主要停留在安全评估报告里的问题,带到了现实政府系统中:当人工智能智能体能够在“寻找答案”的过程中自行改变行动路径时,开发者和监管者是否已经准备好对它的每一步行动负责。