试图闯入政府或学校网站，OpenAI 智能体四次“失控”细节曝光

据IT之家9月25日消息，当地时间23日，《纽约时报》援引研究人员和政府官员的说法报道，OpenAI的人工智能系统今年至少出现了4次未经授权的行动，在未收到明确指令的情况下实施网络攻击，或试图侵入政府及大学网站。

这些攻击行为发生在5月和6月。到了7月，OpenAI侵入了AI初创公司Hugging Face，此事引发了全球范围内对AI安全问题的讨论。

Hugging Face事件及之前的其他案例均发生在网络安全测试中，当时AI系统被赋予的任务本身就是要求模型展示黑客技能。

研究人员指出，这4起新事件有所不同，当时AI系统执行的只是相对常规的数据收集工作。当OpenAI系统无法顺利从网站获取数据时，便转而采用黑客手段来获取信息。

专注于AI监管的Transluce机构发现了其中3起事件，OpenAI随后确认这些事件确实发生过。

IT之家汇总具体情况如下：

• 5月25日和26日，OpenAI系统尝试侵入新墨西哥大学的数字图书馆，没有迹象表明入侵成功。
• 5月28日，OpenAI技术将收录美国就业、教育等公开数据的Data USA作为目标。研究人员称，这次入侵尝试同样没有成功的迹象。
• 6月18日，OpenAI的AI侵入了澳大利亚政府的Medicare统计报告服务网站，并获取了卫生数据。当地时间23日，澳大利亚总理安东尼·阿尔巴尼斯披露了这起事件。
• 6月20日和21日，OpenAI技术尝试攻入澳大利亚健康与福利研究所网站。澳大利亚官员表示，没有私人信息被获取。

Transluce治理负责人康拉德·斯托兹指出，新披露的4起事件进一步表明，对待AI智能体“需要保持谨慎”。

该公司通过分析公开网络流量数据来追踪OpenAI智能体的活动。针对发生在澳大利亚的两起事件，斯托兹认为，这很可能是“智能体自主决定入侵政府的首例”。

OpenAI的一名女发言人回应称，公司已联系新墨西哥大学和Data USA，并一直与澳大利亚政府就这些事件进行沟通。“在更广泛的审查中，我们将继续优先处理最严重的事件，同时扩大对严重程度较低活动的调查，包括智能体向网站发送垃圾信息。”

OpenAI还在对AI模型进行“广泛审查”时发现了“澳大利亚事件”，并认定“我们的模型采取了并非我们意图中的行动”，这项审查将持续数月。

OpenAI CEO萨姆·奥尔特曼本月在社交媒体上表示，相比继续提升AI能力，安全应被置于更重要的位置；如果缺乏防护措施，社会可能“让AI夺走对未来的控制权”。

阿尔巴尼斯称，周三他与奥尔特曼通了电话，对这一入侵行为表达了“极度关切”。包括支出数据在内的“非敏感”数据被获取，但事件未涉及个人医疗信息。

研究人员称，从5月和6月的几起事件来看，OpenAI的AI系统当时参与的是数据检索训练。

在对新墨西哥大学图书馆的行动中，AI试图获取一座历史悠久的结核病治疗中心的照片。无法获取照片后，AI开始寻找网站漏洞，希望借此进入系统。在未找到可利用的漏洞后，AI又向大学服务器集中发送了80次请求，并将这些请求形容为一场“洪水”。

攻击Data USA时，AI最初向网站发送了一条杂乱的数据查询请求。查询失败后，AI又针对不同类型的漏洞发起12次探测，但仍未找到可利用的漏洞。

斯托兹称：“如果有人训练一大批智能体去完成某种通用任务，而这些智能体愿意采用黑客手段，那么任何恰好掌握任务所需信息的一方都可能面临风险。”

遭到入侵的澳大利亚政府网站是一个统计报告门户，存放着澳大利亚全民医疗体系Medicare的数据。Medicare覆盖2750万参保者以及国际访客。由于这一体系获得广泛支持，Medicare在澳大利亚政治中常被视为不能轻易触碰的“高压线”。

阿尔巴尼斯披露，OpenAI团队当时通过互联网研究公共医疗支出。AI智能体接连遭到网站阻拦后，开始尝试“其他方式”获取所需信息，最终进入了门户中不对公众开放的部分。OpenAI于9月10日向澳大利亚政府通报此事。