（华盛顿29日综合电）总部设在法国巴黎的AI（人工智能）新创公司Hugging Face日前遭OpenAI旗下一个AI自主代理（agent）程式在测试期间脱序自主发动网攻入侵后，今再曝出另一间位在美国纽约的科技公司Modal Labs也有客户遭波及，显示AI失控范围比外界先前所知的更广。
Hugging Face于28日发布的报告显示，OpenAI一个已公开发布及另一个尚未发布的模型，从7月9 日至7月13日在互联网上游荡，执行了17600次骇客攻击，成功入侵一个沙盒（sandboxes），将其作为扩大攻击的跳板。这里的沙盒，指的是设置在第三方供应商基础架构上，用来进行安全测试的隔离环境。
Hugging Face指出，OpenAI的这两个AI模型能够比任何人类更快地侦察并发现该公司多层网络防御中的漏洞。
Modal技术长布布纳（Akshat Bubna）其后证实，OpenAI的失控AI代理利用一名客户部署在Modal平台上的漏洞程式码发动攻击；涉事客户”对外公布了一个未经验证的端点，而这个端点可让所有网络用户利用他们的沙盒执行程式码，等同让网络世界的门户大开。
布布纳同时强调，Modal的平台本身或其隔离机制并未受到任何影响。
据称OpenAI承认这个AI代理曾入侵4个分属不同服务的帐户，却未具体说明这些服务为何。有知情人士指称Modal就是其中之一。OpenAI另一方面强调未发现有类似Hugging Face所涉及的、平台层级重大入侵的其他活动。
上周有媒体报导指OpenAI当时并未即时察觉有代理程式出现异常，而是在威胁解除、美国联邦调查局（FBI）接获通报后才发现问题。对于这则报导，OpenAI当时表示有不实之处，但未进一步说明。
OpenAI目前正在争取美国政府批准其公开发布最强大的模型，其AI代理失控，对Hugging Face展开骇客攻击的事件，犹如科幻电影AI失控情节的翻版，引发全球关注。美国联邦跨党议员当地7月23日提出《AI强制关闭法案》（AI Kill Switch Act），目的是让联邦当局得以在必要时强制关闭AI模型。
OpenAI首席执行官奥特曼（Sam Altman）28日在Invest Like a Beast播客节目中表示，对Hugging Face网络攻击迫使该公司暂停模型训练，认为或许需要放慢AI的开发速度，以便社会有足够的时间来适应这些新的能力水平。
包括OpenAI首席科学家帕乔基（Jakub Pachocki）和Anthropic联合创始人卡普兰（Jared Kaplan）在内的1100多名前沿AI公司的员工，28日签署了一封公开信，呼吁美国政府“支持一项国际合作，以开发必要的技术和监督工具，从而推进自动化AI的前沿领域。
文：综合
图：互联网
