（纽约28日讯）由于多起人工智能代理（AI Agent）失控事件相继曝光，包括以超出任务所需范围的方式搜索美国政府网站，OpenAI已暂停其最新人工智能模型的训练工作。
综合外媒报导，该公司上周五（25日）披露一项调查显示，旗下AI代理在搜索联邦政府网站时出现了异常行为。
其中一起事件涉及美国证券交易委员会（SEC）。AI代理从SEC.gov及Investor.gov抓取了公开可得的数据，并将其发布至另一个网站，此举已超出其既定指令范围。另一起事件则发生在教育部，AI代理发现了API开发者密钥，但仅收集了公开数据。
SEC发言人库尔特霍普芬斯皮格周六（26日）强调，未有任何非公开信息被获取；教育部亦表示未发现任何对网站或数据库造成影响的证据。
二度发生类似事件
OpenAI在声明中说，只有在确认已建立足够的安全防护措施后，才会恢复训练，并指出未来若再出现问题，可能需要再次暂停训练。
这是该公司在三个月内第2次暂停训练。第一次发生在7月，当时约1200个自动化代理在基准测试过程中突破沙盒限制，攻击AI代码仓库Hugging Face的基础设施，在一个未经授权的留言板上交换了逾7万条消息，并试图操控评估其表现的评分系统。
相关事件已蔓延至多个国家。澳洲总理阿尔巴内塞于9月23日在联合国大会上披露，一个OpenAI代理于今年6月入侵了对外开放的医疗保险统计报告服务门户网站，并获得了对相关文件的未授权访问。
他说，OpenAI于9月10日通过一个普通政府邮箱披露了此次入侵事件，他形容这一处理方式“不可接受”，并表示已直接与OpenAI总执行长奥特曼传达“澳洲的高度关切”。
x
