（华盛顿2日综合电）美国新创软体公司PocketOS日前遭遇灾难性系统事故，因为该公司使用的AI代理执行例行任务时，竟擅自决定删除整个公司资料库，就连备份资料也未能幸免，不到10秒钟就把所有关键资料全部砍光。
《独立报》报导，PocketOS是一家专为租车业者提供软体服务的新创公司，4月25事件发生时，使用Anthropic旗舰模型Claude Opus 4.6，驱动程式编辑代理工具Cursor，前者被公认为目前业界最顶先的程式编码AI模型。
PocketOS创办人克雷恩（Jer Crane）表示，这款AI在处理一项例行任务时，“完全出于自身意图”，决定以删除资料库的方式解决问题。如此重大的决策既未向使用者确认，也未发出任何警告，整个过程“只花了9秒钟”。
立即签购 解锁全文
会员独享好文 减少强制广告 即时派送好康 独家社群交流会员登入
