（华盛顿9日综合电）美国人工智能（AI）新创企业Anthropic一名研究员决定退出AI产业，理由是担忧Anthropic及其竞争对手正竞相开发他们无法掌控的系统。这显示顶尖AI公司内部对安全疑虑日益升高。
华尔街日报（The Wall Street Journal）报导，以透过大量资料训练新AI模型见长的研究员考克森（Jacob Coxon）表示，整个产业都在加快脚步开发自我改进型的AI系统，他不想参与其中而离职，担心这类系统可能会失控，甚至导致人类灭亡。
现年27岁的考克森来自英国，过去曾修读数学。他表示，业界许多同侪现在会用“紧要关头”及“终局”等字眼，来形容产业朝自我改进模型发展的轨迹。
考克森说：“我们正迈向最激进的情境，明年底前局势可能就失控了。”他另指出，当公司之间互相较劲以及面对中国新创竞争时，在安全性上做取舍是不可避免的。
立即签购 解锁全文
会员独享好文 减少强制广告 即时派送好康 独家社群交流会员登入
