（华盛顿10日综合电）人工智能（AI）初创Anthropic一名研究员考克森（Jacob Coxon）周二（8日）宣布离职，警告行业不受约束地竞相开发能自我改进的超级智能（superintelligence），可能会在本世纪末之前毁灭人类。 Anthropic另一名研究员胡宾格（Evan Hubinger）估计，未来10年内，AI毁灭全人类的几率超过10%。
考克森曾经在OpenAI工作，随后转入Anthropic。他警告，实验室以外的人低估AI的威力，AI系统很快就会超越人类，能够入侵任何系统，一夜之间彻底改变任何领域，并获得真正的权力和资源。
其中一个例子，包括OpenAI旗下ChatGPT较早时自行入侵软体平台Hugging Face，证明除非业界同意放慢开发步伐，否则此类模型可能会失控，超出人类的掌控范围。他指出，要阻止AI竞赛，可能需要采取代价高昂的措施，例如暂时禁止提升模型能力。
Anthropic研究员胡宾格亦支持考克森的话法，他在社交平台上表示，研究员确信AI可能会导致全人类灭亡，认为未来10年内发生几率超过10%。 Anthropic正在尽最大努力，但目前还没有解决超级智能「对齐」（alignment）问题的方案，也未明确朝此方向迈进。
立即签购 解锁全文
会员独享好文 减少强制广告 即时派送好康 独家社群交流会员登入
