（华盛顿8日综合电）AI技术发展迅速，但新创公司Anthropic共同创办人克拉克近日发出警告，当前AI产业就像只有油门，没有刹车的汽车。他呼吁建立能够减缓AI的“刹车踏板”，避免未来AI在缺乏人类参与及监督下持续发展，进而衍生难以预测的风险。
身为AI新创公司Anthropic共同创办人之一的克拉克，日前接受BBC“新闻之夜”节目专访，他提到当今AI发展，正接近一个关键时刻，也就是可能不再需要人类参与，就能自行改进或开发下一代AI系统。
克拉克透露，Anthropic旗下AI聊天机器人Claude，目前已经能够参与80%的程式码撰写，这个比例在未来2年内，甚至有机会提升至100%。他认为，一旦AI能够不需要人类参与，自行撰写程式码，将带来“巨大的影响”，意味着人类对技术的掌控能力，也可能面临挑战。
“我们必须防止AI在没有人类参与及监督的情况下，持续发展。”克拉克示警，各家公司都在全力发展AI产业，就像一辆只有油门、没有刹车的汽车。他呼吁全球应建立能够减缓AI速度的“刹车踏板”，社会与政府应保有控制权，透过适当法规与政策，确保AI发展方向符合公共利益。
立即签购 解锁全文
会员独享好文 减少强制广告 即时派送好康 独家社群交流会员登入
