人工智能和基因工程 避免“先建设后管制”

（吉隆坡21日讯）霹雳州苏丹纳兹林沙殿下指出，类似人工智能和基因工程等新兴科技必须事先管制，以避免重犯“先建设，后管制”的历史性错误。

殿下说，当初在原子弹引爆前，世界未能制定管制框架，因此呼吁全球社会在面对本世纪的科技时不要重蹈覆辙。

“他们需要事前的管制而非事后，有一个区域就因事后管制造成无法扭转的代价，那就是地球的健康。”

苏丹纳兹林沙今早配合第19届亚洲防卫展的布城峰会上致词时，如是指出。

殿下提到，虽然人工智能、量子计算、生化科技及先进通讯等新兴科技，虽然为提升安全提供强大工具，但也正在重塑全球风险格局。

“人工智能探测异常情况的速度比人类快，可用来应对网络安全，而实用分析可分析风险并采取提前措施。

“区块链科技则加强数据完整性以保障透明度和减少诈骗，先进监测系统和卫生科技则可改善公共安全和灾难应对。

“然而，这些科技也带来风险，在军事使用人工智能将促使冲突发生，在自动化偏见下，人类将过于依赖机器，允许它们做出违反道德和法律的生死决策。”

殿下也指出，人工智能在核能源系统出错也将带来灾难性后果，至于量子计算则会对网络安全造成威胁，至于深伪技术则可透过扭曲事实颠覆社会。

“关键设施如电网和金融系统越来越数码化，并且暴露在无需开一枪就能威胁国家主权的风险。

“想像一下，区域金融系统遭网络攻击，数分钟内就对跨边境经济造成影响，针对性的不实消息传播将侵蚀民众对个别机构的信心，敏感数据遭泄露让国家主权不废一枪的情况下受到威胁。”