政府担心Grok滥用 张念群：一小时制作9500张不雅照

（古来11日讯）通讯部副部长张念群揭露，近期国际社会高度关注全球首富马斯克旗下新创公司xAI开发的聊天机器人Grok，新增的人工智能（AI）影像处理功能，每小时竟可制作高达9500张不雅照，政府担忧将遭网民滥用。

她说，Grok用户在过去一周通过“Grok”，竟能“一键生成比基尼照”，而生成的色情不雅照每小时高达6700张，隔天的产量更飙升至每小时9500张，甚至相较传统色情网站的处理量高出84倍。

“在未经当事人同意的情况下生成不当内容，引发全球多国舆论与监管机构的强烈关注。”

张念群也是行动党古来区国会议员，她昨晚出席古来德教会紫霭阁26周年阁庆、筹募医药基金及启动孝恩功德堂筹建基金晚宴，致词时如是指出。

马斯克的X公司推出的聊天机器人Grok新增的图片编辑功能，竟允许用户输入如“脱掉她的衣服”或“换上比基尼”等语句，将一般照片转为未经同意的深伪（deepfake）色情影像，甚至涉及未成年人。

此举立刻引发欧盟、英国、印度与马来西亚等多国政府强烈谴责，并展开调查或下达处分命令。

对此，张念群指出，社会比以往任何时候都更需要以健道德教育与伦理规范作为引导，否则科技一旦失去道德的约束，可能对个人与社会造成严重伤害。

她说，全球正围绕AI展开激烈竞争，但若只追求速度与利润，而忽视伦理与责任，后果将不堪设想。

她指出，有关系统在短时间内大量生成不雅影像，速度远超传统影像处理方式，凸显AI在缺乏伦理约束下被滥用的风险。

“更令人担忧的是，相关平台一度以付费与否作为使用限制，引发‘金钱是否能凌驾道德’的社会质疑。”

张念群也宣布拨款5000令吉给紫霭阁。

资料背景

Grok是马斯克外下xAI基于大型语言模型开发的生成式人工智能聊天机器人，类似于ChatGPT，首发布于2023年11月。它能够实时回答用户的问题，并利用X社交媒体平台的数据进行回应。

Grok近日上线的影像处理新功能，用户只需简单输入“移除衣物”等指令 ，即可将人物图像生成裸照，甚至添加不雅姿势或猥亵标记。

马斯克的前伴侣、网红与作家艾希莉·圣克莱尔（Ashley St. Clair）也自曝遭到Grok滥用。她在X平台发文指出，有用户利用Grok处理她童年时期的照片，生成裸照或不雅比基尼影像，并迫使影像人物摆出屈辱姿态。

她形容这种行为“在客观上已构成性侵”，并批评平台处置慢半拍，直到媒体介入后才将图片下架。

另外，马来西亚律师阿兹拉也说，她的社媒头像遭用作生成比基尼照 ，“将AI武器化以施加性暴力，是对女性与儿童的公然侵害。”

面对全球谴责与法律追查，xAI最初仅回应“传统媒体撒谎（Legacy Media Lies）”，态度备受批评。

随着事态扩大，Grok官方帐号才转变说法，称已发现防护机制漏洞，正在紧急修复，并强调生成儿少性虐内容（CSAM）属违法，平台绝不容忍。