马来西亚将对马斯克的 X 和 xAI 滥用 Grok 聊天机器人采取法律行动

马来西亚当局周二表示，他们将采取法律行动 埃隆·马斯克的社交媒体平台 X 及其人工智能部门 xAI，指责这些公司未能确保其 Grok 聊天机器人用户的安全。

此举是在马来西亚和 印度尼西亚 随着人们越来越担心 Grok 被滥用来生成露骨和未经同意的图像，该国成为第一个阻止访问 Grok 的国家。

马来西亚通信和多媒体委员会在一份声明中表示，它已发现 Grok 被滥用来生成和传播有害内容，包括露骨、不雅、极具攻击性以及未经同意的操纵图像。

该公司表示，本月已向 X 和 xAI 发出通知，要求删除有害内容，但尚未采取任何行动。

声明称，“涉嫌涉及妇女和儿童的内容令人高度关注。这种行为违反了马来西亚法律，并破坏了公司所做出的安全承诺”。该委员会已任命一名律师，并表示法律诉讼将很快开始。

人们对能够生成逼真图像、声音和文本的生成式人工智能工具进行了越来越多的审查，并担心现有的保障措施无法防止其滥用。

Grok 于 2023 年推出，可在 X 上免费使用。去年添加了图像生成器功能 Grok Imagine，其中包括可以生成成人内容的所谓辣味模式。 Grok 因生成经过处理的图像而受到批评，包括描绘穿着比基尼的女性或露骨的性姿势，以及涉及儿童的图像。

Grok 面临着压力 欧洲联盟、印度和 英国该公司周一表示，将采取行动将“裸露应用程序”定为犯罪。英国媒体监管机构还对 Grok 允许用户分享儿童色情图片是否违法展开调查。

上周，在全球对人性化深度假货事件产生强烈反对后，Grok 将图像生成和编辑限制为付费用户，但批评者表示，它并没有完全解决问题。

马斯克和他的公司尚未对东南亚的限制公开发表评论。 xA1 一直在对媒体询问进行自动回复，其中指出“传统媒体谎言”。