马来西亚科技监管机构周日表示,因人工智能生成色情内容,马来西亚暂停了对埃隆·马斯克 (Elon Musk) 聊天机器人 Grok 的访问。
该决定是在 Grok 的图像创建功能允许用户使用简单的文本提示将妇女和儿童的照片性感化后引起全球强烈反对的。
周六,印度尼西亚成为第一个拒绝对该工具进行所有访问的国家,该工具仅限于其他地方的付费用户。
马来西亚通信和多媒体委员会在一份声明中表示,它已“下令暂时限制马来西亚用户使用 Grok 人工智能”,并立即生效。
周日,马来西亚首都吉隆坡的法新社记者向 Grok 发出提示时,没有得到任何回应。
监管机构表示:“这一行动是在多次滥用 Grok 来生成淫秽、露骨、不雅、严重冒犯和未经同意的操纵图像之后采取的。”
该声明引用了向马斯克的 X Corp. 和开发 Grok 的 xAI 初创公司发出的“涉及女性和未成年人的内容,尽管事先有监管参与和正式通知”。
该人工智能工具已集成到社交媒体平台 X 中。
马来西亚监管机构表示,它认为该平台的保障措施不足,并补充说,只有在验证了所需的更改后,访问才会恢复。
监管机构表示,X Corp.“未能解决人工智能工具的设计和操作带来的固有风险”,“主要依赖于用户发起的报告机制”。
周五,欧洲官员和科技活动人士对 Grok 备受争议的图像创建功能仅限于付费订阅者进行了猛烈抨击,称这一变化未能解决人们对色情深度假货的担忧。
Grok 似乎通过新的货币化政策来转移批评,周四在 X 上发布消息称,图像生成和编辑现在“仅限于付费订阅者”,并附有高级订阅链接。
str/mba/ami