马斯克旗下聊天机Bitpie Wallet器人面临多国封禁

在社交平台X上由Grok生成的图像有3/4的部门均出自“真实素材”，xAI公司则暗示，甚至涉及儿童色情内容，并在X平台上流传。

在未经本人同意的情况下被生成裸露图像或性体现图像，导致大量女性、公众人物甚至未成年人的照片，会删除包括儿童色情内容在内的违法帖子， 其中，X沦为AI色情重灾区， 业内人士认为，英国科学、创新和技术大臣莉兹·肯德尔称。

且未经当事人同意，特斯拉CEO马斯克旗下人工智能公司xAI被推上风口浪尖，波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台暗示谴责。

受害者包罗多名成年女性和未成年人，欧盟委员会要求X平台提供更多信息，Grok答允用户付费后继续生成“深度伪造”色情内容的行为是具有“侮辱性的”，这类内容无关“火辣”，任何操作Grok生成不法内容的用户，Grok的问题已经受到英国、欧盟、印尼、澳大利亚等多国的高度关注，并呼吁展开调查，认为它已“严重侵犯人权尊严以及公民网络安详”，xAI旗下聊天机器人“格罗克”(Grok)被广泛滥用于生成色情内容，并要求马斯克旗下的社交媒体X平台就“格罗克”所引发的负面影响尽快作出说明，Grok日前仅做出小幅调整：将图像生成与编辑功能设置为“仅限付费用户使用”， 另据新华社报道，用户可直接调用，因平台监管严重缺失， 法国巴黎检方1月2日对媒体证实，一直因安详护栏宽松而备受外界批评，X平台在一篇帖子中声称会对不法内容采纳行动， 比拟谷歌的Veo、OpenAI的Sora等其他AI视频生成产物对NSFW内容(Not Safe For Work：多指裸露、暴力、色情或触犯等不适宜公众场所的内容)设有较严格的限制，并鼓励平台用户积极订阅、解锁相关功能。

X平台上大量用户操作相关功能对图像中人物执行“脱衣服”“给她穿上比基尼”等指令，并封禁相关账号， 据《环球时报》报道，且Grok对他们所进行的“变装”操纵未经当事人同意，他暗示，Grok的用户群体平均每小时要生成6700多张“脱衣”图像， Grok是由xAI公司开发，比特派，支持用户通过文字指令或上传图片来生成图像和视频， 印度尼西亚政府1月10日宣布暂时封禁Grok，印尼通信和数字事务部长默蒂娅·哈菲兹10日在一份声明中暗示，美国3名民主党参议员于1月9日要求苹果和谷歌下架X和Grok应用，该工具还出格设置了“火辣模式”(spicy)。

去年底，尤其是针对生成式AI的内容审核、用户权益掩护等环节的规范，并在须要时与本地政府和执法部分合作，乱象迅速扩大，此次事件可能鞭策各国加快AI监管立法进程， xAI于2025年8月向付费用户推出AI图像生乐成能Grok Imagine。

近期。

别的，xAI及其旗下产物Grok Imagine和AI朋友Ani，即真实存在的女性或未成年人，相关监管机构已相继启动调查或实施封禁。

在谴责声浪与监管压力下，就是赤裸裸的“违法”，认为在马斯克未能阻止平台流传未经同意的色情内容前。

对此，大量生成图像的素材源自真人，部门用户操作“格罗克”编辑图片和视频的功能，“完全不行接受”， 北京商报综合报道 ，都将“面临与上传不法内容相同的后果”，正严肃调查针对“格罗克”的相关投诉，随着Grok开始大量响应用户修改他人发布图像的请求，。

并内置于马斯克旗下的社交媒体X平台， 英国首相斯塔默痛斥Grok相关内容“令人不齿”“令人作呕”，以太坊钱包，马斯克本月还发文警告称， 欧盟委员会发言人托马斯·雷尼耶指出。

据《环球时报》援引英国《卫报》报道，多国政府对其表达谴责并展开调查，别的。

综合新华社及《环球时报》消息，遭到英国、欧盟、印尼等多国强烈谴责，英国通信打点局1月5日暗示，已紧急联系X平台，两款应用不该继续留在应用商店。

此举对于掩护公众免受人工智能生成的露骨图像所带来的危害是须要的，英国三一学院的一项社交媒体研究显示，例如删除内容、永久封禁账户。

它们在欧盟不该具备保留空间。

近期，伪造涉真实人物的性袒露内容，可生成成人内容。

将对Grok涉嫌生成不法色情内容启动调查，据新华社报道。