Grok 遭加州调查，深伪裸照风波持续发酵
1 月 15 日消息，据 CNBC 报道，今天，加州司法部长 Rob Bonta 宣布对马斯克旗下的 xAI 展开调查，原因是其 AI 工具 Grok 被用于大规模生成基于真实人物的非自愿深度伪造裸露图像，其中包括对未成年人的虚拟「脱衣」内容。
Bonta 表示，xAI「似乎正在促成大规模制作非自愿私密深伪图像」，这些内容已在 X 平台等渠道被用于骚扰女性与未成年人。
此次调查是继多国监管行动之后的最新进展。今年以来，印度、马来西亚、印尼、爱尔兰、英国、法国、澳大利亚及欧盟委员会均已对 Grok 展开正式调查，其中马来西亚与印尼两国已暂停该工具的使用，等待整改。
在美国国内，三名民主党参议员已要求苹果与 Google 将 X 与 Grok 从应用商店下架，直至平台能有效阻止非自愿裸露图像与涉及未成年人的深伪内容生成。
多个女性与儿童权益组织（UltraViolet、National Organization for Women、ParentsTogether Action）也提出相同诉求。
美国参议院昨天通过了 DEFIANCE 法案（打击露骨伪造图像与非自愿编辑法案），该法案允许深伪受害者对制作或传播相关内容的公司提起民事诉讼。法案此前已在 2024 年通过参议院，但仍需众议院审议。
面对监管压力，马斯克在 X 上回应称自己「并不知情」Grok 曾生成未成年裸露图像，并将问题归因于「用户请求」或系统「bug」。
他强调，Grok 的 NSFW 模式仅允许生成「虚构成人上半身裸露」内容，标准与美国 R 级电影一致。此前，xAI 已宣布将部分图像生成与编辑功能限制为付费用户可用。
近期，xAI 刚完成 200 亿美元融资，投资方包括英伟达、Cisco Investments、QIA、MGX 等。公司总部位于加州帕洛阿尔托，注册地在内华达，并正在田纳西州建设数据中心。Grok 也已被集成进特斯拉车载娱乐系统。
免责声明：本站所有信息均来源于互联网搜集，并不代表本站观点，本站不对其真实合法性负责。如有信息侵犯了您的权益，请告知，本站将立刻删除。
