内容来源：https://www.theverge.com/ai-artificial-intelligence/966293/xai-grok-user-lawsuit-csam

内容总结：

埃隆·马斯克旗下的人工智能公司xAI日前对一名南卡罗来纳州男子提起诉讼，指控其利用该公司开发的Grok聊天机器人生成和传播儿童性虐待材料（CSAM）。据路透社此前报道，xAI在诉状中称，被告特里·韦恩·哈伍德“明知故犯地使用Grok绕开安全防护措施，篡改非自愿图像，并生成和传播儿童性虐待内容”，严重违反了公司政策。

哈伍德于今年2月因涉嫌持有和传播儿童性虐待材料被逮捕，目前面临8项重罪指控。xAI指出，至少部分与哈伍德刑事案件相关的图像系通过Grok生成或篡改。被告绕过了Grok的安全机制，在未经当事人同意的情况下，“将非性内容的照片转化为露骨的性化图像”。

去年，xAI为Grok推出了“火辣模式”，允许用户通过聊天机器人编辑图像，随即引发了大量涉及未成年人的AI深度伪造色情内容。今年3月，一群青少年起诉xAI，称Grok生成了他们未成年时期的性化图像。马斯克当时回应称：“任何使用Grok制作非法内容的人，都将面临与上传非法内容同样的后果。”然而，这似乎是xAI首次就利用Grok创建AI深度伪造内容提起诉讼。

xAI在诉状中表示，哈伍德的涉嫌行为使公司面临“重大法律风险和声誉损害”。公司请求法院判令哈伍德赔偿一切损失，并支付xAI因应对被告行为受害者提起的任何法律诉讼所产生的“合理费用”。此外，xAI还请求法官禁止哈伍德开设xAI账户或使用Grok。

中文翻译：

埃隆·马斯克旗下的人工智能公司xAI正起诉一名南卡罗来纳州男子，指控其利用该公司开发的Grok聊天机器人生成儿童性虐待材料（CSAM）。据路透社早前报道，在诉讼文件中，xAI声称特里·韦恩·哈伍德“明知故犯地使用Grok绕开安全防护、篡改未经同意的图像、生成并传播儿童性虐待内容”，从而违反了公司规定。

xAI起诉男子利用Grok生成儿童性虐待“深度伪造”内容
埃隆·马斯克的xAI公司称，特里·哈伍德绕过了Grok的安全防护机制以生成儿童性虐待材料，并要求其承担名誉及法律损害赔偿。

哈伍德于今年二月因涉嫌持有和传播儿童性虐待材料被捕，目前面临八项重罪指控。诉讼指出，与哈伍德刑事指控相关的图像中，“至少有一部分”是使用Grok生成或修改的；哈伍德不仅绕过了Grok的安全防护措施，还“滥用该工具，在未经当事人同意的情况下，将非色情照片转化为露骨色情图像”。

自去年为Grok推出“火辣”模式后，xAI又增加了通过该聊天机器人编辑图像的功能，这导致大量AI生成的色情深度伪造内容泛滥，其中甚至涉及未成年人。今年三月，一群青少年起诉xAI，称Grok生成了他们未成年时期的色情化图像。马斯克当时回应称：“任何使用Grok制作非法内容的人都将面临与上传非法内容相同的后果。”不过，这似乎是xAI首次因Grok生成的AI深度伪造内容而起诉用户。

xAI声称，哈伍德的涉嫌行为使公司面临“重大法律风险和声誉损害”。该公司要求法院责令哈伍德赔偿xAI的一切损失，并承担“因被告行为受害者提起的任何法律诉讼中，公司为自我辩护而支付的合理费用”。xAI还要求法官禁止哈伍德创建xAI账户或使用Grok。

热门推荐

• PS6确实像掌机
• OLED版Xbox Ally X20表现优异，华硕将单独销售
• OpenAI终于为Codex推出硬件……？
• 谷歌与Epic放弃对抗——第三方安卓应用商店将于下周上线
• SpaceXAI的Grok编程工具曾将用户完整代码库上传至云存储

英文来源：

The Elon Musk-owned xAI is suing a South Carolina man who allegedly used the company’s Grok AI chatbot to generate child sexual abuse material (CSAM). In a lawsuit reported earlier by Reuters, xAI claims Terry Wayne Harwood “knowingly and intentionally used Grok to circumvent safeguards, alter nonconsensual images, and generate and distribute CSAM,” breaching the company’s policies.
xAI sues a man for using Grok to generate CSAM ‘deepfakes’
Elon Musk’s xAI claims Terry Harwood bypassed Grok’s safeguards to generate CSAM. The company is asking for reputational and legal damages.
Elon Musk’s xAI claims Terry Harwood bypassed Grok’s safeguards to generate CSAM. The company is asking for reputational and legal damages.
Harwood was arrested in February for allegedly possessing and distributing CSAM and is facing eight felony charges. The lawsuit claims “at least some” of the images related to Harwood’s criminal charges “were generated or altered” with Grok, and that Harwood bypassed Grok’s safeguards and “abused the tool to convert non-sexual photographs into sexually explicit images” without the subjects’ consent.
After rolling out a “spicy” mode for Grok last year, xAI added the ability to edit images with the chatbot, leading to a flood of sexualized AI deepfakes, including ones with minors. A group of teens sued xAI in March over claims Grok generated sexualized images of themselves as minors. Musk responded by saying, “Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content,” though this appears to be the first time xAI has sued anyone over AI deepfakes created with Grok.
xAI claims Harwood’s alleged actions exposed the company to “significant legal risk and reputational damage.” It has asked the court to order Harwood to pay xAI for any damages, as well as “reasonable expenses incurred defending itself in any legal action filed by a victim of Defendant’s conduct.” xAI also wants the judge to block Harwood from creating an xAI account or using Grok.
Most Popular

• The PS6 sure sounds like a handheld
• The OLED Xbox Ally X20 is so good, Asus will sell it solo
• OpenAI finally launches hardware… for Codex
• Google and Epic give up fighting — third-party Android app stores are coming next week
• SpaceXAI’s Grok programming tool was uploading its users’ entire codebase to cloud storage