明尼苏达州正就埃隆·马斯克旗下xAI试图阻止HF-1606州法案一事与其对峙。该法案为全美首例，旨在监管可生成可识别人物逼真性图像的AI工具。在周五的法庭文件中，明尼苏达州总检察长基思·埃利森表示，xAI的宪法挑战不太可能成功，且未能证明执法会造成不可弥补的损害。
Myriad：到8月31日埃隆·马斯克的净资产会是多少？点击预测。
埃利森写道：“通过Grok Imagine，xAI打造了一个无与伦比的数字性暴力交易市场，几乎没有任何准入壁垒。若不能从根源上以法律约束使数字性侵害成为可能的技术，该市场加之Grok Imagine的功能将使明尼苏达州在起步阶段就陷入绝境。”
该法律于4月通过、8月1日生效，禁止平台与软件开发者允许用户创建显示可识别人物原图中未出现的私密部位的逼真图像。7月，在法案实施前，xAI起诉埃利森以阻止该法，称其违反第一修正案，并可能适用于包括裸上身男性、游泳者及政治讽刺等受保护图像。每次违规罚款最高达50万美元。
xAI在诉状中称：“提供通用AI创作工具的供应商即便出于善意规避危害，也无安全港。即便当事人同意或自行创建图像，甚至图像从未分享，仍须担责。”
在听闻一名男子利用社媒照片为80多名熟识女性生成性图像的报告后，明尼苏达州以众议院132比1、参议院65比0通过此法。主导推动的参议员玛耶·奎德当时声明：“今天我们引领全国，保护女性、儿童及公众人物免受AI脱衣技术之害。免费提供此技术的公司将再也不能助长 predators 一键侵害之事。”
本案焦点在于该法规制的是言论还是技术。Grok亦因露骨深度伪造受审查：1月一监察组织估算其11天内生成逾2.3万张儿童性化图像，多国展开调查；3月加州三名未成年人加入诉讼，指控Grok将其照片转为AI儿童性虐待材料。xAI称2026年已封停超5万账户并向失踪与受虐儿童中心提交7万余份报告。