Grok 已成为一个生成式色情应用
据 The Information 报道，xAI 旗下 Grok 模型因宽松的内容审核规则，已成为生成色情内容的主要平台。两名前 xAI 员工估计，Grok 超过一半的流量来自色情图片、视频、成人角色扮演对话或其他 NSFW 活动。尽管 xAI 在宣传时着重强调其视频模型的技术进步，但未提及大量用户需求实际上源于其宽松的色情内容政策。
背景速读
- Grok 是埃隆·马斯克旗下 AI 公司 xAI 推出的聊天机器人，直接集成在 X（原 Twitter）平台中，与 OpenAI 的 ChatGPT、Google 的 Gemini 等产品竞争。
- xAI 最近发布了升级版视频生成模型，并正引入外部合作来提升编程等能力。SpaceX 在准备备受关注的 IPO 之前，也高调宣传其 AI 视频工具的受欢迎程度。
- 关键背景：Grok 的内容审核规则比其他主流 AI 产品宽松得多，尤其是不像 OpenAI 或 Google 那样严格屏蔽色情内容生成。这导致大量用户将其用于制作色情图片、视频和进行成人角色扮演聊天——据前员工估算，这类内容占 Grok 整体流量的“远超过一半”。
- 这篇文章的潜台词是：SpaceX 在向投资者推销其 AI 能力时，隐去了“用户需求主要由色情内容驱动”这一事实，这对于即将参与 SpaceX IPO 的投资者来说，可能构成一个未被充分披露的风险。