Meta 假扮青少年，向竞争对手聊天机器人询问自杀、性与毒品话题
据报道，Meta 雇用的承包商伪装成青少年，对 Snapchat、Character.AI 等平台的聊天机器人进行测试，询问涉及自杀、性与毒品等敏感话题。此举旨在评估竞争对手的 AI 安全措施，但也引发了关于隐私和伦理的争议。测试结果显示，某些机器人未能妥善处理危险内容，凸显了 AI 安全监管的紧迫性。
背景速读
- Meta (Facebook, Instagram 的母公司）被曝在测试竞争对手 AI 聊天机器人时，让外包人员冒充 13–17 岁青少年，向这些机器人询问涉及自杀、自残、毒品、色情等敏感话题。
- 这些测试外包工来自一家叫 Accenture 的咨询公司，他们需模仿真实青少年的语气和背景，目的是查看 Snapchat 的 My AI、Character.AI 等竞品是否会给出不当或危险的回复。
- 此事引发两大争议：一是 Meta 自己旗下的社交平台长期被批评未能有效保护青少年免受有害内容侵害，如今却以“保护青少年”之名测试对手；二是这些冒充行为可能违反 Snapchat 等平台的服务条款，甚至踩到了“冒充未成年人”的法律灰色地带。
- 背景是：美国国会和各州正密集推进针对社交平台保护未成年人的立法；Character.AI 此前已因一名 14 岁用户在与 AI 聊天后自杀而被家长起诉。此次曝光可能进一步打击公众对 AI 聊天机器人的信任。