初创公司起诉Palo Alto Networks旗下Koi Security，称AI幻觉报告将其错误关联至中国间谍活动
一家初创公司对Palo Alto Networks的子公司Koi Security提起诉讼，指控其AI生成的一份虚假报告错误地将该公司与中国间谍活动联系起来。该诉讼称，AI的"幻觉"行为导致了一份包含严重事实错误的调查报告，对原告的商业声誉造成了损害。
背景速读
- Koi Security 是 Palo Alto Networks（全球最大的网络安全公司之一）旗下子公司，2025 年被其收购。该公司主打用 AI 自动化网络威胁情报分析。
- 一家真实存在的初创公司（名称未公开）起诉 Koi Security，称其 AI 工具生成了虚假报告，错误地将该初创公司与所谓的"中国网络间谍活动"关联起来。
- 诉讼核心指控：AI 产生了"幻觉"（hallucination）——即模型编造出看似合理实则完全错误的信息——并将这些编造内容当作正式威胁情报输出。
- 此案引发行业关注，因为它涉及两个敏感问题：AI 幻觉在安全领域可能造成真实伤害（如毁掉一家小公司的声誉）；以及网络安全巨头对自动化情报产品的质量控制责任边界在哪里。