スタートアップ、Palo Alto Networks傘下のKoi Securityを提訴——AI幻覚レポートが原因
あるスタートアップ企業が、Palo Alto Networksの子会社Koi Securityを提訴した。Koi SecurityのAIが生成したレポートが「幻覚（ハルシネーション）」を起こし、スタートアップを中国のスパイ活動と誤って結びつけたためだ。原告側は、虚偽の情報が事業に深刻な損害を与えたと主張している。
背景メモ
- **Koi Security (被告)**：Palo Alto Networks（サイバーセキュリティ大手）傘下の子会社。AIを用いた脅威インテリジェンスレポートを提供している。
- **提訴したスタートアップ（原告）**：AIに誤った情報を生成された（ハルシネーション）ため、中国のスパイ行為に加担していると虚偽の報告を受けたとして、Koi Securityを名誉毀損などで提訴。
- **背景**：Koi SecurityのAIが、同スタートアップに関する根拠のない情報を「事実」としてレポートに出力。このレポートがセキュリティ業界で拡散した結果、同社は取引先を失うなどの被害を受けたと主張。
- **争点**：AIが生成したハルシネーション（幻覚）を原因とする損害について、AI製品の提供者に法的責任が問われるかどうか。サイバーセキュリティ業界ではAI生成レポートの信頼性が以前から課題となっており、本件はその法的リスクを具体化する初のケースとして注目されている。