Ask HN: LLM输出注入攻击会产生什么影响？
讨论LLM推理层被入侵的风险，攻击者可能注入命令让AI代理/工具执行。大量非专业用户让LLM决定在电脑上运行什么命令，虽然有些工具提供沙箱保护，但许多用户直接使用Codex或Claude Code等工具，甚至跳过权限检查。攻击一旦成功会带来什么后果？当前有哪些防护措施？
讨论LLM推理层被入侵的风险，攻击者可能注入命令让AI代理/工具执行。大量非专业用户让LLM决定在电脑上运行什么命令，虽然有些工具提供沙箱保护，但许多用户直接使用Codex或Claude Code等工具，甚至跳过权限检查。攻击一旦成功会带来什么后果？当前有哪些防护措施？