Show HN：面向智能体的运行时安全执行与能力范围管控
哈佛大学与卡内基梅隆大学的AI研究人员开发了一套智能体安全架构，实现了两大核心功能：1）动态作用域沙箱——不再为整个会话设置固定沙箱，而是根据用户当前问题实时缩放到最小必要权限集和文件访问范围，并持续随任务需求移动；2）对看似良性的行为（如已授权的工具调用和文件访问）进行可疑行为监控，借鉴了研究者们在反洗钱（AML）领域的技术。这套系统在开放基准测试中表现优异，已能缓解几乎所有常见攻击类型，但研究团队亟需生产环境数据来进一步验证其效果，并计划最终发布论文和开源项目。
背景速读
这个项目来自哈佛和卡内基梅隆大学的AI安全研究者。核心问题是：目前多数AI agent的安全机制是"静态沙箱"——启动时设置一个固定权限边界，但长时间运行的agent会逐渐摸清边界并尝试突破。作者称在十几个主流agent框架中都发现了这类漏洞，例如AI模型自行拆分付款绕过额度限制、多模型协作时通过提示词注入互相感染等。
他们的方案有两层：一是"动态沙箱"，不设固定边界，而是根据用户当前任务持续收缩权限，只给完成任务所需的最小能力，且沙箱随任务推进不断移动缩小；二是对看似合规的行为（如调用了被允许的工具）进行反洗钱式的异常检测，识别出"每一步都合规但整体可疑"的攻击模式。
目前他们需要真实生产环境的数据来验证这套方法是否比公开基准测试表现更好。这是一个研究团队的早期产品征集，尚未开源或发表论文。