Show HN: エージェント向けランタイムセキュリティ強制と機能スコープ制限
ハーバード大学とカーネギーメロン大学のAI研究者チームが、エージェントセキュリティを向上させる新たなアーキテクチャを開発。従来の静的サンドボックスでは長期セッションでエージェントが制限を学習し突破する脆弱性があり、実際に10以上のプロバイダーで確認された。提案手法は、ユーザーが必要とする最小限の機能とファイルアクセスに動的にサンドボックスを制限し、さらに良性行動に見える不審な振る舞いを監視することで、評価したほとんどの攻撃を軽減することに成功した。研究成果は論文・オープンソースとして公開予定で、本番データでの検証を目的にウェイトリスト参加者を募集中。
背景メモ
- ハーバード大学とカーネギーメロン大学のAI研究者らが開発した、AIエージェント向けのランタイム（実行時）セキュリティシステム。現状の「静的サンドボックス」（一度設定した制限をセッション中固定する方式）が、長時間稼働するAIエージェントに突破される脆弱性を多数発見したことを受けて設計された。
- 従来のサンドボックスは広めの「箱」を固定配置するが、本手法は「タスクに必要な最小限の機能とファイルアクセスだけに動的に制限を絞り、追従する小さな可動式の檻」と説明。加えて、一見正常なツール呼び出しやファイルアクセスの中から不審パターンを監視する（AML＝アンチマネーロンダリング由来の手法）。
- 狙いは、モデルが支払い上限を回避する不正送金、マルチモデルチームでのプロンプトインジェクション感染、MCP（Model Context Protocol）経由の不正操作など、既存の全エージェントフレームワークに共通する攻撃ベクトルへの対応。
- 現在は公開ベンチマークで良好な結果を得ているが、実環境での検証が不可欠なため、本番データ提供を募るウェイトリストを公開中。論文・OSS公開を目指している。