Promptetheus – AIエージェントの障害を追跡・検出・自動修復

- Promptetheusは、AIエージェント（自律的にタスクを実行するプログラム）の動作を監視し、失敗を検出・自動修復するオープンソースツール。GitHub上で公開中。 - AIエージェントは大規模言語モデル（LLM）を中核とし、従来のソフトウェアと違い「正しい挙動」を事前に厳密に定義しづらい。そのため、予期せぬ出力や無限ループ、誤ったツール使用などが起きやすい。 - 従来のデバッグ手法（ログ出力やブレークポイント）ではAIエージェントの「推論の迷走」や「指示からの逸脱」を捉えにくい。PromptetheusはLLM自身にログを分析させることで、こうした意味レベルの異常を検出する。 - アーキテクチャとしては、エージェントの各ステップをトレースし、異常があれば別のLLMが修復プロンプトを生成して注入する「オブザーバビリティ（可観測性）」＋「自己修復」のループを実装している。 - この分野ではLangChainやCrewAIなどのフレームワークが広く使われており、それらと比べてPromptetheusは特に「プロンプト（指示文）の品質低下」や「エージェントの迷子」に特化した修復機能を持つ点が特徴。