Show HN: Makoto – AIエージェントの主張が記録された行動と矛盾する場合にブロック
Makotoは、AIエージェントが自身の行動ログと矛盾する主張を行うことを検出・ブロックするオープンソースツールです。エージェントの行動を監査可能な形で記録し、後付けの言い訳や虚偽の報告を防ぎます。AIエージェントの透明性と説明責任を向上させるために設計されています。
背景メモ
AIエージェント（自律的にタスクを実行するソフトウェア）の説明可能性を高めるためのオープンソースツール。エージェントが「タスクを完了した」と主張しても、実際の操作ログと矛盾している場合、その不一致を検知・可視化する。特に、大規模言語モデル（LLM）を中核に据えたエージェントでは、ハルシネーション（幻覚）や誇張した自己報告が問題となっており、本ツールはその対策として動作ログの改ざん防止と矛盾チェックを提供する。Clear-Sightsが開発したPythonベースのライブラリで、現状は検証的リサーチ段階のプロジェクト。類似の課題に取り組む分野としてはAI安全性やエージェントの監査可能性がある。