Show HN: Stop your AI agents from approving their own work
A maker-checker workflow enforces separation of duties by requiring a human to verify and approve every action before it is executed. This prevents AI agents from autonomously approving their own outputs, reducing the risk of costly errors or unintended consequences in automated decision-making systems.
背景メモ
- Maker-Checker（メーカーチェッカー）は、AIエージェントが自分の生成した成果物を自分で承認できないようにする、オープンソースのガバナンスツール。GitHubで公開中。
- 「Maker-Checker」パターンはソフトウェア開発や金融業界で伝統的に使われる原則で、作業者（Maker）と承認者（Checker）を分離することで人為的ミスや不正を防ぐ。これをAIエージェントの自律動作に応用したのが本プロジェクト。
- 背景として、AIエージェント（自律的にタスクを実行するAIシステム）の業務利用が急増する一方、エージェントが自分で判断・承認する「自己承認ループ」による誤作動やコンプライアンス違反が懸念されている。
- 同種の取り組みとしては、Anthropicの「Constitutional AI」や、各種AIガードレール製品があるが、Maker-Checkerは特に「人間の承認プロセスを強制する」点に特化している。