AIエージェントの承認設計パターン集——どこに人間の関所を置くか

2026年8月11日 ｜松本和也

AIエージェントに業務を任せるとき、いちばん重要な設計は「AIに何をさせるか」ではなく、人間の承認をどこにどう組み込むかです。承認が重すぎれば手作業に戻り、軽すぎれば事故が起きる。この記事では、実務で使える承認設計のパターンを整理します。

前提となる考え方——AIの出力は確率的であり、取り消せない操作の手前に人間の判断を置く——は、AIの出力は確率的とヒューマンインザループとはを先に読むと分かりやすいです。

大原則:関所は「取り消せない操作」の直前に置く

承認ポイント（関所）を増やしすぎると、AIを導入した意味がなくなります。関所を置くべき場所は原則1つ、取り消せない操作の直前です。

• メール送信・チャット投稿（相手に届いたら取り消せない）
• 公開・リリース（世に出たら取り消せない）
• 契約・請求・支払いの確定
• データの削除・上書き

逆に、AIの調査・下書き・分類のようなやり直しの効く工程には、原則として関所を置きません。間違っていたら直させればよいからです。

パターン1:事前承認（承認するまで実行されない）

最も基本の形。AIが成果物を作り、人間が承認して初めて次の工程（送信・公開）へ進みます。

AIが下書き → 人間が承認 → プログラムが送信

• 使いどころ:取り消せない操作を含むほぼすべての業務の初期形
• 設計のコツ:承認者には成果物だけでなく判断材料（元の問い合わせ、参照したデータ)もセットで届ける。判断が数秒で済む形に整えるほど、承認は形骸化せず回り続ける

パターン2:対話推敲（承認の前に「直させる」）

事前承認の発展形。人間は承認/却下の二択ではなく、AIと対話しながら成果物を磨いてから確定します。

AIが下書き → 人間が「ここを丁寧に」「この段落は削って」と指示 → AIが修正 →（納得したら)承認 → 送信

• 使いどころ:文面の品質が成果を左右する業務（顧客対応・提案書・推薦文）
• ポイント:「承認」と「修正」は別の操作として設計する。一発でOKを出せることは少なく、実務の承認は磨きながら確定する行為

パターン3:差し戻し（前の工程からやり直させる）

細かい修正では済まず、前提から違う場合は、AIの工程まで戻してやり直させます。

AIが調査・下書き → 人間が確認 → 「そもそも調査が足りない」→ AIの工程へ差し戻し（指示付き）

• 使いどころ:調査・分析を含む業務。修正（その場で直す）と差し戻し（やり直させる）を区別すると、フローが混乱しない
• ポイント:差し戻しは失敗ではなく正常な流れの一部。差し戻し時の指示がAIへの追加入力になる設計にする

パターン4:機械のガードレール（人間の前に機械的チェック）

人間の関所の手前に、決定論的なチェックを置くパターン。禁止語・宛先の妥当性・フォーマット・自動テストなど、機械的に判定できる基準はプログラムに任せ、違反したらAIに自動で突き返します。

AIが下書き → 機械チェック（NG なら AI へ自動差し戻し）→ 通過したものだけ人間へ → 承認 → 送信

• 使いどころ:明確なルールが存在する業務。人間の関所に「機械で弾けるレベルの不備」が届かなくなり、人間は価値判断に集中できる
• ポイント:止め方を2層にする——危険な一線は機械が確実に、価値判断は人間が

パターン5:複数人承認・担当ルール

承認者を誰にするかも設計の一部です。

• 単独承認:担当者1人が確認。速い。大半の業務はこれで十分
• 複数人承認（AND）:全員の承認で確定。金額の大きい確定操作など
• いずれか承認（OR)・持ち回り:チームの誰かが確認すればよい。承認待ちの滞留を防ぐ
• 実行者承認:その業務を起動した本人が承認する。文脈を一番知っている人に判断が戻る

パターン6:事後通知(実行後に知らせる)——慎重に

承認を挟まず実行し、結果を人間に通知するパターンです。取り消せる操作（下書きの保存・社内向けの集計)や、間違っても実害の小さい操作に限って使えます。

注意したいのは、「AIの精度が上がってきたから承認を外す」判断を焦らないことです。精度が高いことと、間違いが起きたときに止められることは別問題です。取り消せない操作から関所を外すのは、十分な運用実績が溜まり、間違いのパターンが把握できてからにすべきです。

パターンの組み合わせ:実務のフローはこうなる

実際の業務では、これらを組み合わせます。たとえば顧客への返信業務なら:

問い合わせ受信
→ AIが調査して返信を下書き
→ 機械チェック（禁止語・宛先）        …パターン4
→ 担当者が確認                      …パターン1
   ├ 文面を対話で修正               …パターン2
   ├ 調査からやり直し（差し戻し）    …パターン3
   └ 承認
→ プログラムが送信（決定論的に実行）

人間が登場するのは1箇所だけ、しかし取り消せない操作は必ずその1箇所を通る——これが承認設計の目指す形です。

まとめ

• 関所は「取り消せない操作の直前」に絞って置く
• 承認は二択ではない。対話推敲・差し戻しまで含めて設計する
• 機械で弾けるものはガードレールに任せ、人間は価値判断に集中する
• 承認を外す（事後通知にする）判断は、運用実績が溜まってから慎重に

このブログは、AIと人の共創による業務自動化基盤 mawaru.ai（開発中）のチームが、開発の過程で考えていることを書いています。