AIエージェントに任せる範囲の決め方：承認設計6ステップ

AIエージェントは、指示された目的に対して手順を自分で組み立てて実行します。便利な一方で、取り返しのつかない操作を任せると被害が大きくなります。本記事では、Zapierが公開しているヒューマン・イン・ザ・ループ（HITL）の解説を参考に、任せる範囲と承認の位置を決める手順を6つに整理します。

「任せるか任せないか」ではなく「どこで止めるか」

導入の議論では、自動化するかしないかの二択になりがちです。しかし実際には、実行の途中に人の確認を挟む設計が現実的です。すべてを人が確認すれば効果は出ず、まったく確認しなければ事故が起きます。重要なのは、確認を挟む位置を決めることです。

Zapierの解説では、承認、信頼度による振り分け、エスカレーション、フィードバック、記録の5つのパターンが紹介されています。ここでは、これらを自社の業務に当てはめる順番として整理します。

手順1：任せたい作業を1つ選ぶ

まず対象を1つに絞ります。問い合わせの分類、見積書の転記、定例レポートの作成などです。複数を同時に始めると、どの作業で問題が起きたのか分からなくなります。

手順2：操作を「読む」と「変える」に分ける

その作業に含まれる操作を、情報を読むだけのものと、データを書き換えるものに分けます。読む操作は比較的安全で、書き換える操作は影響が残ります。この区分が、承認を挟む位置を決める土台になります。

手順3：取り返しがつかない操作を特定する

顧客情報の上書き、削除、外部への送信、金額の確定など、後から戻せない操作を洗い出します。ここには必ず人の承認を挟みます。判断に迷う場合は、承認を挟む側に倒しておき、運用が安定してから外すほうが安全です。

手順4：判断が割れる条件を決める

内容の分類に迷う場合や、金額が一定の範囲を超える場合など、人が確認すべき条件を具体的に書きます。「自信がないとき」のような表現ではなく、金額・件数・キーワードなど、機械が判定できる条件にします。

手順5：確認の方法と期限を決める

承認を依頼する先、通知の方法、返答がない場合の扱いを決めます。返答がなければ処理を止めるのか、期限を過ぎたら保留にするのかをあらかじめ決めておかないと、業務が止まります。確認を依頼する相手が休みの場合の代替も決めておきます。

手順6：実行の記録を残す

誰が、いつ、何を承認し、何が実行されたかを残します。すべての実行に承認を挟む必要はありません。記録だけを残す運用にすれば、速度を落とさずに後から検証できます。見直しの時期もあわせて決めておきます。

承認を挟む位置の目安

操作の種類	承認の扱い	理由
情報の読み取り	承認なし（記録のみ）	失敗しても元に戻せる
社内データの追記	条件付きで承認	重複登録や誤登録の影響が残る
既存データの上書き・削除	必ず承認	後から復元できない
外部への送信・公開	必ず承認	取り消せず、対外的な影響がある

実行の記録は、連携サービスの実行履歴で確認できます。Zapier や n8n のように実行ログを確認できる道具を選ぶと、後から検証しやすくなります。任せる範囲そのものの考え方はAIエージェントのページ、作業の選び方から始めたい場合は定型業務の棚卸しの手順が参考になります。

よくある質問（FAQ）

Q. 承認を挟むと自動化の意味がなくなりませんか？

A. すべての操作に挟むと効果は小さくなります。読み取りは自動のまま、書き換えだけ承認する設計にすると、確認の回数を抑えつつリスクを下げられます。まずは承認を多めに置き、運用が安定したら外していく進め方が安全です。

Q. 誰が承認するかを決めるコツはありますか？

A. その操作の結果に責任を持つ人を承認者にします。担当者が複数いる場合は、判断が割れたときの基準を短い文書にしておくと、承認のばらつきを抑えられます。

Q. AIの自信の度合いは当てにできますか？

A. 数値として示される場合もありますが、その値が実際の正しさと一致するとは限りません。しきい値は目安として使い、評価用のデータで実際の精度を確認してから調整することをおすすめします。

編集部の見解

エージェントの導入で失敗しやすいのは、任せる範囲を広げすぎたときです。当編集部では、最初は「読むだけ」に限定し、書き込みは1操作ずつ追加することをすすめています。あわせて、承認の記録を残す設計にしておくと、後から見直すときの材料になります。速度と安全は対立するものではなく、確認を挟む位置を工夫することで両立できます。

my-best.ai 編集部

出典：Zapier Blog「Human-in-the-loop in AI workflows」（要約して紹介しています）