AIエージェントに渡す道具を設計する5ステップ

AIエージェントは、検索や送信といった外部の操作を自分で選んで実行できる仕組みです。便利な反面、渡す道具を広げすぎると事故の切り分けが難しくなります。本記事では、OpenAI Academy が示すエージェント活用の考え方と、DeepLearning.AI が公開しているエージェント関連コースの構成を参考に、道具の設計手順を5つに整理します。

道具を渡すとはどういうことか

エージェントに道具を渡すとは、呼び出せる機能の一覧と、その使い方を伝えることです。この仕組みは一般に関数呼び出し（function calling）と呼ばれます。道具が増えるほどできることは広がりますが、どこで何が起きたかを追う負担も増えます。

手順1：任せたい業務を動詞で書き出す

「経理を任せる」ではなく「請求書のPDFから金額を読み取り、一覧表に1行足す」のように、動詞で終わる形にします。名詞だけの業務名では、どの操作が必要かを判断できません。1つの業務を3〜5個の操作に分けるのが目安です。

手順2：操作を「読む」「書く」「送る」で分ける

一覧にした操作を3種類に分類します。読むだけの操作は失敗しても影響が小さく、書き込みは取り消しが難しく、送信は相手に届いてしまうため取り消せません。この分類が、次に決める権限の強さの根拠になります。

手順3：取り消せない操作に人を挟む

書き込みと送信の操作には、実行前に人の確認を入れるか、実行後に通知を出すかを決めます。低い確信度や金額の上限を超えたときだけ人へ渡す設計にすると、日々の自動化を止めずに例外だけを拾えます。承認した内容と却下した理由は記録に残します。

手順4：道具の説明文を短く具体的に書く

エージェントは、渡された説明文を読んで道具を選びます。何をする機能か、いつ使うか、使ってはいけない条件を1つの説明に収めます。似た名前の道具を並べると選び間違えが増えるため、役割が重なるものは統合します。MCP のような接続の共通規格を使うと、道具の追加や入れ替えがしやすくなります。

手順5：実行記録を残し、週に一度見直す

どの道具がいつ呼ばれ、何を返したかを記録します。記録がないと、誤りが起きたときに原因を追えません。見直しでは「使われていない道具」「よく失敗する道具」の2点を確認し、必要なら権限を絞ります。

操作の種類と扱いの目安

操作の種類	影響	扱いの目安
読む（検索・参照）	小さい	自動実行してよい
書く（登録・更新）	中〜大	事前承認か事後通知を入れる
送る（メール・投稿）	大きい	必ず人が内容を確認してから実行する

よくあるつまずき

権限を一度に広げてしまうことが最大の落とし穴です。最初は参照だけを許可し、実行記録を見て誤りが少ないと確認できてから書き込みを許可する順序が安全です。また、失敗したときに黙って再試行を繰り返す設定は、同じ誤りを量産することがあります。上限回数を決めて、超えたら人へ渡すようにします。

よくある質問（FAQ）

Q. 小さなチームでもエージェントを導入すべきですか？

A. 効果が出やすいのは、同じ手順を繰り返す作業が多く、かつ確認の手間をかけられる場合です。まずは読み取りだけの操作から始め、人の負担が減ったかを1か月ほど測ってから範囲を広げるのが現実的です。

Q. 誤操作を完全に防ぐことはできますか？

A. 完全に防ぐことは難しいのが前提です。そのため、取り消せる形で実行する、影響の大きい操作は人に渡す、記録を残す、の3点を組み合わせて被害を小さく抑える設計にします。

Q. 承認の回数を減らすにはどうすればよいですか？

A. 承認した記録を見て、同じ判断が続いている操作を探します。条件がはっきりしている操作は自動実行に移し、判断が割れている操作だけを人の確認に残すと、負担を減らしつつ統制を保てます。

前提となる指示の書き方は出力形式を決める5ステップで扱っています。AIの用語を一から確認したい場合ははじめての LLM 活用（チュートリアル）、ほかの実務手順はガイド一覧から探せます。

編集部の見解

エージェント設計の巧拙は、道具の数より「取り消せるかどうか」で決まります。当編集部では、任せる範囲を広げる前に、元に戻す手順を先に決めておくことをすすめています。戻し方が決まっていれば、失敗を恐れずに小さく試せます。

my-best.ai 編集部

出典：OpenAI Academy（Apply AI at Work）、DeepLearning.AI「Courses」（いずれも要約して紹介しています）