ガードレール（Guardrails）Guardrails　—　読み：がーどれーる

ガードレール（Guardrails）は、AIの入出力に設ける「越えてはいけない線」と、越えそうなときに止める仕組みの総称です。禁止語のフィルタだけを指す言葉ではなく、指示・確認・記録までを含む運用の設計を意味します。このページでは、定義・仕組み・出典・設計手順・プロンプト例・FAQ をまとめて解説します。

① 入力側のガードレール

最初に効くのは、そもそも入れてはいけない情報を入れない仕組みです。顧客の個人情報や社外秘の文書を貼り付けられないようにする、外部に送ってよい範囲をツールごとに決める、といった線引きがここにあたります。利用規約や社内規程と照らして「このツールにはこの種のデータを入れない」と一文で言える状態にしてから使い始めるのが基本です。

② 出力側のガードレール

次に、出てきた内容をそのまま外に出さない仕組みです。事実の裏取り、禁止表現の検査、数値の桁や単位の確認、引用元の有無の確認などが該当します。この段階はハルシネーション（もっともらしい誤り）を前提に設計します。「誤りはゼロにできない」という前提で、誤りが混ざったときにどこで止まるかを決めます。

③ 操作側のガードレール

AIに実行させる操作には、影響の大きさで段階を付けます。読み取りや下書きは自動で流し、送信・削除・上書き・支払いのように取り消しにくい操作の前には人の承認を挟みます。この考え方はHuman-in-the-Loopとして整理されており、承認・却下・追加情報の収集という形で実装されます。Zapier の実務記事でも、例外のときに人へ回す、金額の上限を超えたら担当部署へ渡す、といった形で具体的に紹介されています。

④ 記録と見直し

どの入力が、どの判断で止まり、誰が承認したのかを残します。記録がないと、ルールを緩めてよいかの判断ができません。逆に、止まった理由が記録されていれば、「この条件は自動で通してよい」と段階的に広げられます。ガードレールは最初から完成させるものではなく、記録を見ながら締めたり緩めたりする運用の一部です。プロンプトインジェクションのような攻撃への備えも、この見直しのなかで追加していきます。

ガードレールという言葉は、もともと道路の脱輪防止設備を指します。AIの文脈では、モデルの出力を安全な範囲に保つ仕組みを指す語として研究・実装の両面で使われるようになりました。現在は、モデル側の安全訓練だけでなく、アプリケーション側で入力検査・出力検査・人の承認を組み合わせる考え方が主流です。Zapier は業務自動化における人の承認パターンを、承認フロー・確信度による振り分け・エスカレーション・フィードバック・監査ログの5種類に整理して公開しています。Learn Prompting も、モデルの限界として幻覚・バイアス・プロンプト攻撃を挙げ、対策を前提に使うことを勧めています。

• Zapier「Human-in-the-loop in AI workflows」
• Learn Prompting「LLM Limitations」
• OpenAI Academy（公式・仕事でのAI利用）

• 安全性
• 人間参加型（HITL）
• プロンプトインジェクション
• レッドチーミング
• ハルシネーション（AI 幻覚）
• AIガバナンス
• プロンプト防御
• AIのトキシシティ（有毒性）
• チュートリアル：AIの出力にガードレールを敷く →

用語同士は相互リンクされています。未掲載の用語は用語一覧の該当項目へリンクします。

実務でそのまま使えるプロンプト例です。コピーして〔　〕内を置き換えてください。同じカードはプロンプト集にも掲載されています。

これからAIに任せたい業務を1つ選びます。次の観点で、人を挟むべき箇所を挙げてください。
・取り消せない操作はどれか
・外部に送られる情報はどれか
・誤ると誰に影響するか
出力は表（工程／人を挟む理由／承認者／承認の形）にしてください。
人を挟まなくてよい工程も、その理由を1行で添えてください。

業務：（ここに書く）

次の用途でAIの出力を確認するためのチェックリストを作ってください。
用途：（ここに書く）
観点は「事実」「数値・単位」「表現」「引用の有無」「個人情報」の5つとし、
それぞれについて「何を見るか」「よくある崩れ方」「見つけたときの扱い」を1行ずつ書いてください。
最後に、チェックにかける時間の目安も添えてください。

AIが下書きした返信を、人が承認する運用を想定します。
「承認」「修正して承認」「却下」の3つの場合について、
それぞれ誰が何をして、どこに記録するかを手順として書いてください。
あわせて、却下が続いたときにルールを見直す条件も1つ提案してください。

• Zapier「Human-in-the-loop in AI workflows: Meaning and patterns」
• Learn Prompting「LLM Limitations」
• OpenAI Academy（公式サイト）

定義・出典の記述は一次資料に基づきます。リンク先の内容は公開時点のものです。

ガードレールは、AIの入出力と操作に引く線と、越えそうなときに止める仕組みです。入力の制限、出力の検査、操作の承認、記録と見直しの4層で設計します。禁止事項を増やすことより、止まったときにどう戻すかを決めておくことが重要です。記録が溜まったら、通してよい条件を少しずつ広げていきます。

• 入れる情報・出す内容・実行する操作の3か所に線を引く
• 取り消せない操作の前には人の承認を置く
• 止まった理由と承認者を記録し、見直しの材料にする