OWASP Top 10 for LLM
OWASP Top 10 for LLMとは、 大規模言語モデル（LLM）を使用するアプリケーションにおけるセキュリティリスクをまとめたもの です。本記事では、その背景、LLM特有のリスク、対策の考え方を整理します。
導入Introduction
OWASP Top 10 for LLMとは、 大規模言語モデル（LLM）を使用するアプリケーションにおけるセキュリティリスクをまとめたもの です。本記事では、その背景、LLM特有のリスク、対策の考え方を整理します。
用語の定義Definition
OWASP Top 10 for LLMとは、 大規模言語モデル（LLM）を使用するアプリケーションにおけるセキュリティリスクをまとめたもの です。本記事では、その背景、LLM特有のリスク、対策の考え方を整理します。
OWASP（Open Web Application Security Project）とは、Webアプリケーションのセキュリティに関する情報を提供する非営利団体で、定期的にWebアプリケーションのセキュリティリスクTop10を発表しています。LLMの普及に伴い、LLMを使用するアプリケーション特有のセキュリティリスクが顕在化してきたため、OWASPはLLM版のセキュリティリスクTop10を公開しました。
従来のWebセキュリティの知見を土台にしつつ、LLMならではの観点を加えた点が特徴です。
出典：my-best.ai 用語辞典「OWASP Top 10 for LLM」（https://my-best.ai/ai-dictionary/owasp-top-10-for-llm/）
仕組み・原理How it works
なぜLLM特有のリスクが生じるのか
LLMを使用するアプリケーションは、従来のWebアプリケーションとは異なる特性をもつため、新たなセキュリティリスクが発生します。例えば、LLMはユーザーからの入力を基にテキストを生成するため、悪意のある入力によって意図しない動作を引き起こされる可能性があります。また、LLMが学習データに含まれる機密情報を漏洩するリスクも存在します。
入力がそのまま振る舞いを左右する点は、プロンプトインジェクションが通常の入力欄と大きく異なる部分です。
リスクの性質を整理する
| 発生源 | リスクの例 | 着眼点 |
|---|---|---|
| 入力 | 悪意のある入力による意図しない動作 | 入力を信用せず、指示と外部データを区別する |
| 学習・参照データ | 機密情報の漏洩 | 扱う情報の範囲と保管方法を管理する |
| 出力 | 不適切・不正確な内容の提示 | 出力をそのまま信用せず、確認や制限を設ける |
OWASP Top 10 for LLMは、これらのリスクを理解し、適切な対策を講じるためのガイドラインを提供します。LLMアプリケーションのセキュリティリスクを網羅的に理解し、対策を講じるための出発点となります。
対策の基本方針
- 入力を検証し、外部から取り込むテキストを指示として扱わない
- 機密情報を学習や外部送信の対象にしない設計にする
- 出力を検証し、重要な操作は人が確認する
- 公開前に攻撃を想定した検証を行う
攻撃を想定した検証はレッドチーミング、外部からの入力を無害化する考え方はプロンプト防御の項目で扱っています。
よくある誤解
誤解：従来のWebセキュリティ対策で十分である
実際は：LLMは入力が振る舞いに直結し、学習データの漏洩も起こり得ます。通常のWeb対策に加えてLLM特有の観点が必要です。
誤解：一度対策すれば安心できる
実際は：対策は一度で完了するものではなく継続が必要です。リスクの内容は変化するため、定期的な見直しが前提になります。
新しい機能が追加されれば、想定すべきリスクも変わります。リリースのたびに観点を見直す運用があると、抜け漏れを減らせます。
誤解：社内利用なら対策は不要である
実際は：内部の利用でも、扱う情報の漏洩や意図しない動作のリスクは残ります。利用範囲にかかわらず基本方針を定めることが重要です。
FAQ（よくある質問）
Q. 対象となるのはどんなアプリですか？
A. LLMを組み込んだチャットボットや要約・検索機能など、LLMの出力を利用者に返すアプリケーション全般が対象になります。
Q. まず何から始めればよいですか？
A. 「LLMに渡す情報」と「LLMから受け取る出力」の2点を洗い出すことから始めると、対策の優先順位が付けやすくなります。関連する考え方は安全性も参考になります。
Q. ガイドラインを読むだけで安全になりますか？
A. 読むだけでは不十分です。自社のアプリに当てはめて確認し、対策を実装してはじめて効果が出ます。
対策は一度にすべてを導入する必要はありません。影響の大きい箇所から順に対応し、運用しながら不足を補っていく進め方が現実的です。
原始出處Origin
本項の定義・解説は、my-best.ai 用語辞典の同項目記事（編集部執筆）を底本に再構成したものです。初出時期や命名者について確立した一次資料が本文中に明記されていない場合は、推測での記載を見送っています。
応用シーンUse cases
基礎の理解
OWASP Top 10 for LLM の定義と位置づけを押さえ、AI 関連の資料や記事を正確に読み解く土台にします。
情報の照合
ニュースや製品紹介で OWASP Top 10 for LLM に触れたとき、本ページの定義と突き合わせて過不足なく理解できます。
導入・検討の第一歩
関連するチュートリアルで手を動かしながら、自社の業務への適用可否を検討できます。
メリット・デメリットPros & Cons
メリット
- 例えば、LLMはユーザーからの入力を基にテキストを生成するため、悪意のある入力によって意図しない動作を引き起こされる可能性があります
- 誤解：一度対策すれば安心できる実際は：対策は一度で完了するものではなく継続が必要です
デメリット・注意点
- OWASP（OpenWebApplicationSecurityProject）とは、Webアプリケーションのセキュリティに関する情報を提供する非営利団体で、定期的にWebアプリケーションのセキュリティリスクTop10を発表しています
- LLMの普及に伴い、LLMを使用するアプリケーション特有のセキュリティリスクが顕在化してきたため、OWASPはLLM版のセキュリティリスクTop10を公開しました
- LLMを使用するアプリケーションは、従来のWebアプリケーションとは異なる特性をもつため、新たなセキュリティリスクが発生します
よくある誤解Misconceptions
関連用語Related terms
用語同士は相互リンクされています。
プロンプト集Prompt collection
理解を定着させるためのプロンプト例です。コピーして〔 〕内を置き換えてご利用ください。
理解を深める質問
前提知識なしで概念を掴む
あなたは AI 教育の講師です。「OWASP Top 10 for LLM」を、AI に詳しくない日本の社会人にも分かるように説明してください。専門用語を使った場合は、その直後に噛み砕いた言い換えを添えてください。最後に要点を 3 行でまとめてください。
整理・比較
関連用語との違いを表で整理する
「OWASP Top 10 for LLM」について、①定義 ②仕組み ③代表的な活用例 ④よくある誤解 を見出し付きで整理してください。同じ分野の類似用語があれば、その違いを表形式で示してください。
実務への検討
自社業務への適用を検討する
「OWASP Top 10 for LLM」を〔業種・業務〕で活用する場合に期待できる効果と注意点を、それぞれ 3 つずつ提案してください。判断の前提条件や、確認すべき事実があれば明示してください。
FAQ（よくある質問）FAQ
OWASP Top 10 for LLMとは、一言でいうと何ですか？
OWASP Top 10 for LLMのポイントはどこですか？
OWASP Top 10 for LLMを扱うときの注意点は？
出典・参考文献References
定義の記述は my-best.ai 用語辞典（編集部執筆）に基づきます。リンク先の内容は公開時点のものです。
まとめSummary
OWASPTop10forLLMとは、大規模言語モデル（LLM）を使用するアプリケーションにおけるセキュリティリスクをまとめたものです。
- まず「OWASP Top 10 for LLM」の定義を自分の言葉で言い換えられるようにする
- 関連用語との違いを「関連用語」セクションから確認する
- プロンプト集の型を使って、理解した内容をアウトプットで確認する