OWASP Top 10 for LLM

OWASP Top 10 for LLMとは、大規模言語モデル（LLM）を使用するアプリケーションにおけるセキュリティリスクをまとめたものです。本記事では、その背景、LLM特有のリスク、対策の考え方を整理します。

OWASP Top 10 for LLMとは（意味・定義）

OWASP（Open Web Application Security Project）とは、Webアプリケーションのセキュリティに関する情報を提供する非営利団体で、定期的にWebアプリケーションのセキュリティリスクTop10を発表しています。LLMの普及に伴い、LLMを使用するアプリケーション特有のセキュリティリスクが顕在化してきたため、OWASPはLLM版のセキュリティリスクTop10を公開しました。

従来のWebセキュリティの知見を土台にしつつ、LLMならではの観点を加えた点が特徴です。

なぜLLM特有のリスクが生じるのか

LLMを使用するアプリケーションは、従来のWebアプリケーションとは異なる特性をもつため、新たなセキュリティリスクが発生します。例えば、LLMはユーザーからの入力を基にテキストを生成するため、悪意のある入力によって意図しない動作を引き起こされる可能性があります。また、LLMが学習データに含まれる機密情報を漏洩するリスクも存在します。

入力がそのまま振る舞いを左右する点は、プロンプトインジェクションが通常の入力欄と大きく異なる部分です。

リスクの性質を整理する

OWASP Top 10 for LLMは、これらのリスクを理解し、適切な対策を講じるためのガイドラインを提供します。LLMアプリケーションのセキュリティリスクを網羅的に理解し、対策を講じるための出発点となります。

対策の基本方針

• 入力を検証し、外部から取り込むテキストを指示として扱わない
• 機密情報を学習や外部送信の対象にしない設計にする
• 出力を検証し、重要な操作は人が確認する
• 公開前に攻撃を想定した検証を行う

攻撃を想定した検証はレッドチーミング、外部からの入力を無害化する考え方はプロンプト防御の項目で扱っています。

よくある誤解

誤解：従来のWebセキュリティ対策で十分である

実際は：LLMは入力が振る舞いに直結し、学習データの漏洩も起こり得ます。通常のWeb対策に加えてLLM特有の観点が必要です。

誤解：一度対策すれば安心できる

実際は：対策は一度で完了するものではなく継続が必要です。リスクの内容は変化するため、定期的な見直しが前提になります。

新しい機能が追加されれば、想定すべきリスクも変わります。リリースのたびに観点を見直す運用があると、抜け漏れを減らせます。

誤解：社内利用なら対策は不要である

実際は：内部の利用でも、扱う情報の漏洩や意図しない動作のリスクは残ります。利用範囲にかかわらず基本方針を定めることが重要です。

FAQ（よくある質問）

Q. 対象となるのはどんなアプリですか？

A. LLMを組み込んだチャットボットや要約・検索機能など、LLMの出力を利用者に返すアプリケーション全般が対象になります。

Q. まず何から始めればよいですか？

A. 「LLMに渡す情報」と「LLMから受け取る出力」の2点を洗い出すことから始めると、対策の優先順位が付けやすくなります。関連する考え方は安全性も参考になります。

Q. ガイドラインを読むだけで安全になりますか？

A. 読むだけでは不十分です。自社のアプリに当てはめて確認し、対策を実装してはじめて効果が出ます。

対策は一度にすべてを導入する必要はありません。影響の大きい箇所から順に対応し、運用しながら不足を補っていく進め方が現実的です。

関連用語

• LLM（大規模言語モデル） — 本ガイドラインが対象とする技術
• プロンプトインジェクション — LLM特有の代表的な攻撃手法
• プロンプト防御 — 攻撃に備えるための防御の考え方

用語の一覧はAI用語辞典トップからたどれます。実際のツール比較はAIツール一覧をご覧ください。

参考出典

• Salesforce「AI用語虎の巻」: salesforce.com
• SHIFT「AI用語集」: service.shiftinc.jp