OWASP Top 10 for LLM の用語ページの内容を、手を動かして定着させるためのチュートリアルです。手順どおりに進めると、定義を自分の言葉で説明できる状態まで到達できます。
「OWASP Top 10 for LLM」が何を指すのか、最初の一文を自分の言葉で言い換えてみます。OWASP(OpenWebApplicationSecurityProject)とは、Webアプリケーションのセキュリティに関する情報を提供する非営利団体で、定期的にWebアプリケーションのセキュリティリスクTop10を発表しています。— この一文を土台にすると外れません。
LLMを使用するアプリケーションは、従来のWebアプリケーションとは異なる特性をもつため、新たなセキュリティリスクが発生します。この節を読み、仕組みの該当部分をページで確認しましょう。
発生源リスクの例着眼点入力悪意のある入力による意図しない動作入力を信用せず、指示と外部データを区別する学習・参照データ機密情報の漏洩扱う情報の範囲と保管方法を管理する出力不適切・不正確な内容の提示出力をそのまま信用せず、確認や制限を設けるOWASPTop10forLLMは、これらのリスクを理解し、適切な対策を講じるためのガイドラインを提供します。この節を読み、仕組みの該当部分をページで確認しましょう。
入力を検証し、外部から取り込むテキストを指示として扱わない機密情報を学習や外部送信の対象にしない設計にする出力を検証し、重要な操作は人が確認する公開前に攻撃を想定した検証を行う攻撃を想定した検証はレッドチーミング、外部からの入力を無害化する考え方はプロンプト防御の項目で扱っています。この節を読み、仕組みの該当部分をページで確認しましょう。
プロンプト集の型を使って「OWASP Top 10 for LLM」を誰かに説明する文章を書いてみます。最後に「まとめ」(O…)と突き合わせて不足を補います。