プロンプトインジェクション の用語ページの内容を、手を動かして定着させるためのチュートリアルです。手順どおりに進めると、定義を自分の言葉で説明できる状態まで到達できます。
「プロンプトインジェクション」が何を指すのか、最初の一文を自分の言葉で言い換えてみます。プロンプトインジェクションは、悪意のあるプロンプト(指示文)をLLMに入力することで、モデルの意図しない動作を引き起こしたり、機密情報を盗み出したりする攻撃です。— この一文を土台にすると外れません。
LLMは、与えられたプロンプトに基づいてテキストを生成するように設計されています。この節を読み、仕組みの該当部分をページで確認しましょう。
種類概要直接的プロンプトインジェクションLLMに直接的な指示を与えて動作を制御する手法。この節を読み、仕組みの該当部分をページで確認しましょう。
プロンプトインジェクションからLLMを保護するには、単一の対策ではなく多層的な備えが必要です。この節を読み、仕組みの該当部分をページで確認しましょう。
プロンプト集の型を使って「プロンプトインジェクション」を誰かに説明する文章を書いてみます。最後に「まとめ」(プ…)と突き合わせて不足を補います。