言語モデルは、分からないことを分からないと言わずに、それらしい答えを作ります。Learn Prompting は、この挙動を含めて6つの限界を整理し、それぞれへの手当てを示しています。限界を知ったうえで依頼文を書くと、あとから直す回数が減ります。
手順1：事実が要る箇所に印を付ける
依頼文のなかで、事実の確認が必要な箇所を先に決めます。日付、人名、数字、引用の4つです。この4つを含む出力は、必ず一次情報を開いて確認します。記事は、モデルが知らない事項でも自信ありげに作る点を最初の限界として挙げています。確認の対象を先に決めておくと、読み終えてから探す手間が減ります。
手順2：計算と多段の推論は道具に渡す
四則演算や、条件が3つ以上重なる推論は、モデルに任せきりにしません。記事は、複数段の計算や問題で誤りが起きやすいと説明しています。表計算の式や、計算専用の道具に渡す形にすると、途中の誤りが減ります。モデルには、計算の手順を組み立てさせ、実行は道具に任せる分担が現実的です。
手順3：前提は毎回書く
会話が続いているように見えても、別の画面を開けば前提は消えます。記事も、長期の記憶を持たない点を限界として挙げています。用語の定義、前提の数値、避けたい書き方は、依頼文の側に毎回入れます。長くなりすぎる場合は、前提を別の文書にまとめ、それを参照させる形にします。
手順4：学習以降の情報は自分で渡す
モデルが学習した時点より後の出来事は、渡さない限り反映されません。記事も、学習データ以降の情報は持たないと説明しています。最新の状況が必要な依頼では、一次情報を自分で取り、本文に貼ってから要約や整理を頼みます。ここを省略すると、古い情報を現在のものとして扱います。仕組みの全体はLLMのページにまとめています。
手順5：公開前に人とフィルタを通す
記事は、学習データに含まれる偏りが出力に反映される点と、指示を細工して望まない出力を引き出す手口がある点を挙げています。外部に出る文章は、人が読み、公開前のフィルタを通します。偏りの確認は、属性に関する記述が不必要に入っていないかを見る形で足ります。手口への備えはプロンプトインジェクションのページで整理しています。
FAQ
Q. 6つの限界は、モデルが変われば解消しますか？
A. 一部は和らぎますが、全部が消えるとは限りません。記事も、限界への手当てとして、出力の確認、道具との組み合わせ、安全フィルタの3つを挙げています。モデルを替えても、この3つは残ります。
Q. 「分からないと言わせる」にはどう書きますか？
A. 「根拠が示せない場合は、分からないと書いてください」と明示します。あわせて、根拠を出力させると、確認の対象がはっきりします。指示がない場合、モデルは空欄を埋めようとします。
出典
出典：Learn Prompting「LLM の限界：偏り・ハルシネーションなど」（原題 Limitations of LLMs: Bias, Hallucinations, and More、Sander Schulhoff、2025年3月6日更新、2026年10月28日参照）
あわせて使いたいツール
本記事の手順を実際に回すときに、候補になるツールを挙げます。いずれも無料から試せる範囲があり、料金や機能は各サービスの公式情報で確認してください。
関連ガイド
同じ時期に公開した実務ガイドと、用語の定義ページです。手順の前提が分からない場合は、用語ページから確認してください。コピーして使える依頼文が欲しいときは、プロンプト集も参照してください。
- 定例の進捗報告をデータから起こす：差分だけ渡す5手順
- 議事録からアクション項目を抜く：担当と期限を埋める5手順
- Tree of Thoughts（思考の木）（用語辞典）
- AI用語辞典（五十音順の一覧）
- はじめての LLM 活用（学習ルート）
- ガイド一覧（実務手順をまとめて読む）
- AIツール一覧（道具から探す）
- 比較記事一覧（料金と機能で比べる）
- レビュー一覧（使った記録を読む）
編集部の見解
手順1の印付けを習慣にすると、確認の時間が読めるようになります。以前は出力を読んでから「これは怪しい」と判断していましたが、依頼文の段階で日付と数字を決めておくと、確認範囲が先に決まります。手順3も効きます。前提を毎回書くのは面倒ですが、書き忘れた回だけ出力がぶれるので、結局は書いたほうが速いです。
最新のAI情報をメールで受け取る
新着のAIツール比較・ランキング・ニュースを、まとめてお届けします。
ご登録後、確認メールをお送りします。配信停止はいつでも可能です。