IBM、プロンプト注入に強い構造化記法「LLMON」をGranite 4.1の3Bと8Bで公開

IBMは、LLM向けのマークアップ言語「LLMON（LLM Object Notation）」を理解・生成する実験プレビューモデル2種を公開しました。Granite 4.1の3Bと8Bを基にしています。

指示とデータを明確に分ける

LLMONは意味のまとまりを専用トークンで区切り、データ構造をモデルに明示します。指示には一意のIDを付け、どのデータに適用されるかを結び付けられるのが特徴です。JSONは構文解析器向けに設計された形式で、文中の引用符とフィールドの閉じが同じトークンになる曖昧さを抱えています。

注入攻撃の成功率が大幅に下がる

ユーザーデータに潜む間接的なプロンプト注入を、明示的な分離によってほぼ無視できるという。一部のベンチマークでは攻撃成功率がほぼゼロに下がり、通常の指示チューニングモデルは高い確率で乗っ取られたと比較されています。一方、Granite 4.1 Instructと比べた汎用能力は維持されています。

編集部の見解

エージェント運用で一番怖いのは、外部データに紛れた指示に従ってしまう事故であり、その防御を形式で解こうとする発想は筋が良いと言えます。ただし実験プレビュー段階で、自社のタスクにLoRAを足して独自の構造を教え込む手間は残ります。社内文書を扱うエージェントの安全性を高める材料として、検証環境で試す価値はあります。

my-best.ai 編集部

出典：Hugging Face Blog「LLMON：LLMネイティブなマークアップ言語、Granite 4.1 3Bと8Bで登場」（2026年11月12日）

あわせて読みたい

• Falcon LLM｜オープンな大規模言語モデル｜my-best.ai
• Baseten｜モデル推論の運用基盤｜my-best.ai
• CometAPI｜複数モデルをまとめて使うAPI基盤｜my-best.ai

本日のAIニュース（一次情報源ベース）です。最新記事の一覧から他のニュースも読めます。