vLLM、決定モデル群「Decision 3.0」を公開

best

UX Researcher & AI Tool Evaluator
vLLM、決定モデル群「Decision 3.0」を公開

vLLM Semantic Routerは、決定に特化した5つのオープンモデル群「Decision 3.0」を公開しました。文章を生成せず、選択・はい/いいえ・スコアといった結果だけを返します。

vLLM、決定モデル群「Decision 3.0」を公開のポイント

発表の概要

MarkTechPostによると、Decision 3.0は0.8B(8億)から27B(270億)までの5つのモデルで構成され、いずれもApache-2.0ライセンスで提供されます。テキストと画像を対象に、選択肢から選ぶ・はい/いいえで答える・スコアを付ける、といった質問に1回の呼び出しで応答します。

ルーターと決定モデルの関係

複数のAIモデルを使い分ける「ルーター」は、入力を見てどのモデルに回すかを判断します。この判断を毎回LLMに文章で書かせると、遅く、コストもかさみます。決定モデルはこの部分だけを担うため、ルーティングの高速化と低コスト化に直結します。

観点 汎用LLM 決定モデル
出力 文章(長い) 選択・判定(短い)
速度 生成量に比例して遅い 1回の推論で完結
主な用途 対話・生成 ルーティング・分類

オープンであることの意味

Apache-2.0で提供されるため、自社サーバーに載せて機密データを外部に出さずに運用できます。ZapierやManusのような自動化基盤、Cursorのような開発ツールに組み込む際も、ライセンス面の制約が小さいのは実務上の利点です。

精度の検証は必須

決定モデルは「その業務の判断基準」に合っているかがすべてです。導入前に、自社の実データで誤判定の傾向を確認してください。

まとめ

大・小さまざまな決定モデルがオープンで手に入るようになり、AIシステムの「判断部分」を安く速く作れるようになりました。エージェント設計の新しい部品として定着していきそうです。

出典:MarkTechPost「What is Decision 3.0? vLLM Semantic Router’s New Open Decision Models」(2026年10月11日)


メールマガジン

最新のAI情報をメールで受け取る

新着のAIツール比較・ランキング・ニュースを、まとめてお届けします。

ご登録後、確認メールをお送りします。配信停止はいつでも可能です。

My-Best.AI|AIツール比較・ランキング・おすすめ最新AI情報
Logo