テキストを書かないAIが実務に入る｜「型付き判断」を返すJevとMoEの薄い活性化が変える推論設計｜2026年9月22日版

2026年9月22日

大規模言語モデルの進化は長いあいだ「もっと賢く、もっと長い文章を」という方向で語られてきた。ところがこの9月、注目を集めた技術のいくつかは逆を向いている。文章を生成しない、パラメータの大半を動かさない、処理を一本のパイプラインに押し込まない。共通するのは、生成そのものをどこで使わないかを決める設計だ。

なかでも象徴的なのが、TypeSafe AIが9月19日前後に公開情報として整理した「Jev」である。分類や振り分けといった判断を、テキストではなく型の決まったデータで返す。エージェントを組んだことがある人なら、ここが一番壊れやすい箇所だと知っているはずだ。

今日の軸: 生成モデルの外側に「判断だけを返す層」を置く動きが具体化した
Jev: 選択肢から選ぶ設計のため、スキーマ外の出力が構造的に起こらない
StepFun Step 5 Preview: 総600B・活性27Bの疎MoEで、1Mコンテキストを現実的な単価に寄せた
OpenAI GPT-Live-1: 音声を「認識→推論→合成」の直列から全二重の同時処理へ

JSONパースに怯えなくてよくなる、という変化

エージェント開発で消耗する場面は決まっている。「次にどのツールを呼ぶか」「この問い合わせは課金か技術か」といった小さな判断を、わざわざLLMに文章で答えさせ、そのJSONが壊れていないか祈りながらパースする作業だ。

Jevはこの前提を外す。呼び出し側は「state（今の状況）」と「questions（聞きたいこと）」を渡し、モデルは選択肢の中から選んで返す。質問の型は3つに絞られている。

Choice: 最大255個の選択肢から1つを選ぶ
Score: 順序のある段階で評価する
Noul: 真偽を判定する

いずれも答えと一緒に確率分布と確信度が返る。TypeSafeのドキュメント例では、billing が0.84で最有力になりながら、確信度は0.596にとどまる。technical が0.159を保持しているからだ。つまり「答えは出たが、迷いも残っている」状態が数値で見える。

確信度をそのまま分岐条件に使う

TypeSafeが示す運用はシンプルだ。確信度が高ければそのまま自動分岐、中程度なら記録してレビュー、低ければ人間にエスカレーションする。いわばLLMの出力を後段でチェックするのではなく、判断の不確かさを最初から呼び出し元へ返す設計である。

LangChainは自社ブログで、この性質をエージェントのハーネス、つまり骨組み部分に使う例を紹介している。タスクの複雑さに応じたモデルルーティングと、危険なツール呼び出しを実行前に止めるガードレールの2つだ。どちらも「速く、確実に、構造化された答えが要る」場所で、文章生成は余計な仕事になる。

ここがポイント: Jevの「ハルシネーションなし」はスキーマ適合の保証であって、正解の保証ではない。選択肢の外は返らないが、選んだ答えが間違っていることはある。

速さと価格、そして留保すべき点

TypeSafeはリクエスト内の全質問を並列処理すると説明しており、質問を増やしても応答時間はほとんど変わらないという。エンドツーエンドで70ミリ秒から500ミリ秒。価格は入力10億トークンあたり42ドル、つまり100万トークンで0.042ドルで、出力は無料とされる。

ただし、比較対象としてGPT-6 AstraやFable 5.1の平均を置いた「193.6倍高速、444.6倍安価」という数字は、ベンダー自身が走らせたベンチマークだ。TypeSafe自身も、こうした数値は実利用の上振れ側にあると認めている。提供形態もwaitlist経由の早期アクセスAPIと、Vercel AI Gateway経由に限られ、重みの公開やセルフホストの選択肢はない。アーキテクチャの詳細も非公開で、「新しいアーキテクチャ、並列サンプラー、RLCD(Reinforcement Learning for Calibrated Decisions)」という説明にとどまる。

実務側の読み方としては、社内ワークフローの分岐点を1つだけ切り出して置き換え、確信度の分布を自前のログで検証するのが妥当だろう。丸ごと載せ替える段階ではない。

疎MoEで「1Mコンテキストの単価」を下げにいくStepFun

9月20日前後に公開されたStepFunのStep 5 Previewは、別の方向から同じ問題に触れている。使う計算量を減らす、という方向だ。

総パラメータ約600B、1トークンあたりの活性は約27B（活性比およそ4.5%）
92層の「細く深い」スタック構成の疎MoE
コンテキストは1Mトークン、入力はテキストと画像
API公開済み、重みの公開は10月15日予定
価格は入力100万トークン約1ドル、出力約2.7ドル、出力速度はおよそ毎秒100トークン

Artificial Analysisのintelligence indexではおよそ44とされ、StepFunはオープンウェイト勢の上位に位置づけている。狙いはコーディング、ソフトウェア開発、金融分析といった長時間走り続けるエージェント用途だ。

1Mトークンを読めること自体はもう珍しくない。重要なのは、それを回し続けても破綻しない単価に収まるかどうかで、活性比4.5%という数字はその答えの一部になっている。10月15日に重みが出れば、ベンダー申告ではない第三者検証が可能になる点も押さえておきたい。

音声は「直列パイプライン」をやめた

9月10日にAPI提供が始まったOpenAIのGPT-Live-1も、構造の話として読むと同じ系譜にある。従来の音声エージェントは、音声認識 → 推論モデル → 音声合成を数珠つなぎにしてきた。受け渡しのたびに遅延が乗り、間の取り方や文脈が落ちる。

GPT-Live-1は入ってくる音声と出ていく音声を同時に扱う全二重方式で、割り込みへの対応と12種類の音声を備える。深い推論や実際の操作は、組み合わせる別のモデルやツールに委ねる設計だ。価格はフロント側の音声レイヤーとして1分あたり0.05ドル。

ここでも役割分担が明確になっている。会話のリズムを保つ層と、考える層を分ける。Jevが判断を切り出したのと、発想は近い。

日本の読者が見るべきポイント

開発者

LLMに文章でJSONを書かせている分岐処理は、置き換え候補として棚卸しする価値がある
確信度をログに残す設計にしておくと、後で判断層を差し替えるときの比較材料になる
Step 5 Previewは10月15日の重み公開後に、自社データでの長コンテキスト検証がしやすくなる

企業利用者

「ハルシネーションゼロ」という売り文句は、形式の保証か内容の保証かを必ず切り分けて確認する
早期アクセスかつ重み非公開のサービスは、価格が将来も維持される前提で設計しない

一般ユーザー

音声アシスタントの「かぶせて話しても大丈夫」な感触は、モデル構造の変更から来ている。体感の変化はここ数か月で進む

継続ウォッチ

Jevの第三者検証: ベンダー外のベンチマークで、速度と確信度の較正がどこまで再現するか
Step 5の重み公開（10月15日予定）: 公開後の独立評価と、1Mコンテキスト時の実効速度
判断層の標準化: LangChainのような枠組み側が、型付き判断をどこまで共通インターフェースとして扱うか
価格の持続性: 出力無料、入力0.042ドル／100万トークンという水準が補助的なものかどうか

今日のまとめ

この9月に並んだ動きは、モデルを大きくする話ではない。判断はJev、長い文脈はStep 5のような疎MoE、会話のテンポはGPT-Live-1というように、必要な出力の形に合わせて計算の使いどころを切り分ける設計が、実装可能な選択肢として揃い始めた。

次の確認点は10月15日だ。Step 5の重みが予定どおり公開されれば、今はベンダー申告にとどまっている数字のいくつかを、手元で確かめられるようになる。

参照リンク

よかったらシェアしてね！

URLをコピーしました！

URLをコピーしました！