LLM– tag –

IBMのGranite Switch 4.1.1は、基盤モデルを変えずに専門機能を更新するパッチリリース。計算結果を再利用するaLoRAの仕組みと、日本語の業務で導入を判断するための品質・速度・互換性の確認点を解説します。

Mistral Large 4の重みが公開されました。約1兆パラメータの一部を選んで計算するMoE、3段階の推論モード、出力トークン削減の意味を解説。自社運用で確認すべきGPUメモリ、評価方法、ライセンス条件も整理します。

Liquid AIが公開したLFM3は、畳み込みと2種類の注意機構を組み合わせた小型AI。端末で動かすための設計、用途別モデルの選び方、日本語業務で検証すべき精度・メモリー・ツール実行の境界を解説します。

InceptionのMercury 3は、複数トークンを並列に生成する拡散型LLM。毎秒1,068トークンという公表値の意味、自己回帰型との仕組みの違い、日本語業務やAIエージェントに導入する際の確認点を解説します。

llm-d 1.0が、AIエージェントの推論を支える本番運用機能を強化。文脈を再利用するキャッシュ対応ルーティング、混雑時の優先制御、更新を連携させる仕組みと、自社運用で測るべき指標を解説します。

llm-d 1.0が強化したのは、AI推論が集中したときの交通整理です。入口での待ち行列、利用者ごとの優先度、KVキャッシュの再利用、分離した推論処理の更新を解説。自社でLLMを配信する現場が確認すべき点を整理します。

LLMにトークンの出現統計を渡すCOUNTが公開された。ホストRAM上の表を使い、学習済みモデルの重みを変えずに専門分野へ適応する仕組みを解説。約797GBの表を使った実験と、公開実装を試す際の注意点も整理する。

Microsoft ResearchのStudentSimは、生徒ごとの間違い方と指導後の反応を学習し、AI家庭教師の改善に使う研究基盤です。二段階の学習とチェス実験を読み解き、実際の学習効果との違い、日本の教育AI開発で確認すべき点を整理します。

Ai2のBolmo研究がNatureに掲載。既存LLMの中核を引き継ぎ、UTF-8のバイト列を扱う二段階の学習方法を解説します。文字理解とコード評価の違い、日本語で試す際の出力長・速度の確認点も整理します。

Ai2のOlmo-core 3は、専門家の重みをGPUに置き、入力データを送る方式へ学習基盤を刷新しました。MoEが通信で遅くなる理由、約2.7倍という測定値の条件、日本の開発者が導入時に確認すべき点を解説します。