LLM– tag –

DeepSeekが9月10日に公開したV4.1-Flashは、40層を「前半20層の因果エンコーダ＋後半20層のデコーダ」に分け、KVキャッシュを1トークン約890バイトまで圧縮した。長時間走るAIエージェントのコスト構造が、モデルの賢さではなくメモリ設計で決まりはじめている。

OpenAI初の独自推論チップ「Jalapeño」の測定結果を解説。KVキャッシュとデータ移動を最適化し、電力効率と低遅延を両立する仕組み、AIエージェントやAPI利用への影響、今後の確認点を整理します。

MicrosoftのOrchardは、AIエージェントの学習と評価に共通の隔離実行環境を提供します。Kubernetes上の仕組み、小型モデルへの効果、企業導入時の安全性を解説します。

OpenAI初の独自推論チップ「Jalapeño」が実測段階へ。公開ベンチマークの数値と推論専用設計の仕組み、API開発者や企業が今後確認すべき点を整理します。

OpenAIが開発中モデルAstraのサイバー能力を巡り、強化学習を一時停止。訓練・評価中の監視、封じ込め、約20％の計算負荷がAI開発に何を意味するのかを解説します。

OpenAIが開発中のAstraを巡り、強化学習を停止して常時監視と研究環境の隔離を強化。30分以内の停止判断や約20％の計算負荷から、高性能AIエージェントに必要な安全基盤を解説します。

OpenAIの「Ultrafast」はGPT-5.6 Solを標準処理の最大14倍、毎秒最大750出力トークンで提供します。リアルタイムAIの用途、実装上の注意点、今後確認すべき料金・提供条件を整理します。

OpenAIが発表したGPT-Liveは、聞くことと話すことを同時に扱うフルデュプレックス設計を採用。検索・推論を背後のモデルへ委任する仕組み、利用条件、企業・開発者が確認すべき論点を整理する。

イリノイ州のAI安全法を起点に、第三者監査、重大リスク報告、NIST AI RMFがモデル開発と企業利用に与える影響を整理します。

MetaがMuse Spark 1.1とMeta Model APIを公開。AIコーディング、低価格API、安全性評価が開発基盤に与える影響を整理します。