AIインフラ– tag –

NVIDIAのGB300を使うネオクラウド提携で、AIインフラはGPU単体ではなく地域、ラック設計、ネットワーク、冷却まで見る段階に進んでいます。

OpenAIの推論専用チップJalapeñoを軸に、生成AIサービスの速度、料金、供給制約がモデル性能だけでは決まらなくなった流れを整理します。

GPT-4・Gemini 1.5・Mixtralが採用する「Mixture of Experts」の仕組みを解説。各トークンで一部エキスパートだけを動かす設計が推論コストを抑えながら高性能を実現する理由と、開発者・企業の実務への影響を整理する。

Broadcom、Apollo、Blackstoneの350億ドル規模AIインフラ構想を軸に、AnthropicのTPUリースとOpenAIの普及戦略が示す計算資源競争を整理します。

アリゾナ州でAIデータセンターの電力需要が急増し、州当局は料金制度と費用負担の見直しに動いている。争点は、発電・送電投資のコストを大口需要家が負うのか、家庭や中小企業の電気料金に広がるのかだ。