Ai2– tag –

Ai2のBolmo研究がNatureに掲載。既存LLMの中核を引き継ぎ、UTF-8のバイト列を扱う二段階の学習方法を解説します。文字理解とコード評価の違い、日本語で試す際の出力長・速度の確認点も整理します。

Ai2のOlmo-core 3は、専門家の重みをGPUに置き、入力データを送る方式へ学習基盤を刷新しました。MoEが通信で遅くなる理由、約2.7倍という測定値の条件、日本の開発者が導入時に確認すべき点を解説します。