GKE– tag –

Google CloudがvLLMのCloud TPU対応を拡張。15,000トークン超のマルチモーダル埋め込みを支えるStepPool、精度検証、GKE運用の要点を解説します。

Ray 2.55でGoogle Cloud TPUが正式サポート対象に。GKEとKubeRayがTPUスライスの物理構成を保って配置する仕組みと、GPU基盤から検証する際の実務上の要点を解説します。