Microsoft「Maia 300」発表、推論効率40%増を予測

記事のイメージ:Microsoftは10月12日、AI推論チップ「Maia 300」を発表

Microsoftは10月12日、AI推論用の独自チップ「Maia 300」を発表した。2027年から導入し、同社のAIサービスを支える基盤として活用する計画だ。

電力効率と処理量の向上を見込む

Microsoftによると、主要なGPUシステムとの比較で電力当たりのトークン処理量が40%増える見込み。96基を収めたラックでは、前世代のMaia 200に対して最大7倍の処理量を予測する。いずれも同社が示した性能見通しであり、一般利用環境での検証結果ではない。

先端製造技術と大容量メモリ

演算部分にはTSMCのN2P製造プロセスを採用。メモリや入出力の機能を分離したチップレット構成とし、HBM4メモリの帯域幅は毎秒18TB、チップの電力枠は950Wとされる。長い文脈を扱うAI推論などでデータ移動を効率化する設計だ。

2027年から段階的に展開

現時点でMicrosoftのサービスに導入されているのはMaia 200で、Maia 300の本番導入は2027年に開始予定。今後、Azure Maiaシリーズを複数ギガワット規模へ拡大する方針だ。今回の発表だけで、外部GPUを全面的に置き換えたことにはならない。

みんなの反応

2件

全2件を表示しています

  1. 公表された性能数値はメーカー側の見通しであり、実際の運用状況と分けて考えるべきだ。

  2. 半導体の開発は難しいため、実際に導入されるまでは慎重に評価したい。

情報元

#Microsoft, Azure, Maia 300, Maia 200, AI推論, AIチップ, TSMC, HBM4, 電力効率

AI・ITの関連記事

あなたもコメントする ↓

JOIN THE CONVERSATION

あなたはどう思う?

コメントは投稿後すぐに公開されます。個人情報や不適切な内容は投稿しないでください。

コメント

まだコメントはありません。