AI Agent、世の中の流れに沿ってOCP2026でもAI agentをための設備の話一色な感じ。free weightのAIの利用がここ一年で20%から70%になったとの数字も示されて、従来からAIの開発や学習よりも利用する方が圧倒的に稼働設備数が多いとは言われていたがそれがagent目的でさらに加速された。
これもagentの流れで、長いトランザクションが増えたので回線にも故障時に自動復旧する機能が以前よりも強く要求されている。
一箇所のDCで5GWの消費電力。原子炉一個で何ワット?80万kWだと、800MWなので原子力発電炉が7機必要?実用的には9機かな。
ラックに対して、800VDC 125Aを供給するのがこれらの標準と。EVでも800VDCは実用化されているのでさほど技術的なチャレンジはないとは言っても。EV用の急速充電って800Vで何アンペア?350kW機で1,000V 350A。
NVIDIA Rubin NVL72は230kWなので、これを三本必要。
数年前から耳にする、サーバーの筐体や電源ユニットなど。主要機能部品は三年単位で更新されるけど、その周辺は再利用しましょうってお話。
少し前まではNVL72に代表されるGPU 72個を一つの単位としてGPUクラスターを構築するのがよく聞く話でしたがOCP2026ではその八倍の576が最小単位として語られていた。
intelはNPO推しで、NVIDIAがCPO推し?NPOの利点は30m程度であればレーザー内蔵で消費電力も低い。電源を一度落としての現地でのモジュール交換も可能。CPOの利点は500mまで行けて、外部レーザー光源は稼働時に交換可能。
CPOの欠点は、スイッチファブリックと一体になって供給されるとサプライチェーンの柔軟性が失われてコスト面・供給面で不安がある。変調モジュールは現場では交換不可能。
NROはDAC/AECにも対応できる。
XPO MSA
https://xpomsa.com/
https://www.opencpxmsa.org/
Security Module、GPU以外にも数々のxPUが語られていますがセキュリティモジュールについて触れるセッションが多数。特に起動時の脆弱性について。SFとかで強固なセキュリティを破る手法として何らかの方法で障害を誤認させて再起動を行わせた後に攻略するってのがあります。確かに、ゼロタッチインストールとか起動時の利便性を追求するとセキュリティ面で甘くなりがち。
scale up接続の標準化、NVL72の様に200Gbps per laneまではDACもありだったけど。400G per laneからはやっぱり光?
https://oci-msa.org/
1.6Tbps cohorent light。O bandで20km以下。800LRと表記の一貫性がない。
ネットワーク機器ベンダーは消滅するのか。
NVIDIAは、DGX,HGX,MGX等のキーワードを使っています。HGXはSXMコネクタのGPUを8個つむサーバーのリファレンスモデルで。MGXは19inchラック1Uのモジュールを組み合わせるNVL72スタイル。DSXはデータセンター全体のリファレンスらしい。日本国内でも新規に建設されるのはこれに従うのか?中身だけではなくファシリティや建屋の設計まで国内産業にお金が落ちないのか。
https://www.nvidia.com/en-us/data-center/products/dsx/