はじめに:AIファクトリに専用インフラが必要な理由

従来のクラウドインフラは、予測可能な汎用ワークロードを前提に設計されてきました。しかしエージェンティックAI(Agentic AI)ファクトリでは、多数のユーザー、エージェント、アプリケーション、データソース、ストレージが毎秒数テラビット級の帯域幅で加速コンピューティングに接続されます。この環境では、セキュリティ、ストレージアクセス、運用管理がホストCPU上のソフトウェアスタックに依存した瞬間にボトルネックとなります。

NVIDIAはこの課題をScale-Inという新しいネットワークインフラ層で解決します。AIネットワーキングの第5の柱として、従来のnorth-southアクセスパスをAIファクトリ専用の加速インフラドメインへ進化させる概念です。根拠資料はNVIDIA開発者ブログで確認できます。

AIファクトリの5つのインフラ軸

  • Scale-Up: NVLinkでGPUを単一の加速器として統合
  • Scale-Out: Spectrum-X Ethernet / Quantum InfiniBandでサーバー間を接続
  • Scale-Across: Spectrum-XGS Ethernetで分散AIファクトリを接続
  • Context Memory: CMXによるKV-cache共有ストレージ
  • Scale-In: BlueField-4 + DOCA + Spectrum-X EthernetでAIコンピューティング周辺のアクセス・セキュリティ・データ移動・運用を加速

重要なポイントは、**Scale-Inが単なるネットワークスイッチではなく「インフラ処理ドメイン」**である点です。ホストから分離されたDPU上で、セキュリティポリシー、テナント分離、ストレージプロトコル処理を専任で担います。

NVIDIA BlueField-4 DPU accelerating Scale-In network infrastructure for agentic AI factories Programming Illustration

BlueField-4アーキテクチャ:何が変わったのか

BlueField-4はプログラマブルな制御プレーンと加速データプレーンを統合したDPUです。ソフトウェアがインフラの意思決定を行い、インラインエンジンがそれをローカルでラインレートで執行する構造となっています。

主要コンポーネント

コンポーネント役割利点
64コア NVIDIA Grace CPUポリシー・プロビジョニング・テレメトリ・オーケストレーションソフトウェアの実行前世代比6倍のコンピュート、複数インフラサービスの同時実行
インライン加速エンジンパケット・RDMA・ストレージプロトコル・暗号化・ファイアウォール・ポリシー執行最大800 Gb/s処理、GraceおよびホストCPU負荷を軽減
LPDDR5Xメモリサブシステムインフラソフトウェアへデータ・サービス状態を供給高メモリ帯域幅と電力効率、ボトルネック回避
PCIe Gen6ホスト接続BlueField-4をホストサーバーに接続ホストとScale-Inドメイン間の高帯域幅パス
800 Gb/sネットワークインターフェースサーバーをScale-Inファブリックに接続高スループットのアクセス・セキュリティ・データ移動・ストレージトラフィックを支援

BlueField-3比でメモリ帯域幅4倍、ネットワーク帯域幅2倍に拡張されました。この余裕が、より多くの同時サービス、より大規模なポリシー・テレメトリデータセット、より高いセキュリティスループットを可能にします。

DOCA:ハードウェアアクセラレータを「サービス」に変えるソフトウェア層

DOCAはBlueField-4のハードウェアアクセラレータを、プログラマブルでデプロイ可能なScale-Inサービスへ変換します。本番運用可能なコンテナ化されたDOCAマイクロサービスがBlueField-4上で直接動作し、DOCAライブラリ・SDKでカスタムサービスを開発できます。

  • DOCA Flow: ハードウェアパケット処理パイプラインのプログラミング
  • DOCA PCC: プログラマブルな輻輳制御
  • DOCA Telemetry: デバイス・サービス状態の公開
  • DOCA Platform Framework (DPF): プロビジョニング・デプロイ・更新管理(Kubernetesネイティブ)
  • DOCA HBN: north-south L3ルーティングとマルチテナント分離の加速
  • OVS-DOCA: east-westインターフェースへのポリシー適用
  • DOCA Argus / Vault: ランタイム脅威検知 / ファイルアクセスポリシー執行

Spectrum-X Ethernet:Scale-Inファブリックの物理層

BlueField-4が各システムでインフラサービスを処理する一方、Spectrum-X EthernetがAIファクトリと外部のユーザー・アプリケーション・データソース・ストレージ間のトラフィックを運びます。大規模環境でのロードバランシング競合と輻輳を解消し、同時トラフィックを分離することで、アクセス・ストレージフローに一貫した性能を提供します。既製イーサネット比で最大1.45倍のストレージスループットを確保できるとのことです。

主要ユースケース5選

  1. 分離されたAIファクトリVPCの構築: DOCA HBN + OVS-DOCAでnorth-southとeast-westポリシーを統合管理。Vera Rubinではコンピュートトレイあたりnorth-south 800 Gb/s + east-west 4×1.6 Tb/s = 合計7.2 Tb/sのインターフェース帯域幅に単一のポリシーモデルを適用
  2. シリコンレベルのセキュリティ執行: ホストOS外でハードウェアによるポリシー執行。テナントソフトウェアからの無効化・バイパス不可
  3. ストレージアクセスの加速: NVMe-oF、ファイル・オブジェクトプロトコルをRDMA/TCP上で加速。GPUがデータを待つ状況を防止
  4. AIファクトリのコントロールプレーン運用: ホストOSロード前にノードオンボーディング・ネットワーク/ストレージプロビジョニング・ポリシー設定を完了
  5. 運用可観測性: DOCA Telemetryでホストソフトウェアに依存せずネットワーク・ストレージ・サービス状態を収集

Server rack with BlueField-4 DPUs and Spectrum-X Ethernet connecting AI compute to storage Software Concept Art

注意点と現実的な限界

華やかなスペックの裏側もしっかり押さえておく必要があります。

1. エコシステムへの依存性

BlueField-4 + DOCA + Spectrum-X Ethernetは事実上NVIDIAフルスタックです。DOCA SDKでカスタムサービスを開発するにはBlueFieldハードウェアが必須で、Spectrum-Xスイッチなしではファブリックレベルの最適化を完全には享受できません。既存インフラとの混在運用は可能ですが、「真の性能」はフルスタック時に発揮されます。

2. 運用複雑度の増加

DPUを別のインフラ処理ドメインとして位置づける瞬間、管理すべきプレーンが1つ増えます。DPF(Kubernetesネイティブ)がこれを緩和しますが、既存のサーバー運用チームとネットワーク運用チームの役割境界を再定義する組織的課題が残ります。

3. アプリケーション互換性

OVS-DOCA、DOCA HBNなどはカーネルOVSや既存ソフトウェアスタックと動作が完全には同一ではありません。移行前にワークロードごとの検証が必須です。

4. コスト構造

DPUはサーバーあたりの追加ハードウェアコストです。Scale-Inの利点(ホストCPU削減、セキュリティ強化、ストレージスループット向上)がDPU導入コストを正当化できるかは、ワークロード規模によって変わります。小規模クラスタでは過剰投資になり得ます。

5. 標準化の途上

DPUオフロードモデルは業界標準が完全には固まっていません。今後の標準化動向を見極めながら導入時期を調整するのが安全です。

AI factory network diagram showing Scale-In, Scale-Out, and Scale-Across domains Developer Related Image

まとめ:Scale-Inが意味するもの

Scale-Inは単なる新製品発表ではなく、AIファクトリのインフラ設計哲学の転換を象徴しています。これまでnorth-southネットワークは「データセンターへの入口と出口」でしたが、今やAIコンピューティングと同等のレベルで加速・設計されるべきドメインになったのです。

実務適用へのアドバイス

  • 小規模から開始: ファクトリ全体を一度に置き換えず、セキュリティが重要なテナントやストレージ集約型ワークロードからBlueField-4を適用し、効果を測定してください。
  • DPFを活用した運用自動化: Kubernetesネイティブなオーケストレーションを積極活用し、DPU管理負担を軽減することが鍵です。
  • テレメトリの優先確保: DOCA Telemetryをまず接続してボトルネックを特定し、その後どのサービスをオフロードするか決定する順序が効率的です。

次のステップ学習方向

  1. NVIDIA DOCA公式ドキュメントとgetting-startedガイドでDOCAサンプルをビルド実習
  2. BlueFieldプラットフォームのアーキテクチャ仕様を確認
  3. Spectrum-X Ethernetの混在トラフィック分離メカニズムを学習
  4. DPFベースのDPUオーケストレーションチュートリアルを実施

あわせて読みたい記事

日本の開発エコシステム観点: 国内のSI/クラウド環境では、DPUベースのインフラオフロードはまだ馴染みが薄いのが現状です。しかし大規模GPUクラスタを運用する国内AIデータセンターでは、ホストCPUのボトルネックとテナント分離が既に現実的な課題となっています。BlueField-4の導入を検討する際は、まず既存のKubernetesベースMLOpsスタックとDPFの統合可能性をPoCで検証することを推奨します。

本コンテンツは、信頼性の高い情報源をもとにAIツールを活用して作成され、編集者によるレビューを経て公開されています。専門家によるアドバイスの代替となるものではありません。