プログラム処理実行中でもCPUとGPUを使い分ける世界初の技術を開発富士通

CPUとGPUの割り当て切り替えのイメージ

富士通は2023年11月9日、プログラム処理実行中でもCPUとGPUを使い分ける世界初の技術「アダプティブGPUアロケーター技術」を発表した。新たな技術で、世界的なGPU不足に対応する。

アダプティブGPUアロケーター技術は、複数のプログラム処理を実行していても、高速化率を予測するなどして、GPUを必要とするプログラムや、CPUで処理してもよいプログラムを区別して、優先度の高いプログラム処理に対し、GPUをリアルタイムに割り振る。

例えば、3つのプログラム処理をCPU1台、GPU2台で効率的に実施する際に、GPUの空き状況に応じてプログラム1と2にGPUを割り振る。その後、プログラム3のリクエストに応じ、GPUの割り当てを性能計測のためにプログラム1から3に変更し、GPUでの処理高速化の度合いを計測する。

計測の結果、GPUをプログラム1より3に割り当てた方が、処理時間の全体としての短縮化につながることが判明したことで、GPUをプログラム3にそのまま割り振り、プログラム1にはCPUをその間割り振る。プログラム2の終了後、GPUに空きができるため、プログラム1に再度GPUを割り当てる。こうした形で、プログラム処理が最短で完了するように計算リソースを割り振る。

利用者は、先行しているGPUでのプログラム処理の完了を待たずに済む。CPUで処理が始まっているプログラムに対しても、GPUの利用状況を踏まえてリアルタイムにGPUへ切り替えられる。

また、HPCシステム上で複数プログラムをリアルタイムに実行切り替えする世界初の技術「インタラクティブHPC技術」も開発。複数のコンピュータを協調動作させ、大規模な計算をするHPCシステムで、実行中のプログラムの完了を待つことなく、リアルタイムで複数プログラムの処理を切り替え、並行処理に対応する。

プログラム実行を切り替える通信には、一斉送信できるブロードキャスト通信を採用した。これまでプログラムの実行切り替え間隔は、性能面への影響から実用的には秒単位だったが、256ノードのHPC環境で100ミリ秒へと短縮している。なお、アプリケーションの要件やネットワーク品質で適切な通信方式が変わるため、最適な通信方式を選択できる。

これにより、大規模な計算リソースとリアルタイム性が求められるデジタルツインや生成AIといったプログラムの処理を即時に実行できる。

プログラムの実行切り替えに用いる通信方式の違い

アダプティブGPUアロケーター技術は今後、先端AI技術を素早く試せる「Fujitsu Kozuchi（code name）- Fujitsu AI Platform」でのGPUが必要な処理に活用していく。インタラクティブHPC技術は、同社の40量子ビットの量子コンピュータシミュレータにて、多数のノードを用いた協調計算を行う部分への適用を予定している。

さらに、「Fujitsu Computing as a Service HPC」や、Composable Disaggregated Infrastructure（CDI）アーキテクチャへの適用も検討していく。

プログラム処理実行中でもCPUとGPUを使い分ける世界初の技術を開発　富士通