AMD MI355Xにおけるオキュパンシー計算:第一原理からのガイド
本記事はAMD MI355Xアクセラレータにおけるオキュパンシー(占有率)数学を第一原理から解説する。CUDAやROCmのスレッドブロック設計に不可欠な計算手法を、ハードウェア構造に基づいて基礎的に説明する。
背景メモ
- AMD MI355Xは、AMDが2025年に発表したCDNA 4アーキテクチャ搭載のデータセンター向けGPU。NVIDIAのH100/B200に対抗する製品で、特に大規模AI学習・推論ワークロードをターゲットとする。
- 「Occupancy(占有率)」とは、GPUシェーダーコアが並列に処理できるアクティブなスレッド数(あるいはスレッドブロック数)の理論上限に対する実効値のこと。占有率が高いほど、メモリアクセス待ちの間も他の計算でパイプラインを埋められ、性能が引き出しやすい。
- 本記事は、MI355Xのハードウェア仕様(CU数、レジスタファイルサイズ、共有メモリ容量、スケジューラ幅など)から、手計算で占有率を導く方法を詳細に解説している。CUDAの用語をROCm(AMDのGPU向けソフトウェアスタック)向けに読み替えた、原理主義的なチューニング指南といえる。
- AMD GPUはNVIDIAとアーキテクチャが大きく異なるため、CUDAで培われた占有率最適化の知識をそのまま適用できず、AMD固有の計算式を理解することがROCmでの高効率実装には不可欠。