ルーフラインモデル(Roofline Model)と性能分析
1. 概要
A. 定義
ルーフラインモデル(Roofline Model) とは、ある計算カーネルが特定のハードウェア上で理論的に到達可能な最大性能を、演算強度(Arithmetic Intensity、バイトあたりの浮動小数点演算数) を横軸とする対数–対数グラフ上に、二つの上限線(屋根、roofline) として表す視覚的性能モデルである。2009年にUC Berkeley・LBNLのSamuel Williams、Andrew Waterman、David PattersonがCACM論文で提示したもので、性能が演算能力(peak FLOP/s) に阻まれているのか、メモリ帯域幅(peak bandwidth) に阻まれているのかを一枚の図で診断できる。
性能最適化を始めるとき、技術者が最初に答えるべき問いは「このコードが遅い理由は計算が多いからか、それともデータを運べないからか」である。二つの原因は処方が正反対である。計算がボトルネックなら、SIMD・FMA・より多くのコアで演算スループットを増やす必要があるが、データ移動がボトルネックなら、いくら演算器を増やしても無駄であり、キャッシュ再利用・データ局所性・圧縮でメモリトラフィックを減らさねばならない。ルーフラインモデルはこの問いに定量的な座標を与える。カーネルの演算強度を横軸に、ハードウェアの二つの上限を屋根として描けば、自分のカーネルが「屋根のどの部分の下」にあるかによって、ボトルネックの性格と最適化の余地が即座に明らかになる。
ルーフラインが強力なのは、それが単なるベンチマーク数値ではなく、ハードウェアの物理的限界とソフトウェアの特性を同じ平面に重ねる点にある。ピークFLOP/sとピーク帯域幅はチップが定まれば固定される定数であり、演算強度はアルゴリズムが定まれば従って出る値である。二つの世界を一つのグラフで出会わせることで、「このハードウェアでこのアルゴリズムが出せる最善はどこまでか」「最適化でさらに上がる余地が残っているのか、それとも既に屋根に達したのか」を根拠をもって判断できる。技術士の観点では、ルーフラインは性能投資の意思決定(演算増設対メモリ増設、アルゴリズム再設計対ハードウェア交換)を工学的な数値で裏づける一次診断ツールである。
B. 登場背景と必要性
ルーフラインが登場した2000年代後半は、単一コアのクロック向上が電力・発熱の壁(power wall)に阻まれ、マルチコアへ移行していた時期である。コア数は増えたが、メモリ帯域幅はそれほど速くは増えず、演算能力とデータ供給能力の差(いわゆるメモリの壁、memory wall)が広がった。その結果、多くの実カーネルが演算器を遊ばせながらメモリを待つ状態に陥り、「ピークFLOP/s比で何%使っているか」という単一の数値だけでは、なぜ遅いのか、何を直すべきかを説明できなかった。
ルーフラインの必要性は、時代が進むほどむしろ高まった。GPU・NPU・TPUのような加速器は演算スループットを劇的に高めたが、メモリ帯域幅は相対的にあまり伸びず、演算強度の低いワークロードほど加速器の潜在能力を使えない帯域幅従属現象が深まった。たとえば大規模言語モデル(LLM)のトークン生成(decode)段階は、バッチサイズが小さいとモデル重みをトークンごとにメモリから読み込まねばならないため演算強度が1〜2 FLOP/Byte程度と極めて低く、結果として数百TFLOP/s級の加速器でも性能がメモリ帯域幅に縛られる。ルーフラインはこうした状況で「なぜ高価な加速器がピーク性能の数%しか出せないのか」を一目で説明し、バッチ拡大・量子化・KVキャッシュ圧縮といった処方がどの軸を動かすのかを示すため、HPCを越えてAI推論・学習最適化の共通言語として定着した。
2. 核心概念 — 演算強度と二つの天井
ルーフラインモデルの全体構造は次のとおりである。ハードウェアが提供する二つの上限(ピーク演算性能とピークメモリ帯域幅)と、カーネルが持つ一つの特性(演算強度)が出会って「到達可能な性能」を決める。
flowchart TB
HW["ハードウェア特性"] --> PEAK["ピーク演算性能<br/>(FLOP/s, 水平の屋根)"]
HW --> BW["ピークメモリ帯域幅<br/>(Byte/s, 傾斜の屋根)"]
SW["カーネル特性"] --> AI["演算強度<br/>(FLOP/Byte)"]
PEAK --> MODEL["到達可能性能<br/>= min(ピーク, 帯域幅 x 演算強度)"]
BW --> MODEL
AI --> MODEL
MODEL --> DIAG{"稜線点に対する<br/>カーネル位置"}
DIAG -->|"左"| MEM["メモリバウンド<br/>(帯域幅がボトルネック)"]
DIAG -->|"右"| COMP["コンピュートバウンド<br/>(演算がボトルネック)"]
style PEAK fill:#e8f0fe,stroke:#2f6fed,stroke-width:2px
style BW fill:#e6f4ea,stroke:#188038,stroke-width:2px
style MEM fill:#fce8e6,stroke:#d93025,stroke-width:2px
style COMP fill:#fef7e0,stroke:#f29900,stroke-width:2px
モデルの核心となる式は到達可能性能 P = min(P_peak, B × I) である。ここでP_peakはハードウェアのピーク演算性能(FLOP/s)、Bはピークメモリ帯域幅(Byte/s)、Iは演算強度(FLOP/Byte)である。演算強度が低いとB × I項が小さく性能が帯域幅に縛られ(傾斜の屋根)、演算強度が高いとB × IがP_peakを超えて性能が演算能力に縛られる(水平の屋根)。二つの項が等しくなる点、すなわちI = P_peak / B を稜線点(ridge point) と呼び、この値より左はメモリバウンド、右はコンピュートバウンドである。
演算強度(Arithmetic Intensity、operational intensityとも言う)は、DRAMと授受するバイトあたりに実行する浮動小数点演算数と定義される。重要なのは、分母が「総データ量」ではなく「実際にメモリを往来したトラフィック」である点である。同じアルゴリズムでも、キャッシュブロッキング(タイリング)でデータ再利用を増やせばメモリトラフィックが減って演算強度が上がり、カーネルがグラフ上で右へ移動してより高い性能上限を得る。すなわち演算強度は固定されたアルゴリズム定数ではなく、実装によって動く設計変数であり、この点がルーフラインを単なる診断を越えて最適化の方向を示すツールにしている。
ルーフラインが対数–対数軸を使うのには理由がある。演算強度はカーネルによって0.1から数百FLOP/Byteまで数千倍に開き、性能も数十GFLOP/sから数百TFLOP/sまで広く分布する。線形軸ではこの広い範囲を一画面に収められないうえ、帯域幅バウンド区間が線形軸では直線ではなく目で読みにくい曲線になる。対数軸では「P = B × I」が傾き1の直線(傾斜の屋根)として、ピーク演算上限が水平線として現れ、二つの屋根がきれいな折れ線をなすため、稜線点とカーネル位置を直感的に読める。軸の選択そのものがモデルの可読性を左右する設計なのである。
下のグラフは典型的なルーフライン曲線と代表的なカーネルの位置を示す。横軸は演算強度(FLOP/Byte)、縦軸は到達可能性能(GFLOP/s)であり、傾斜区間(帯域幅バウンド)が稜線点で水平区間(演算バウンド)へ折れる。
{
"type": "line",
"data": {
"labels": ["0.1", "0.25", "0.5", "1", "2", "4", "8", "16", "32", "64"],
"datasets": [
{ "label": "ルーフライン上限 (帯域幅 100GB/s, ピーク 1000GFLOP/s)", "data": [10, 25, 50, 100, 200, 400, 800, 1000, 1000, 1000], "borderColor": "#2f6fed", "tension": 0.1, "fill": false },
{ "label": "SpMV (AI=0.25, メモリバウンド)", "data": [null, 25, null, null, null, null, null, null, null, null], "borderColor": "#d93025", "pointRadius": 7, "showLine": false },
{ "label": "Stencil (AI=2, メモリバウンド)", "data": [null, null, null, null, 200, null, null, null, null, null], "borderColor": "#f29900", "pointRadius": 7, "showLine": false },
{ "label": "Dense GEMM (AI=32, コンピュートバウンド)", "data": [null, null, null, null, null, null, null, null, 1000, null], "borderColor": "#188038", "pointRadius": 7, "showLine": false }
]
},
"options": {
"plugins": { "legend": { "position": "bottom" }, "title": { "display": true, "text": "ルーフライングラフ: 演算強度に対する到達可能性能 (稜線点 AI=10)" } },
"scales": {
"x": { "title": { "display": true, "text": "演算強度 (FLOP/Byte, 対数)" }, "type": "logarithmic" },
"y": { "title": { "display": true, "text": "到達可能性能 (GFLOP/s, 対数)" }, "type": "logarithmic" }
}
}
}
3. ルーフライングラフの読み方 — 稜線点とカーネル配置
ルーフラインを実務で使う第一歩は稜線点(ridge point) の位置を把握することである。稜線点 I* = P_peak / B はそのハードウェアの「性格」を要約する。たとえばピーク演算1,000 GFLOP/s、メモリ帯域幅100 GB/sの仮想チップは稜線点が10 FLOP/Byteである。これは「バイトあたり10回以上演算するカーネルでなければ演算能力を使い切れず、それ未満ならメモリに縛られる」という意味である。稜線点が右にあるほど(演算に比べ帯域幅が相対的に不足するほど)、より多くのカーネルがメモリバウンド領域に落ちる。現代のGPU・AI加速器は演算スループットが非常に大きく、稜線点が10〜数百FLOP/Byteに達するため、大半の一般カーネルは自然とメモリバウンドになる。
代表的なカーネルを配置するとモデルの有用性が明確になる。疎行列–ベクトル積(SpMV) は非零要素ごとに積・和の2回演算に対し最低8バイト以上(値+インデックス+ベクトルアクセス)を読むため演算強度が0.1〜0.25 FLOP/Byte程度と極端に低く、傾斜の屋根の左端に張りつく典型的なメモリバウンドである。ステンシル(stencil)演算はある程度の再利用があり演算強度が1〜4程度と中間で、依然として稜線点の左にある場合が多い。逆に密行列積(Dense GEMM) はn×nブロックをタイリングすると演算がO(n³)、メモリトラフィックがO(n²)なので演算強度がブロックサイズに比例して数十〜数百FLOP/Byteまで上がり、水平の屋根に達するコンピュートバウンドになる。ディープラーニング学習の大型GEMMが加速器ピークを高く活用する理由、そしてバッチの小さいLLM推論がそうでない理由は、すべてこの配置の差で説明される。
演算強度を手で計算してみるとモデルがより具体的に実感できる。代表的なメモリバウンドカーネルであるAXPY(y = a·x + y) を考えよう。要素一つあたり浮動小数点演算は積1回・和1回で2 FLOPであり、メモリはxを読み(4B)yを読み(4B)yを書くため(4B)、単精度基準で12 Byteが往来する。したがって演算強度は2 ÷ 12 ≈ 0.17 FLOP/Byte で、稜線点が10 FLOP/Byteの仮想チップではピーク演算の約1.7%(= 0.17 × 100 GB/s = 17 GFLOP/s / 1,000 GFLOP/s)しか使えない極端なメモリバウンドである。この数値は「AXPYは演算器を増やしても無意味であり、ただ帯域幅が性能を決める」という結論を一行の計算で確定させる。同じ方法で密GEMMはブロックサイズBに対し演算強度がおよそBに比例(O(B³)演算 / O(B²)トラフィック)し、タイルを大きくしてキャッシュに収めるほど稜線点を越えてコンピュートバウンドへ移る。
カーネルが屋根に「どれだけ近いか」も核心情報である。測定された性能点が屋根のすぐ下にあれば、そのハードウェアでこれ以上絞る余地はほぼない(ボトルネックが物理的限界)という意味であり、屋根からはるか下に離れていれば、実装の非効率(不十分なベクトル化、キャッシュミス、分岐、負荷不均衡)で上限に届かないのだから、コード最適化の余地が大きい。この「点と屋根の間隔」が最適化ROIの上限を教えてくれる。
4. 拡張 — 天井(ceiling)と階層的ルーフライン
基本のルーフラインは単一のピーク演算線と単一の帯域幅線だけを描くが、実際のチップは複数段階の性能上限を持つ。これを天井(ceiling) として追加しより細かく診断する過程は次のとおりである。
flowchart LR
START["カーネルプロファイリング<br/>FLOP・メモリトラフィック測定"] --> CALC["演算強度の計算<br/>I = FLOP / Byte"]
CALC --> PLOT["ルーフライン上に性能点を表示"]
PLOT --> CHECK{"稜線点基準で<br/>位置を判定"}
CHECK -->|"メモリバウンド"| MOPT["データ再利用・タイリング<br/>圧縮・プリフェッチ"]
CHECK -->|"コンピュートバウンド"| COPT["ベクトル化・FMA<br/>ILP・並列度拡大"]
MOPT --> CEIL["上位天井に対し再評価"]
COPT --> CEIL
CEIL --> DONE{"屋根に近接?"}
DONE -->|"いいえ"| PLOT
DONE -->|"はい"| STOP["物理的限界に到達<br/>ハードウェア/アルゴリズム再検討"]
style MOPT fill:#fce8e6,stroke:#d93025,stroke-width:2px
style COPT fill:#fef7e0,stroke:#f29900,stroke-width:2px
style STOP fill:#e6f4ea,stroke:#188038,stroke-width:2px
演算天井(compute ceiling) は命令レベル最適化の段階を表す。ベクトル化(SIMD)を使わなければスカラピークという低い天井に、FMA(積和融合)を使えなければそれより半分程度の天井に引っかかる。カーネルの性能点がこうした下位天井に張りついているなら、メモリをいくら手直ししても無駄であり、ベクトル化・FMA・命令レベル並列性(ILP) をまず確保せねばならない合図である。帯域幅天井(bandwidth ceiling) はデータ供給最適化の段階を表す。NUMA局所性を無視したり、ソフトウェアプリフェッチ・ストリーミング書き込みを使わなければ、実効帯域幅がピークの半分以下に落ち、傾斜の屋根が下へ沈む。
より精緻な変種が階層的ルーフライン(hierarchical roofline) とキャッシュ認識ルーフラインモデル(cache-aware roofline model、CARM) である。メモリ階層がL1・L2・LLC・HBM/DRAMに分かれ各段階の帯域幅が異なるため、各レベルに対する演算強度と帯域幅屋根を別々に描く。たとえばA100 GPUはHBM2e帯域幅が約1.5〜2.0 TB/sである一方、L2・共有メモリ帯域幅はそれより数倍高い。同じカーネルでも「DRAM基準の演算強度」ではメモリバウンドだが「L2基準」ではコンピュートバウンドであり得るが、階層的ルーフラインはどの階層が真のボトルネックかを分離して示す。この分析で「タイリングで作業集合をL2に収めればHBMトラフィックが消えてカーネルが右(高性能)へ移動する」という処方を定量的に立てられる。
5. 比較と適用事例
ルーフラインを他の性能分析手法と比べるとその位置が明確になる。核心は「どの軸でボトルネックを見るか」と「ハードウェア上限を明示的に描くか」の違いである。
| 区分 | ルーフラインモデル | アムダールの法則 | プロファイラ(ホットスポット)分析 |
|---|---|---|---|
| 見る軸 | 演算強度対性能(帯域幅/演算) | 並列比率対コア数 | 関数/行別の実行時間 |
| 答える問い | ボトルネックが演算かメモリか | 並列化でどれだけ速くなるか | どこで時間を使うか |
| ハードウェア限界 | ピークFLOP/s・帯域幅を明示 | 直接扱わない | 直接扱わない |
| 処方 | 再利用↑またはベクトル化↑ | 直列区間の縮小 | ホットスポット除去 |
| 限界 | 遅延・分岐・負荷不均衡を過小反映 | メモリボトルネック非反映 | 上限に対する位置が不明 |
この比較で重要な洞察は、三つの手法が排他的でなく相補的である点である。プロファイラが「どのカーネルが時間を多く使うか」を見つければ、ルーフラインが「そのカーネルがメモリ/演算のどれに縛られ、上限までの余裕がどれだけか」を教え、アムダール・グスタフソンの法則が「そのカーネルを並列化・最適化したとき全体応答時間がどれだけ減るか」を予測する。実務の性能エンジニアリングはこの三つを順に織り合わせる。
具体的な適用事例を見よう。第一に、HPC流体解析ステンシルコードの最適化で、ルーフラインはカーネルが帯域幅屋根付近(演算強度〜2)に張りついていることを示し、チームは演算器増設の代わりに時間ブロッキング(temporal blocking)で再利用を増やして演算強度を引き上げる方向を選び、数倍の性能を得た。第二に、LLM推論サービングでルーフラインはバッチ1のdecodeが演算強度〜1〜2のメモリバウンドであることを説明し、連続バッチング(continuous batching、複数要求をまとめて重み再利用を高める → 右へ移動)と量子化(重みバイトを減らす → 帯域幅効率向上)という処方がなぜ効果的かを定量的に裏づけた。第三に、Intel Advisor・NVIDIA Nsight Computeのような商用ツールがルーフラインを自動生成し、数百個のカーネルの性能点を一画面に打ち、屋根から最も遠い(最適化余地の大きい)カーネルから攻めるよう優先順位を提示する。
6. 深化 — 最新動向とツール
ルーフラインは2009年以降ハードウェア進化とともに着実に拡張され、特にAI加速器時代に再び核心ツールとなった。第一に、自動測定ツールの成熟である。初期にはピーク性能とカーネル演算強度を手で推定したが、今はEmpirical Roofline Toolkit(ERT) がマイクロベンチマークで実際に到達可能な帯域幅・演算屋根を測定し、Intel AdvisorとNVIDIA Nsight ComputeがハードウェアカウンタでFLOP・メモリトラフィックを自動収集してカーネル別ルーフラインを描く。おかげで「理論ピーク」ではなく「現実的に到達可能な屋根」の上で診断できるようになった。
第二に、テンソルコア・混合精度で多層化した屋根である。現代のGPUはFP64・FP32・FP16/BF16・INT8・FP8ごとにピーク演算性能が大きく異なる。たとえばNVIDIA A100はFP32が約19.5 TFLOP/sであるのに対しテンソルコアFP16は約312 TFLOP/sと10倍以上高く、精度別に水平の屋根が複数層生じる。このとき稜線点も共に右へ大きく移動するため(ピーク↑ ÷ 帯域幅 ≈ 一定)、低精度演算を使うほどより高い演算強度を確保せねば加速器を使い切れないという構造的洞察が出る。これはディープラーニングで混合精度・量子化が性能に直結する理由をルーフラインで説明してくれる。
第三に、メモリ中心時代の再照明である。HBM3・CXLベースのメモリ拡張、メモリ内演算(Processing-in-Memory)といった流れはすべて「演算は余っているのにデータを供給できない」というメモリバウンド問題を狙う。ルーフラインはこうした新技術がどの軸(傾斜の屋根の傾き=帯域幅)をどれだけ押し上げるかを評価する共通尺度を提供する。さらにLLMサービング最適化研究(FlashAttentionのメモリトラフィック削減、KVキャッシュ圧縮、推測デコーディングなど)はほぼすべて「演算強度を高めるか帯域幅需要を減らしてメモリバウンドから脱する」試みとして解釈され、ルーフラインはその効果を説明する標準フレームとなった。
7. 考慮事項と示唆点
ルーフラインモデルを技術士の観点で適用・判断する際に留意すべき点は次のとおりである。
モデルの仮定と死角を認識し補完する。 基本のルーフラインは演算器とメモリが完全に重畳(overlap) し、二つのうち遅い方が全体を支配すると仮定する。しかし実際にはメモリ遅延(latency)の未隠蔽、分岐予測の失敗、同期・負荷不均衡、電力・熱スロットリングが性能を屋根の下へ引き下げる。したがってルーフラインは「上限とボトルネックの性格」を見るのに使い、遅延・不均衡要因はプロファイラ・トレース分析で併せて見なければならない。モデルを盲信して「屋根に届いていないからコードの問題」と断定する前に、遅延隠蔽の余地と測定精度(FLOP・バイトのカウント方式)を検証せねばならない。
投資意思決定の根拠として活用する。 稜線点とカーネル分布は「演算をより買うか、メモリをより買うか」という調達・設計の問いに直接答える。ワークロードの多数が稜線点の左(メモリバウンド)に集まっているなら、コア・加速器増設の限界効用が低く、高帯域幅メモリ・メモリ拡張(HBM・CXL)やアルゴリズムの演算強度改善がより大きなROIを生む。逆にコンピュートバウンドが支配的なら、低精度演算・専用加速器が答えである。ルーフラインはこのトレードオフを数値で提示し、ハードウェア・クラウドインスタンス選択のTCO判断を裏づける。
アルゴリズム・実装再設計の舵とする。 演算強度は固定値ではなく実装によって動く変数なので、ルーフラインは「何を直せば性能点がどの方向へ移動するか」を設計言語で提供する。タイリング・融合(fusion)・再計算(recompute)でメモリトラフィックを減らして右へ、ベクトル化・FMAで上へカーネルを押し上げる。性能目標を「漠然と速く」ではなく「稜線点を越えてコンピュートバウンドへ転換」のように座標で定義すれば、最適化作業の終了条件が明確になる。
展望と連携技術を併せて見る。 AI・HPCが同じハードウェアへ収束し精度・メモリ階層が多層化するほど、単一の屋根ではなく精度別・階層別の多重ルーフラインで診断せねばならない。ルーフラインはアムダール・グスタフソンの法則(拡張性の限界)、メモリ階層・NUMA(データ供給)、電力効率(性能/ワット)分析と織り合わさってこそ完成する。特に持続可能性・コストの観点から「性能/ワットルーフライン」へ拡張すればエネルギー効率まで同じ枠で判断でき、グリーンコンピューティング・大規模AIインフラ設計の意思決定ツールとしての重要性は一層高まる見込みである。
参考資料
- S. Williams, A. Waterman, D. Patterson, "Roofline: An Insightful Visual Performance Model for Multicore Architectures," CACM 2009: https://dl.acm.org/doi/10.1145/1498765.1498785
- Roofline model, Wikipedia: https://en.wikipedia.org/wiki/Roofline_model
- NERSC, "Roofline Performance Model": https://docs.nersc.gov/tools/performance/roofline/
- Intel Advisor Roofline Analysis: https://www.intel.com/content/www/us/en/developer/articles/technical/intel-advisor-roofline.html
一言まとめ: ルーフラインモデルはカーネルの演算強度(FLOP/Byte)を横軸に、ピーク演算性能とメモリ帯域幅を二つの屋根として描き、性能が演算に縛られたかメモリに縛られたかを一目で診断する視覚的性能モデルであり、稜線点基準のカーネル位置と屋根との間隔で最適化方向・余地・投資意思決定を定量化し、混合精度・階層メモリ・LLM推論の時代に多重屋根へ拡張されてHPCとAI加速の共通診断言語となった。