시스톨릭 어레이(Systolic Array)
1. 개요
가. 정의
시스톨릭 어레이(Systolic Array) 는 동일한 구조의 처리요소(PE, Processing Element)를 규칙적인 격자로 배열하고, 데이터가 마치 심장이 혈액을 박동으로 밀어내듯(systole) 한 클럭마다 인접 PE로 동기 이동하면서 각 PE가 곱셈-누산(MAC, Multiply-Accumulate) 을 수행하도록 설계한 데이터플로우 기반 특수목적 병렬 연산 구조이다.
시스톨릭 어레이의 본질은 "제어가 아니라 데이터의 흐름(flow) 이 연산을 구동한다"는 점에 있다. 폰노이만 구조에서는 프로세서가 매 연산마다 메모리에서 피연산자를 불러오고 결과를 되쓰는 과정을 반복하며, 이 메모리 왕복이 성능과 전력의 병목이 된다. 시스톨릭 어레이는 이 병목을 근본적으로 피하기 위해, 데이터를 한 번만 메모리에서 읽어 들인 뒤 배열 내부를 통과시키며 수많은 PE가 그 값을 재사용하도록 한다. 즉 "메모리 접근을 줄이는 대신 연산기 사이의 국소 통신(nearest-neighbor)을 늘린다"는 교환이 설계 철학의 핵심이며, 이 때문에 규칙적이고 반복적인 연산—특히 행렬곱(GEMM)과 합성곱(Convolution)—에서 압도적 효율을 낸다.
이 개념은 1978~1979년 카네기멜런대의 H.T. Kung과 MIT의 Charles E. Leiserson이 VLSI 설계 맥락에서 제안하였다. 당시 핵심 통찰은 "칩에서 비싼 것은 연산기가 아니라 긴 배선과 메모리 접근이므로, 모든 통신을 인접 셀 간의 짧은 배선으로 제한하면 규칙적 구조를 매우 조밀하게 집적할 수 있다"는 것이었다. 이 발상은 수십 년이 지나 구글 TPU를 비롯한 현대 AI 가속기의 행렬연산 엔진으로 부활하여, 컴퓨터 구조 교과서의 고전이 다시 산업의 중심 기술로 올라선 대표적 사례가 되었다.
나. 등장 배경 및 필요성
시스톨릭 어레이가 다시 주목받는 배경에는 세 가지 압력이 겹쳐 있다. 첫째는 메모리 장벽(Memory Wall) 이다. 반도체 공정 미세화로 연산기 속도는 빠르게 올랐지만 외부 DRAM의 대역폭·지연은 그만큼 따라오지 못해, 오늘날 AI 연산의 진짜 비용은 곱셈 자체가 아니라 피연산자를 먼 메모리에서 실어 나르는 데이터 이동 에너지에 집중된다. 한 번 읽은 데이터를 배열 내부에서 수백 번 재사용하는 시스톨릭 구조는 이 이동량을 획기적으로 줄인다.
둘째는 딥러닝 연산의 폭증이다. 심층신경망의 추론·학습은 결국 거대한 행렬곱과 합성곱의 반복이며, 이 연산은 동일한 MAC 패턴이 규칙적으로 반복되는 특성을 갖는다. 이렇게 데이터 접근 패턴이 정적으로 예측 가능한 워크로드는 분기 예측이나 비순차 실행 같은 범용 제어 로직이 불필요하므로, 제어를 걷어내고 연산기와 배선을 규칙적으로 깔 수 있는 시스톨릭 어레이와 궁합이 완벽하다.
셋째는 전력·면적 효율의 한계다. 무어의 법칙 둔화와 데나드 스케일링 종료로 트랜지스터를 더 넣어도 전력밀도가 함께 치솟는 상황에서, 성능을 끌어올리려면 범용성을 포기하고 특정 연산에 회로를 특화하는 도메인 특화 아키텍처(DSA) 가 사실상 유일한 출구가 되었다. 시스톨릭 어레이는 제어 오버헤드가 거의 없이 동일 면적에 가장 많은 MAC을 집적할 수 있어, 전력당 연산량(TOPS/W)을 극대화하려는 AI 가속기 설계의 핵심 선택지로 자리 잡았다.
다. 특징
시스톨릭 어레이의 성격은 ① 규칙적·동형(homogeneous) PE 격자, ② 동기식 파이프라인 데이터 펌핑, ③ 국소 통신(nearest-neighbor only), ④ 높은 데이터 재사용을 통한 연산집약도(Operational Intensity) 극대화로 요약된다. 이 네 축은 서로 맞물려 있다. 동형 PE의 규칙성(①)이 있기에 데이터를 파이프라인처럼 한 방향으로 밀어 넣을 수 있고(②), 모든 통신을 인접 셀로 제한(③)하므로 긴 배선과 전역 제어가 사라져 조밀한 집적이 가능하며, 그 결과 한 번 로드한 값이 배열을 관통하며 반복 재사용(④)되어 전력효율이 완성된다.
반대로 이 규칙성을 벗어나는 순간 네 이점이 동시에 약해진다. 작은 행렬, 희소(sparse) 연산, 불규칙한 접근 패턴에서는 배열이 비어 돌며 이용률(utilization)이 급락한다. 따라서 시스톨릭 어레이를 이해한다는 것은 "어떤 조건에서 그 강점이 성립하고 어떤 조건에서 무너지는가"를 아는 것과 같으며, 이 양면성이 뒤에서 다룰 데이터플로우 선택과 실무 설계 트레이드오프를 모두 규정한다.
2. 구조와 동작 원리
시스톨릭 어레이의 성능은 데이터를 어떻게 배열에 흘려 넣어 재사용을 극대화하느냐에 달려 있다. 아래 구조도는 호스트·메모리 계층과 2차원 PE 배열이 협력하는 전형적 시스템 구성을 보여준다.
flowchart LR
subgraph HOST["호스트 시스템"]
CPU["CPU(제어·그래프 분해)"]
DRAM["외부 메모리(DRAM/HBM)"]
CPU --- DRAM
end
subgraph ACC["가속기(온칩)"]
WFIFO["가중치 FIFO/버퍼"]
ABUF["활성화 버퍼(SRAM)"]
ARR["PE 배열(2D Systolic MAC)"]
ACC2["누산기/부분합 수집"]
POST["활성화·정규화·풀링"]
WFIFO --> ARR
ABUF --> ARR
ARR --> ACC2
ACC2 --> POST
POST --> ABUF
end
DRAM -- "가중치 스트림" --> WFIFO
DRAM -- "입력 활성화" --> ABUF
CPU -- "명령/디스크립터" --> ARR
호스트 CPU가 모델 연산 그래프를 분해해 행렬곱·합성곱을 가속기로 위임하면, 가중치는 가중치 FIFO를 통해, 입력 활성화는 온칩 SRAM 버퍼를 통해 각각 PE 배열의 서로 다른 변(edge) 으로 공급된다. 배열 내부를 지나는 동안 부분합이 누적되고, 배열을 빠져나온 결과는 활성화·정규화·풀링 유닛을 거쳐 다시 버퍼로 환류한다. 여기서 결정적인 점은 느리고 전력을 많이 먹는 외부 DRAM 접근을 최소화하기 위해, 한 번 로드한 데이터를 배열 안에서 최대한 오래 머물게 한다는 설계 의도다.
가. 처리요소(PE)와 데이터 펌핑
배열을 구성하는 최소 단위인 처리요소(PE)는 하나의 곱셈기, 하나의 가산기, 소수의 레지스터로 이루어진 지극히 단순한 회로다. 각 PE는 클럭마다 왼쪽(또는 위)에서 들어온 입력과 자신이 보유하거나 통과시키는 가중치를 곱한 뒤, 위(또는 왼쪽)에서 내려온 부분합에 더해 다음 PE로 전달한다. 이 단순함이야말로 시스톨릭 구조의 힘인데, PE가 단순하므로 수만 개를 동일 면적에 조밀하게 찍어낼 수 있고, 제어가 분산되어 있어 전역 제어기나 긴 배선이 필요 없다. 구글 TPU v1이 256×256 격자, 즉 65,536개의 MAC 유닛을 한 칩에 집적해 700MHz에서 한 사이클에 6만여 회의 곱셈-누산을 수행한 것이 이 조밀 집적의 대표 사례다.
데이터 "펌핑(pumping)"이라는 표현은 데이터가 파이프라인을 따라 한 칸씩 규칙적으로 밀려 들어가는 모습을 가리킨다. 중요한 특성은 지연 로딩/배출(load & drain) 구간이 존재한다는 점이다. 배열의 첫 결과가 반대편으로 나오려면 데이터가 격자를 모두 통과해야 하므로, N×N 배열에서는 초기에 약 2N 클럭의 채움 지연이 발생하고 마지막에도 비슷한 배출 지연이 따른다. 이 때문에 연속된 큰 행렬을 흘려보낼 때는 이 지연이 전체 처리량에 희석되어 효율이 극대화되지만, 작은 행렬을 단발로 처리하면 채움·배출 오버헤드가 상대적으로 커져 이용률이 떨어진다. 이것이 "시스톨릭 어레이는 큰 배치(batch)·큰 행렬에 유리하다"는 실무 경험칙의 근거다.
나. 행렬곱 매핑과 데이터 흐름
행렬 C = A × B를 시스톨릭 어레이에 올리는 방식을 2×2 축소 예시로 보면, 가중치(B)는 각 PE에 상주하고 입력(A)은 왼쪽에서 행별로 시차를 두고 흘러들며, 부분합은 아래로 누적되어 빠져나온다. 데이터가 한 칸씩 어긋나(skew) 들어가는 이유는, 각 PE가 올바른 짝의 입력과 가중치를 같은 클럭에 만나도록 타이밍을 맞추기 위해서다.
flowchart TB
A1["A행1 입력"] --> P11["PE11(MAC)"]
A2["A행2 입력"] --> P21["PE21(MAC)"]
P11 --> P12["PE12(MAC)"]
P21 --> P22["PE22(MAC)"]
W11["가중치 b11"] -.상주.-> P11
W12["가중치 b12"] -.상주.-> P12
W21["가중치 b21"] -.상주.-> P21
W22["가중치 b22"] -.상주.-> P22
P11 --> S1["부분합 아래로"]
P12 --> S2["부분합 아래로"]
P11 --> P21
P12 --> P22
P21 --> C1["결과 c·1"]
P22 --> C2["결과 c·2"]
이 매핑에서 핵심 이득은 데이터 재사용률이다. A의 한 행 원소는 오른쪽으로 흐르며 그 행의 모든 PE에서 재사용되고, 가중치는 배열에 상주한 채 흘러드는 모든 입력과 반복해서 곱해진다. 결과적으로 O(N²) 크기의 데이터를 한 번 공급해 O(N³)에 가까운 연산을 수행하므로, 외부 메모리 대역폭 대비 연산량(연산집약도)이 극대화된다. 바로 이 점이 시스톨릭 어레이가 메모리 장벽을 우회하는 핵심 메커니즘이다.
3. 데이터플로우(Dataflow) 유형
시스톨릭 어레이의 성능과 전력효율은 "무엇을 배열 안에 고정(stationary)하고 무엇을 흘려보낼 것인가"를 결정하는 데이터플로우 전략에 크게 좌우된다. 재사용할 수 있는 데이터는 가중치(Weight), 입력 활성화(Input), 부분합(Partial Sum) 세 종류이며, 어느 것을 PE 내부에 머물게 하느냐에 따라 아래 네 가지 대표 유형으로 나뉜다. 유형 선택은 단순한 구현 세부가 아니라, 어떤 데이터의 이동 에너지를 아낄지에 대한 전략적 결정이다.
가. 가중치 고정(Weight Stationary)
가중치를 각 PE에 미리 적재해 두고 입력 활성화를 흘려보내는 방식이다. 가중치는 한 번 로드되면 배열 전체 연산 동안 재적재되지 않으므로, 가중치 재사용이 많은 추론(inference) 에 특히 유리하다. 추론에서는 학습으로 고정된 동일 가중치 행렬로 수많은 입력 배치를 반복 처리하기 때문에, 가중치를 배열에 붙박아 두면 그 이동 비용을 사실상 0에 수렴시킬 수 있다.
구글 TPU v1과 AWS Inferentia가 이 방식을 채택한 것은 이러한 추론 워크로드의 경제성을 정확히 겨냥한 설계 결정이다. 예컨대 256×256 배열에 6만여 개의 가중치를 적재하면, 이후 흘러드는 수천 개 입력에 대해 가중치는 다시 메모리에서 읽히지 않고 재사용되므로 DRAM 대역폭 압박이 크게 완화된다.
다만 모델 파라미터가 배열 용량을 초과하면 가중치를 블록 단위로 교체 적재해야 하고, 적재 중에는 배열이 연산을 못 하고 노는(idle) 구간이 생긴다. 이 때문에 실무에서는 가중치 FIFO와 더블버퍼링으로 "다음 블록 적재"와 "현재 블록 연산"을 겹쳐, 적재 지연을 연산 뒤에 숨기는 설계가 함께 쓰인다. 결국 가중치 고정의 성패는 가중치 교체 빈도를 얼마나 낮추고 적재를 얼마나 잘 은닉하느냐에 달려 있다.
나. 출력 고정(Output Stationary)
각 PE가 하나의 출력 원소(부분합)를 맡아 내부 누산기에 계속 누적하고, 가중치와 입력을 모두 흘려보내는 방식이다. Kung–Leiserson의 고전적 형태에 가까우며, 부분합을 PE 밖으로 옮기지 않으므로 부분합의 이동 에너지와 누산 과정의 정밀도 손실을 최소화한다.
이 방식이 유리한 이유는 누산의 성격에 있다. 긴 내적이나 깊은 합성곱에서는 하나의 출력값을 얻기 위해 수백~수천 번의 곱셈 결과를 더해야 하는데, 이 부분합을 매번 메모리나 다른 PE로 옮기면 이동 에너지가 누적되고 반복 양자화로 정밀도도 흔들린다. 출력 고정은 부분합을 PE 안에 묶어 둠으로써 이 비용을 원천 차단한다.
대신 가중치와 입력을 매 사이클 새로 공급해야 하므로 입력단 대역폭 요구가 상대적으로 크다. 따라서 출력 고정은 온칩 버퍼 대역폭이 충분하거나, 출력 재사용이 지배적인 연산 패턴에서 선택된다. 가중치 고정과 출력 고정의 선택은 결국 "가중치 이동이 비싼가, 부분합 이동이 비싼가"라는 워크로드 특성 질문으로 환원된다.
다. 입력/행 고정(Input / Row Stationary)
입력 활성화를 재사용 축으로 고정하거나, MIT Eyeriss가 제안한 행 고정(Row Stationary) 처럼 한 행의 합성곱 계산 전체를 하나의 PE에 매핑해 가중치·입력·부분합의 재사용을 동시에 균형 있게 극대화하는 방식이다.
행 고정의 통찰은 "한 종류의 데이터만 고정하면 나머지 두 종류의 이동이 늘어난다"는 한계를 넘어서려는 데 있다. 합성곱은 가중치·입력·부분합 모두에 재사용 기회가 있으므로, 한 축만 최적화하기보다 세 축을 함께 고려해 PE 배열과 온칩 메모리 계층 전반의 데이터 이동 총량을 최소화하는 편이 전체 에너지 관점에서 유리하다. Eyeriss는 이 전략으로 특정 한 종류만 고정하는 방식보다 우수한 에너지 효율을 보고했다.
그 대가로 매핑과 스케줄링이 복잡해진다. 어떤 행을 어느 PE에 올리고 부분합을 어떻게 모을지가 정교해지므로, 컴파일러와 하드웨어 제어 로직의 부담이 커진다. 이는 "하드웨어 효율과 소프트웨어 복잡도 사이의 트레이드오프"라는 가속기 설계의 본질적 긴장을 잘 보여주는 사례로, 데이터플로우 선택이 곧 컴파일러 스택 투자 결정과 직결됨을 시사한다.
라. 유형 비교와 선택 기준
네 유형의 차이는 결국 "어떤 데이터의 이동이 가장 비싼 워크로드인가"에 대한 답에서 갈린다. 추론처럼 가중치 재사용이 지배적이면 가중치 고정이, 깊은 누산이 지배적이면 출력 고정이, 재사용 패턴이 복합적이면 행 고정이 유리하다. 아래 표는 보조 정리이며, 실제 설계는 대상 모델의 연산 분포를 프로파일링해 결정한다.
| 데이터플로우 | 고정 대상 | 핵심 이득 | 대표 적용 | 약점 |
|---|---|---|---|---|
| Weight Stationary | 가중치 | 가중치 이동 최소, 추론 효율 | TPU v1, AWS Inferentia | 대형 모델 가중치 재적재 비용 |
| Output Stationary | 부분합 | 누산 이동·정밀도 손실 최소 | 고전적 systolic, 일부 DSP | 입력 대역폭 요구 큼 |
| Input Stationary | 입력 활성화 | 입력 재사용 극대화 | 특정 CNN 가속기 | 가중치 이동 증가 |
| Row Stationary | 행 단위 복합 | 세 데이터 균형 재사용 | Eyeriss | 매핑·스케줄링 복잡 |
4. 다른 병렬 아키텍처와의 비교
시스톨릭 어레이의 정체성은 GPU·벡터(SIMD) 구조와 비교할 때 선명해진다. GPU는 수천 개의 범용 코어가 공유 메모리와 레지스터 파일을 통해 데이터를 주고받는 중앙집중형 데이터 공급 구조다. 유연성이 뛰어나 다양한 연산을 처리하지만, 코어마다 레지스터·메모리를 빈번히 접근하므로 데이터 이동 에너지가 상대적으로 크고, 범용 제어 로직이 다이 면적을 차지한다. 반면 시스톨릭 어레이는 데이터가 PE 사이를 직접 흘러 전달되어 레지스터 파일·공유 메모리 왕복을 생략하므로, 규칙적 행렬연산에서는 동일 면적·전력에서 GPU보다 높은 MAC 밀도와 전력효율을 낸다.
차이가 생기는 근본 이유는 "데이터 이동 경로"에 있다. GPU에서는 피연산자가 메모리↔레지스터↔연산기를 수차례 오가지만, 시스톨릭 어레이에서는 입력이 배열의 한 변으로 들어가 반대편으로 한 번 빠져나오는 동안 모든 재사용이 끝난다. 이 구조적 차이가 전력효율의 격차로 나타난다. 다만 이는 "규칙적 연산"이라는 전제에서만 성립하며, 분기가 많거나 데이터 종속성이 불규칙한 범용 워크로드에서는 GPU의 유연성이 압도적으로 유리하다. 실제 TPU v1 논문(ISCA 2017)은 동시대 GPU 대비 추론에서 수십 배의 성능/전력 이점을 보고했지만, 이는 추론이라는 특정 규칙적 워크로드에 한정된 결과임을 분명히 했다.
따라서 현대 AI 시스템은 둘을 대립이 아니라 상보 관계로 결합한다. 즉 불규칙·제어 중심 부분은 CPU·GPU가 맡고, 규칙적 대형 행렬곱은 시스톨릭 엔진(TPU·NPU의 MXU/MAC 배열)이 전담하는 이종 컴퓨팅(Heterogeneous Computing) 구조가 표준이 되었다. 시스톨릭 어레이는 범용 가속기의 "경쟁자"가 아니라, 가장 비싼 연산 구간을 떼어 맡는 "전용 엔진"으로 자리매김한 것이다.
5. 심화: 실무 적용 사례와 최신 동향
시스톨릭 어레이는 학술 개념을 넘어 오늘날 AI 반도체 경쟁의 심장부에 있다. 가장 상징적 사례는 구글 TPU다. TPU v1은 256×256 가중치 고정 시스톨릭 배열(65,536 MAC)로 INT8 기준 약 92 TOPS를 약 40W 수준에서 달성하며, 데이터센터 추론 비용을 극적으로 낮췄다. 이후 세대(TPU v2~v5/v6 계열)는 행렬곱 유닛(MXU)을 다수 탑재하고 BF16 학습 지원과 대규모 상호연결(ICI)을 더해, 수천 칩을 묶는 TPU Pod로 LLM 학습까지 확장되었다. 핵심 행렬엔진의 DNA는 여전히 시스톨릭 구조라는 점이 중요하다.
동향의 두 번째 축은 빅테크의 자체 가속기 확산이다. AWS는 추론용 Inferentia와 학습용 Trainium에 시스톨릭 계열 행렬엔진을 탑재했고, 테슬라의 자율주행 학습용 Dojo, 다수의 모바일·엣지 NPU(삼성·퀄컴·애플)의 MAC 배열도 사실상 시스톨릭 또는 그 변형 데이터플로우를 채택한다. 이는 "범용 GPU 의존도를 낮추고 워크로드에 맞춘 전용 실리콘을 내재화한다"는 산업 전반의 전략 전환을 반영한다.
세 번째 축은 구조적 진화다. 고정 크기 배열의 저이용률 문제를 완화하기 위해 유연·재구성형(flexible/reconfigurable) 데이터플로우, 큰 배열을 작은 타일로 쪼개 작은 행렬에서도 이용률을 높이는 다중 소형 배열(multi-pod) 설계, 희소 행렬의 0을 건너뛰는 희소성 지원(sparsity support), 그리고 FP8·INT4 등 초저정밀 수치형식과의 결합이 활발히 연구된다. 또한 연산기를 메모리 가까이 배치하는 PIM(Processing-in-Memory)·아날로그 행렬연산과 시스톨릭 개념을 접목하려는 시도도 이어지고 있다. 요컨대 1970년대 개념이 2020년대 AI 수요에 맞춰 대역폭·정밀도·유연성 축에서 재해석되고 있는 것이다.
6. 고려사항 및 시사점
기술사 관점에서 시스톨릭 어레이는 "개념 자체"보다 적용 조건과 트레이드오프를 정확히 판단하는 설계 역량으로 이해해야 한다.
- 워크로드 적합성(이용률) 판단: 시스톨릭 어레이의 이점은 큰 행렬·높은 연산집약도에서만 완전히 실현된다. 작은 행렬·희소·불규칙 워크로드에서는 이용률이 급락하므로, 도입 전 대상 모델의 연산 분포를 프로파일링하고 배열 크기·타일링 전략을 맞춰야 한다. "모든 AI에 무조건 유리하다"는 오해를 경계해야 한다.
- 데이터플로우–모델 정합성: 추론 중심이면 가중치 고정, 깊은 누산이면 출력 고정, 복합 재사용이면 행 고정처럼, 지배적 재사용 축에 데이터플로우를 맞춰야 전력효율이 산다. 하드웨어 선택과 컴파일러·매핑 전략이 함께 결정되어야 하며, 소프트웨어 스택(XLA 등 컴파일러)의 성숙도가 실성능을 좌우한다.
- 정밀도–정확도 트레이드오프: INT8·FP8·INT4 등 저정밀 연산은 처리량과 전력효율을 크게 높이지만 모델 정확도 손실을 수반한다. 양자화 인식 학습(QAT)·보정(calibration)으로 손실을 관리하고, 서비스 품질 기준(SLA) 안에서 정밀도를 선택하는 공학적 균형이 필요하다.
- 이종 컴퓨팅 통합과 종속성: 시스톨릭 엔진은 단독이 아니라 CPU·GPU와 결합된 이종 시스템의 일부로 운영되므로, 데이터 이동·스케줄링·메모리 계층 전반의 병목(가중치 적재 지연, 활성화 대역폭)을 함께 설계해야 한다. 또한 특정 벤더 가속기·컴파일러에 대한 종속(lock-in) 위험과 생태계 성숙도를 전략적으로 고려해야 한다.
- 미래 전망과 연계 기술: 재구성형 데이터플로우·희소성 지원·초저정밀·PIM 접목이 성능 한계를 밀어 올리는 한편, HBM·칩렛·첨단 패키징이 배열에 데이터를 공급하는 대역폭을 뒷받침한다. 시스톨릭 어레이는 NPU·TPU·온디바이스 AI·데이터센터 가속 전반과 연계되는 AI 반도체의 공통 연산 기반으로서, 앞으로도 전력효율 경쟁의 핵심 축으로 남을 전망이다.
참고자료
- H.T. Kung, C.E. Leiserson, "Systolic Arrays (for VLSI)" (1978/1979): https://en.wikipedia.org/wiki/Systolic_array
- N.P. Jouppi et al., "In-Datacenter Performance Analysis of a Tensor Processing Unit" (ISCA 2017): https://arxiv.org/abs/1704.04760
- Y. Chen et al., "Eyeriss: An Energy-Efficient Reconfigurable Accelerator for Deep CNNs (Row Stationary)": https://ieeexplore.ieee.org/document/7738524
- Google Cloud, "TPU 아키텍처 소개": https://cloud.google.com/tpu/docs/system-architecture-tpu-vm
한 줄 요약: 시스톨릭 어레이는 동형 PE 격자에 데이터를 박동처럼 흘려보내며 곱셈-누산을 국소 통신으로 처리해 데이터 재사용을 극대화하는 데이터플로우 구조로, 가중치·출력·행 고정 등 전략 선택을 통해 메모리 장벽을 우회하며 TPU·NPU 등 현대 AI 가속기의 전력효율 높은 행렬연산 엔진으로 부활한 컴퓨터 구조의 고전이다.