Đóng gói bán dẫn tiên tiến (Advanced Packaging) — Tích hợp 2.5D/3D và TSV
1. Tổng quan
A. Định nghĩa
Đóng gói bán dẫn tiên tiến (Advanced Packaging) là thuật ngữ chung chỉ các công nghệ tích hợp hậu công đoạn (Back-End) sử dụng những kỹ thuật vi dây như interposer silic, lớp tái phân bố (RDL), điện cực xuyên silic (TSV) và hybrid bonding để tích hợp theo chiều ngang (2.5D) và chiều dọc (3D) các die (chip) có công nghệ và chức năng khác nhau, qua đó hiện thực hóa ở cấp độ gói (package) hiệu năng, băng thông và mật độ tích hợp mà một chip đơn không thể chứa nổi.
Truyền thống, giá trị của bán dẫn đến từ việc thu nhỏ ở tiền công đoạn (Front-End), tức cuộc đua làm transistor nhỏ hơn. Tuy nhiên khi tiến đến 3nm·2nm và lợi ích hiệu năng trên chi phí của việc thu nhỏ chững lại mạnh, trọng tâm của việc nâng cao hiệu năng đã chuyển sang lĩnh vực đóng gói: "làm sao nối và xếp chồng die tốt hơn". Đóng gói ngày xưa gần với "bao gói (Packaging)" nhằm bảo vệ chip hoàn chỉnh khỏi va đập và ẩm bên ngoài và kết nối điện với đế (substrate), nhưng đóng gói tiên tiến đã được nâng tầm thành công nghệ thiết kế và chế tạo quyết định hiệu năng hệ thống. Việc các bộ tăng tốc AI H100·B200 của NVIDIA có thể chứa bộ nhớ HBM và die GPU trong một gói duy nhất, hay dòng M của Apple đạt hiệu năng cao bằng cách nối nhiều die, đều nhờ đóng gói tiên tiến.
B. Bối cảnh ra đời và sự cần thiết
Đằng sau sự nổi lên của đóng gói tiên tiến thành cốt lõi của ngành có ba áp lực chồng lấn. Thứ nhất là bức tường bộ nhớ (Memory Wall). Trong khi hiệu năng tính toán tăng dốc, băng thông bộ nhớ lại không theo kịp, khiến việc cấp dữ liệu trở thành nút thắt trong các workload AI·HPC. Gắn bộ nhớ ngay cạnh die tính toán (2.5D) hoặc phía trên (3D) bằng vi dây siêu mật độ làm chiều dài dây ngắn đi đột ngột, nên băng thông tăng hàng chục lần và năng lượng truyền giảm lớn. Thứ hai là giới hạn kinh tế của việc thu nhỏ: khi chiến lược chiplet — kết hợp các die chia theo chức năng trong một gói thay vì đặt mọi khối lên công nghệ tiên tiến nhất — trở thành xu thế chủ đạo, việc đóng gói nối các die này ở mật độ cao trở thành nền tảng thiết yếu. Thứ ba là giới hạn reticle (khoảng 858㎟): một chip AI đòi hỏi lượng tính toán siêu lớn vượt quá diện tích mà thiết bị quang khắc chiếu được trong một lần vốn không thể chế tạo thành một die đơn, nên tích hợp nhiều die ở cấp gói là giải pháp duy nhất. Như vậy đóng gói tiên tiến đã trở thành chìa khóa tháo gỡ nút thắt của bán dẫn thời đại AI chứ không phải một lựa chọn. Thực tế, việc phần lớn ràng buộc nguồn cung bộ tăng tốc AI bắt nguồn không phải từ die tính toán mà từ năng lực đóng gói như CoWoS cho thấy rõ đóng gói đã trở thành nút thắt và là tài nguyên chiến lược của cả ngành.
C. Đặc trưng
Bản chất của đóng gói tiên tiến có thể tóm trong ba điểm. Thứ nhất, tích hợp dị chủng (Heterogeneous Integration). Bằng cách đặt các die ở những nút công nghệ và linh kiện khác nhau (logic, bộ nhớ, analog, linh kiện quang) vào một gói, nó hiện thực hóa những tổ hợp bất khả thi trên một die đơn. Thứ hai, thiết kế lấy băng thông làm trung tâm. Vì mục tiêu là giảm chiều dài dây về mặt vật lý và tối thiểu hóa quãng đường dữ liệu di chuyển, chỉ số hiệu năng chuyển từ khối lượng tính toán sang băng thông và năng lượng truyền (pJ/bit). Thứ ba, "tiền-công-đoạn-hóa" của hậu công đoạn. Khắc TSV, dây interposer và hybrid bonding đòi hỏi độ chính xác cấp tiền công đoạn, nên đóng gói đã được tái cấu trúc từ việc lắp ráp giá trị thấp thành lĩnh vực công nghệ giá trị cao.
2. Cấu trúc tích hợp và các thành phần cốt lõi
Đóng gói tiên tiến được phân loại theo thứ bậc dựa trên hướng và mật độ dây nối các die. Cốt lõi là "làm cho dây giữa die và die ngắn và dày đặc đến mức nào"; khoảng cách này càng ngắn thì băng thông càng cao và năng lượng truyền càng giảm. Sơ đồ cấu trúc dưới đây cho thấy sự tiến hóa của phương thức tích hợp từ đóng gói truyền thống qua 2.5D đến 3D.
flowchart TB
subgraph Trad["Đóng gói truyền thống (wire bonding / FC-BGA)"]
T1["Die đơn"]
T2["Đế (Substrate)"]
T1 --- T2
end
subgraph D25["Tích hợp 2.5D (ngang)"]
L1["Die logic"]
H1["Stack HBM"]
IP["Interposer silic + TSV"]
L1 --- IP
H1 --- IP
end
subgraph D3["Tích hợp 3D (dọc)"]
U1["Die trên (cache/bộ nhớ)"]
U2["Die dưới (logic)"]
U1 -->|"TSV / hybrid bonding"| U2
end
Trad --> D25 --> D3
Hãy xem xét các thành phần cốt lõi theo hướng nguyên lý. Điện cực xuyên silic (TSV, Through-Silicon Via) là cột đồng xuyên dọc qua die silic; nó là nền tảng của tích hợp 3D, xếp die trên dưới để tín hiệu điện đi thẳng. Vì dây xuyên thẳng qua die chứ không vòng quanh rìa gói nên đường tín hiệu được tối thiểu hóa và băng thông được tối đa hóa. HBM (High Bandwidth Memory) cho băng thông siêu rộng qua hàng nghìn I/O cũng chính vì nó xếp chồng dọc các die DRAM bằng hàng trăm đến hàng nghìn TSV.
Quy trình TSV được chia thành Via-First·Via-Middle·Via-Last theo "khi nào khoan lỗ", và trong sản xuất đại trà hiện nay phương thức Via-Middle — khắc ngay sau khi hình thành transistor và trước các lớp dây — là chủ đạo. Việc khắc dọc các lỗ sâu và mảnh (tỷ lệ cạnh cao) rồi lấp bằng đồng có thể gây nứt vi mô trên die do ứng suất (Stress) và chênh lệch giãn nở nhiệt, nên quy tắc thiết kế khắt khe, bao gồm một KOZ (Keep-Out Zone) cấm bố trí linh kiện quanh TSV. Vì vậy TSV được xử lý như một tài nguyên "nhất thiết cần cho hiệu năng nhưng kèm chi phí diện tích và ứng suất", và số lượng cùng cách bố trí phải được tối ưu cẩn thận.
Sắp xếp lại quan hệ giữa các thành phần này: TSV là đường tín hiệu dọc, interposer và RDL là mặt phẳng dây ngang, còn bump và hybrid bonding là phương tiện ghép nối — mỗi thứ một vai trò khác nhau. Ở 2.5D thì interposer và bump là nhân vật chính, ở 3D là TSV và hybrid bonding, còn ở fan-out là RDL. Nói cách khác, tổ hợp các thành phần nào quyết định bản sắc của phương thức đóng gói, và mức tự do của tổ hợp này chính là lý do đóng gói tiên tiến được gọi là "công nghệ thiết kế".
Interposer silic (Silicon Interposer) là đế trung gian trên đó đặt nhiều die và liên kết với nhau bằng vi dây phía dưới. Trong khi đế hữu cơ (Organic Substrate) có bề rộng dây cỡ hàng chục ㎛, interposer silic được chế tạo bằng quy trình bán dẫn và có thể hiện thực hóa hàng chục nghìn dây siêu mịn dưới 1㎛, tạo nên cốt lõi của tích hợp 2.5D. Lớp tái phân bố (RDL, Redistribution Layer) là lớp vi dây kim loại tái bố trí các pad I/O của die về vị trí mong muốn; nó là nền tảng của đóng gói fan-out, vốn hiện thực hóa dây mật độ cao bằng vật liệu hữu cơ mà không cần interposer silic đắt tiền. Cuối cùng, micro-bump và C4 bump là các điểm ghép nối điện liên kết die, interposer và đế, tạo thành cấu trúc phân tầng mà pitch càng lên trên (die↔interposer) càng hẹp và dày, càng xuống dưới (đế↔bo) càng rộng. Vì việc thu hẹp pitch ghép nối này đến đâu quyết định trần của mật độ tích hợp, nên sự chuyển sang hybrid bonding rốt cuộc là xu hướng muốn loại bỏ các bump này.
Ở đây cần ghi nhận ý nghĩa của tên gọi "2.5D". Ở điểm die nằm trên một mặt phẳng thì là 2D, nhưng ở điểm interposer nối chúng bao gồm đường tín hiệu dọc qua TSV thì nó có yếu tố 3D. Tức là nó được gọi là 2.5D theo nghĩa ở giữa xếp chồng dọc hoàn toàn (3D) và bố trí phẳng (2D). Sự phân biệt này vượt khỏi cách đặt tên đơn thuần, hé lộ một phổ liên tục của độ khó tích hợp trong đó nhiệt, mật độ dây và độ khó thiết kế tăng dốc từ 2D→2.5D→3D. Do đó trong thực tế, tích hợp lai (Hybrid) — dùng 2.5D cho bộ nhớ cần băng thông cấp thiết và 3D cho cache ngay trong một sản phẩm — đang trở nên phổ biến.
A. Tích hợp 2.5D — Đặt cạnh nhau theo chiều ngang
2.5D đặt die logic và die bộ nhớ (HBM) nằm ngang cạnh nhau trên interposer và nối chúng bằng vi dây siêu mịn bên trong interposer. Vì không xếp chồng dọc nên quản lý nhiệt tương đối dễ, và có thể đặt bộ nhớ sống còn về băng thông như HBM sát ngay bên cạnh khối tính toán. Công nghệ tiêu biểu là CoWoS (Chip-on-Wafer-on-Substrate) của TSMC, mà phần lớn bộ tăng tốc AI trung tâm dữ liệu của NVIDIA·AMD dùng để tích hợp GPU và HBM.
Năng lực cạnh tranh của CoWoS nằm ở việc mở rộng kích thước interposer để chứa nhiều die tính toán và HBM hơn. TSMC đang sản xuất đại trà CoWoS kích thước gấp 5,5 lần reticle với hiệu suất được báo cáo vượt 98%, và đã trình bày lộ trình nhắm sản xuất đại trà vào năm 2028 một gói kích thước gấp 14 lần reticle (khoảng 10 die tính toán + khoảng 20 stack HBM). Năng lực CoWoS gần như tăng gấp đôi mỗi năm trong ba năm qua mà vẫn chưa đáp ứng đủ nhu cầu AI, và nguồn cung bộ nhớ cùng đế ABF bị chỉ ra là nút thắt thêm nữa.
Một biến thể hạ chi phí bằng cách nhúng một cầu silic (silicon bridge) cục bộ (ví dụ Intel EMIB, Embedded Multi-die Interconnect Bridge) vào đế hữu cơ thay cho interposer silic cũng được dùng rộng rãi. Interposer silic toàn phần càng nhiều die càng lớn diện tích, làm tăng chi phí chế tạo và gánh nặng hiệu suất, trong khi EMIB chỉ chèn cục bộ một cầu silic nhỏ tại điểm die gặp die, giải quyết chỉ nơi cần dây mật độ cao và giao phần còn lại cho đế hữu cơ rẻ hơn. Đây là khác biệt triết lý thiết kế — "trải dây siêu mật độ khắp nơi, hay chỉ đặt ở điểm cần thiết" — tạo thành một ngã rẽ quan trọng của tích hợp 2.5D về mặt chi phí và khả năng mở rộng.
B. Tích hợp 3D — Xếp chồng theo chiều dọc
3D xếp chồng dọc các die bằng TSV, thu được dây ngắn hơn một chiều và mật độ tích hợp cao hơn 2.5D. Đặt cache hoặc bộ nhớ lên trên die tính toán cho dữ liệu đi thẳng lên xuống mà không cần băng qua mặt phẳng, nên băng thông, độ trễ và hiệu suất năng lượng cải thiện mang tính đột phá. Nếu ở dây phẳng (2D) khoảng cách giữa hai khối lên tới vài mm, thì ở xếp chồng dọc nó co lại còn hàng chục ㎛, nên độ trễ tín hiệu và công suất điều khiển có thể giảm theo bội số hàng chục đến hàng trăm lần. Đây là động cơ căn bản của việc đặt bộ nhớ "lên trên" thay vì "bên cạnh". 3D V-Cache của AMD, xếp cache L3 lên trên die CPU để nâng hiệu năng workload game và nặng về cache, là một trường hợp thương mại tiêu biểu. Thế hệ đầu đặt die cache phía trên lõi tính toán, khiến khó rút nhiệt khỏi lõi và phải hy sinh tần số hoạt động, nhưng thế hệ sau đã tái thiết kế chính cấu trúc xếp chồng, chuyển cache xuống phía dưới lõi để cải thiện đường thoát nhiệt. Như vậy, xếp chồng làm trầm trọng thêm vấn đề mật độ nhiệt (Thermal Density) của nhiệt bị giam, nên đặt die nào lên trên và rút nhiệt thế nào trở thành bài toán thiết kế cốt lõi, và một thứ tự xếp chồng quyết định trần hiệu năng.
C. Hybrid bonding — Loại bỏ bump
Xếp chồng truyền thống nối các die bằng những viên hàn nhỏ gọi là micro-bump, nhưng có giới hạn vật lý trong việc thu hẹp khoảng cách bump (pitch). Hybrid bonding là công nghệ thế hệ mới ghép trực tiếp đồng-đồng (Cu-Cu) không bump, thu hẹp pitch xuống còn vài ㎛ trở xuống. Mật độ dây trở nên cao gấp tối đa hơn 10 lần so với bump, cải thiện băng thông và hiệu suất điện một cách nhảy vọt. TSMC cung cấp SoIC (System on Integrated Chips) trên nền hybrid bonding, trình bày lộ trình từ pitch khoảng 6㎛ hiện nay tới pitch 4,5㎛ vào năm 2029, và M5 Pro·M5 Max của Apple được biết đã áp dụng đóng gói nền SoIC. Foveros Direct của Intel và SAINT của Samsung cũng hướng theo cùng một hướng.
Nhìn sâu hơn chút vào độ khó của hybrid bonding, loại bỏ bump nghĩa là làm phẳng đến cấp nguyên tử các pad đồng và màng oxit xung quanh của hai die rồi áp vào nhau, sau đó khuếch tán và ghép đồng bằng ủ nhiệt (xử lý nhiệt). Chỉ cần vài nanomet hạt hoặc gồ ghề trên bề mặt cũng gây lỗi ghép (void), nên quy trình siêu sạch, siêu phẳng và độ chính xác căn chỉnh cấp nanomet là bắt buộc. Chính độ khó quy trình này là lý do hybrid bonding được xếp vào "thế hệ mới", và là lý do việc bảo đảm hiệu suất sản xuất đại trà trở thành điểm quyết thắng của cạnh tranh ngành.
D. Đóng gói fan-out — Dung hòa chi phí thấp mật độ cao
Không phải ứng dụng nào cũng cần interposer silic đắt tiền. Đóng gói fan-out (Fan-Out) tái bố trí die lên một wafer hoặc panel tái cấu trúc rồi chỉ bằng RDL (lớp tái phân bố) trải I/O ra rộng phía ngoài (fan-out) để bảo đảm nhiều đầu vào ra hơn. Có thể bỏ interposer silic và đế nên độ dày giảm, chi phí hạ và đặc tính điện cải thiện. Tiêu biểu là InFO (Integrated Fan-Out) của TSMC, được áp dụng cho AP dòng A của Apple để nâng form factor và hiệu suất điện di động. Fan-out không siêu mật độ như 2.5D, nhưng lấp vào vùng trung gian của phổ đóng gói tiên tiến ở điểm cung cấp điểm cân bằng chi phí–hiệu năng cho các ứng dụng số lượng lớn "nơi băng thông chưa cấp thiết đến mức phải dùng interposer".
3. So sánh các loại hình công nghệ chính
Bảng dưới đây so sánh các phương thức tích hợp và công nghệ tiêu biểu. Tuy nhiên bảng chỉ là phương tiện hỗ trợ sắp xếp; bản chất của lựa chọn nằm ở sự đánh đổi tam giác giữa nhu cầu băng thông, nhiệt và chi phí. Bộ tăng tốc AI mà băng thông HBM là cốt lõi dùng 2.5D CoWoS, CPU mà dung lượng cache là cốt lõi dùng xếp chồng 3D, còn chip di động và mạng nhạy chi phí dùng fan-out (InFO) — như vậy đặc tính workload quyết định lựa chọn đóng gói.
| Phân loại | Hướng tích hợp | Phương tiện dây | Mật độ dây | Công nghệ tiêu biểu | Dùng chính |
|---|---|---|---|---|---|
| FC-BGA truyền thống | Một mặt phẳng | Solder bump | Thấp | Flip chip | SoC phổ thông |
| Fan-Out | Mở rộng phẳng | RDL | Trung bình | TSMC InFO | AP di động |
| 2.5D | Ngang | Interposer silic/bridge | Cao | CoWoS, EMIB | Bộ tăng tốc AI + HBM |
| 3D | Dọc | TSV + micro-bump | Rất cao | 3D V-Cache | Xếp chồng cache/bộ nhớ |
| 3D hybrid bonding | Dọc | Ghép trực tiếp Cu-Cu | Cao nhất | SoIC, Foveros Direct | Xếp chồng logic thế hệ mới |
Dựng lại năm loại hình trong bảng trên một trục duy nhất, rốt cuộc đó là một phổ liên tục giữa mật độ dây (băng thông) và chi phí/độ khó quy trình. Càng về bên phải (hybrid bonding) hiệu năng càng lên, nhưng hiệu suất càng khó bảo đảm và vốn đầu tư càng tăng. Do đó không tồn tại "đóng gói tốt nhất"; nó trở thành bài toán chọn điểm phù hợp nhất trong tổ hợp băng thông, công suất, form factor và chi phí mà sản phẩm đòi hỏi. Quan điểm này quan trọng vì tích hợp quá mức ngược lại có thể làm tăng tổng chi phí sở hữu do mất hiệu suất và phát nhiệt.
Nhìn vào khác biệt giữa fan-out và 2.5D tới tận lý do: fan-out không dùng interposer silic đắt tiền và chỉ bằng RDL tái bố trí I/O để hạ chi phí nhưng mật độ dây bị hạn chế, còn 2.5D đạt siêu mật độ nhờ interposer silic nhưng đắt vì bản thân interposer được làm bằng quy trình bán dẫn. Tức là câu hỏi "băng thông có thực sự cần không, hay chi phí quan trọng hơn?" phân tách hai phương thức. Khác biệt giữa 3D và hybrid bonding cũng vậy: xếp chồng micro-bump đã chín và ổn định nhưng hạn chế trong giảm pitch, còn hybrid bonding thu hẹp pitch xuống vài ㎛ trở xuống để tối đa hóa băng thông nhưng đòi hỏi độ phẳng, độ sạch và độ chính xác căn chỉnh bề mặt cấp nguyên tử, nên độ khó quy trình và vốn đầu tư cao hơn hẳn. Một ước tính đầu tư cho rằng chi phí vốn trên một đơn vị năng lực của SoIC cao hơn đáng kể so với CoWoS.
Điểm mà so sánh này mang ý nghĩa thực tiễn là sự nhất quán với lộ trình sản phẩm. Chẳng hạn, một AP di động phổ thông dùng hybrid bonding là đầu tư quá mức, ngược lại một bộ tăng tốc AI cao cấp nhất dừng ở fan-out là lựa chọn tự chuốc lấy thiếu băng thông. Do đó lựa chọn đóng gói phải được xử lý không như phán đoán kỹ thuật cho một chip đơn mà như một quyết định chiến lược có cân nhắc cả vị thế thị trường, sản lượng và vòng đời của sản phẩm.
A. Đế thế hệ mới — Đế thủy tinh và đóng gói cấp panel
Ngang với mật độ dây, giới hạn của chính cái đế cũng đang trở thành nút thắt. Các gói 2.5D và gói lớn hiện nay dùng đế ABF vật liệu hữu cơ, nhưng gói càng lớn thì đế càng cong (warpage) và khó trải dây mịn một cách ổn định. Để vượt qua điều này, đế thủy tinh (Glass Substrate) đã nổi lên như một phương án thay thế thế hệ mới đầy triển vọng. Thủy tinh có độ phẳng và độ ổn định kích thước xuất sắc và dễ khớp giãn nở nhiệt với silic, cho phép các gói lớn hơn với dây mịn hơn. Ngoài ra, đóng gói cấp panel (PLP, Panel-Level Packaging), xử lý theo đơn vị panel vuông thay vì wafer tròn, là nỗ lực hạ chi phí trên một đơn vị diện tích bằng cách gia công một diện tích lớn hơn trong một lần, giảm lãng phí rìa của cấp wafer (WLP). Những công nghệ này còn tồn tại thách thức về độ chín sản xuất đại trà, nhưng gắn với xu thế gói hóa khổng lồ, chúng được chỉ ra là chiến trường tiếp theo của đóng gói tiên tiến.
Khi đế, quy trình và phương thức tích hợp cùng tiến hóa như vậy, đóng gói tiên tiến phải được hiểu không như một công nghệ đơn lẻ mà như một lộ trình tổng hợp trong đó nhiều hướng công nghệ ăn khớp cùng phát triển. Vì cấu trúc là việc đóng gói lấp vào khoảng trống để lại khi thu nhỏ (tiền công đoạn) chậm lại, nên viễn cảnh trong đó tốc độ đổi mới của tiền công đoạn và hậu công đoạn giao nhau và bổ sung để dẫn dắt đường cong hiệu năng tổng thể được dự kiến tiếp diễn một thời gian.
4. Trường hợp ứng dụng và luồng quy trình đóng gói
Nhìn vào quá trình đóng gói thực tế của một bộ tăng tốc AI sẽ thấy rõ vì sao đóng gói tiên tiến được gọi là "tiền-công-đoạn-hóa của hậu công đoạn". Sơ đồ dưới đây đơn giản hóa luồng lắp ráp của một bộ tăng tốc AI nền 2.5D CoWoS.
flowchart LR
A["Die logic GPU<br/>(công nghệ tiên tiến nhất)"] --> C["Ghép lên interposer silic<br/>(Chip-on-Wafer)"]
B["Stack HBM<br/>(xếp chồng dọc TSV)"] --> C
C --> D["Gắn interposer lên đế<br/>(on-Substrate)"]
D --> E["Molding / underfill / cấu trúc thoát nhiệt"]
E --> F["Gói hoàn chỉnh (bộ tăng tốc AI)"]
Điểm đáng chú ý trong luồng quy trình là mọi công đoạn đều tích lũy hiệu suất theo phép nhân. Die logic, stack HBM và interposer mỗi thứ đều phải là hàng tốt, và tổn thất cộng dồn ở mỗi công đoạn ghép, gắn và molding, nên hiệu suất gói cuối cùng rơi gần bằng tích các hiệu suất quy trình riêng lẻ. Vì một lỗi ở công đoạn cuối sau khi đã gom các die đắt tiền gây tổn thất khổng lồ, nên bố trí dày đặc kiểm tra trung gian và sàng lọc KGD ở mỗi công đoạn là cốt lõi của quản lý chi phí.
Làm ví dụ cụ thể, H100 của NVIDIA tích hợp nhiều stack HBM quanh một die GPU đơn theo 2.5D trên interposer CoWoS, bảo đảm băng thông bộ nhớ cấp terabyte trên giây (TB/s). Bản thân stack HBM là cấu trúc 3D xếp chồng dọc 8–12 tầng die DRAM bằng TSV, nên trong một bộ tăng tốc AI đơn lẻ 2.5D và 3D cùng tồn tại chồng lấn. Ở một ví dụ khác, CPU máy chủ của AMD dùng 3D V-Cache xếp chồng một die cache L3 lên trên die CPU bằng hybrid bonding, nâng hiệu năng workload nặng cache ở cùng mức công suất. Ở di động, InFO (Integrated Fan-Out) của TSMC được dùng trong AP dòng A của Apple để nắm bắt cả hiệu suất điện lẫn form factor bằng một gói fan-out mỏng và rẻ. Gần đây, M5 Pro·M5 Max của Apple đã áp dụng đóng gói 2.5D nền SoIC, cho thấy xu thế tích hợp hybrid bonding lan cả sang các sản phẩm tiêu dùng hiệu năng cao.
Điểm chung xuyên suốt ba trường hợp này là ý tưởng "đưa dữ liệu lại gần hơn" thay vì "làm tính toán nhanh hơn". H100 cải thiện băng thông bằng cách gắn bộ nhớ cạnh tính toán, V-Cache cải thiện độ trễ bằng cách xếp cache lên trên tính toán, còn InFO cải thiện mật độ tích hợp bằng cách trải rộng I/O. Cả ba đều là kết quả không phải của việc làm transistor nhỏ hơn mà của việc tái thiết kế cách bố trí và kết nối die, cho thấy đóng gói tiên tiến đã trở thành một trục mới của việc nâng cao hiệu năng. Về mặt số liệu cũng vậy, tích hợp 2.5D HBM nâng băng thông lên hàng chục lần so với bộ nhớ cấp bo truyền thống đồng thời hạ mạnh năng lượng truyền trên mỗi bit (pJ/bit), đóng góp trực tiếp vào hiệu suất năng lượng của huấn luyện và suy luận AI.
Sự chuyển đổi này cũng lan tỏa vào phương pháp luận thiết kế. Trong khi trước đây đóng gói được cân nhắc sau khi thiết kế chip hoàn tất, thì nay Tối ưu hóa chung Công nghệ Hệ thống (System Technology Co-Optimization, STCO) — giải cùng lúc phân chia die, giao diện, nhiệt, công suất và cấu trúc gói ngay từ đầu thiết kế — đang trở thành chuẩn mực. Nói cách khác, quyền quyết định đối với hiệu năng đã chuyển từ một transistor đơn sang thiết kế tích hợp của toàn hệ thống.
Khác biệt quyết định với đóng gói truyền thống trong luồng này là các quy trình như chế tạo interposer, khắc TSV và ghép siêu mịn đòi hỏi độ chính xác cấp tiền công đoạn bán dẫn. Vì thế các foundry (TSMC, Samsung) và OSAT (các hãng đóng gói gia công) đi đến cạnh tranh trực tiếp trong lĩnh vực đóng gói tiên tiến, và đóng gói được tái cấu trúc từ "hậu công đoạn" giá trị thấp thành một trục cốt lõi của năng lực cạnh tranh foundry.
Quản lý nhiệt cũng đang được tích hợp như một phần của thiết kế gói. Khi die được xếp chồng dọc và diện tích gói tăng, nhiệt trên một đơn vị diện tích tăng vọt, chạm giới hạn của riêng các tấm tản nhiệt (heat spreader) truyền thống. Theo đó, làm mát bằng chất lỏng trực tiếp nhận nhiệt ngay trên die, làm mát vi lưu (Microfluidic Cooling) khắc các vi kênh bên trong gói, và cải tiến TIM (Thermal Interface Material) dẫn nhiệt cao đã được đưa vào như các yếu tố thiết yếu của lộ trình đóng gói. Tức là câu hỏi "tích hợp thế nào" không còn tách rời được khỏi câu hỏi "rút nhiệt thế nào", và thiết kế chung (Co-Design) giải cùng lúc công suất, nhiệt và dây quyết định thành bại của đóng gói tiên tiến.
5. Chuyên sâu — Xu hướng mới nhất và cục diện cạnh tranh ngành
Đóng gói tiên tiến hiện là lĩnh vực đầu tư nóng nhất trong ngành bán dẫn. Khi nhu cầu bộ tăng tốc AI bùng nổ, die được tích hợp tốt đến đâu — thay vì việc thu nhỏ die tính toán — đã trở thành nút thắt nguồn cung và thước đo năng lực cạnh tranh, và các foundry đang rót vào đóng gói khoản đầu tư không kém tiền công đoạn. Hướng đi có thể tóm trong ba điểm.
Thứ nhất, sự khổng lồ hóa của gói. TSMC đang sản xuất đại trà CoWoS 5,5 lần reticle và dự định mở rộng diện tích gói lên 14 lần vào năm 2028 và hơn nữa vào năm 2029, để chứa nhiều die tính toán và HBM hơn trong một gói. Đây là chiến lược đẩy dung lượng và băng thông bộ nhớ của một bộ tăng tốc đơn lẻ tới cực hạn theo nhịp tăng trưởng bùng nổ của các mô hình AI. Tuy nhiên gói càng lớn thì warpage đế, phân bố nhiệt không đều và sụt hiệu suất càng nặng, nên chỉ bền vững khi song hành với các công nghệ nền thế hệ mới như đế thủy tinh và PLP.
Thứ hai, sự chuyển sang hybrid bonding. Khi micro-bump chạm giới hạn pitch, TSMC SoIC, Intel Foveros Direct và Samsung SAINT đều đang chuyển sang ghép trực tiếp Cu-Cu. TSMC SoIC nhắm 4,5㎛ vào năm 2029 từ pitch khoảng 6㎛ hiện nay, còn Intel Foveros Direct hướng tới pitch dưới 10㎛ cho mật độ dây gấp tối đa 10 lần micro-bump. Tuy nhiên các con số này là ước tính dựa trên công bố của hãng và ngành, và phạm vi áp dụng thực tế có thể thay đổi theo chi phí, hiệu suất và phát nhiệt, nên khó khẳng định chắc chắn. Hàm ý quan trọng là khi pitch thu hẹp thì mật độ I/O die-to-die tăng nên băng thông bộ nhớ và hiệu suất điện cùng cải thiện, và điều này ảnh hưởng trực tiếp đến cách kết hợp base die và logic ở HBM thế hệ mới (HBM4 trở đi).
Thứ ba, nút thắt hệ sinh thái và tái cấu trúc chuỗi cung ứng. Trong tình huống nhu cầu CoWoS không được đáp ứng đủ dù năng lực tăng gấp đôi mỗi năm, bộ nhớ HBM và đế ABF bị chỉ ra là nút thắt thêm nữa. Theo đó, đầu tư lan sang các hãng OSAT, vật liệu và thiết bị, và trong nước (Hàn Quốc) thì Samsung Electronics và SK hynix cũng đang cạnh tranh với việc xếp chồng HBM, hybrid bonding và năng lực tích hợp đóng gói làm nhiệm vụ chiến lược.
Cũng nên ước lượng hướng ra đề có thể. Ở dạng trả lời ngắn có thể là "khác biệt giữa đóng gói 2.5D và 3D", "nguyên lý và vai trò của TSV", "so sánh CoWoS·SoIC·Foveros", còn ở dạng luận giải có khả năng cao là cấu trúc nối vấn đề bối cảnh (bức tường bộ nhớ, giới hạn thu nhỏ) với giải pháp kỹ thuật, như "hãy luận về vai trò và thách thức của đóng gói tiên tiến trong việc nâng cao hiệu năng bộ tăng tốc AI" hay "vấn đề bức tường bộ nhớ và giải pháp dựa trên đóng gói". Vì các chủ đề đã ra và tương tự liên quan — [[chiplet]]·[[ucie-chiplet-interconnect]]·[[high-bandwidth-memory]]·[[backside-power-delivery]] — có xu hướng được ra đề cùng nhau, nên hiểu đóng gói tiên tiến như một khái niệm cấp cao xuyên suốt chúng sẽ có lợi cho việc dựng bài.
Tóm lại, cạnh tranh trong đóng gói tiên tiến hội tụ về một cuộc đua ba mặt "ai tích hợp lớn hơn, dày đặc hơn và ổn định hơn". Trong khi TSMC giữ vị trí dẫn đầu với CoWoS và SoIC, Intel (Foveros, EMIB) và Samsung (SAINT, I-Cube) đuổi theo, còn các hãng bộ nhớ nắm HBM cũng đang gia nhập chuỗi giá trị đóng gói thông qua base die và HBM tùy biến. Thắng bại của cuộc cạnh tranh này tùy thuộc vào năng lực tổng hợp bao trùm tiêu chuẩn, hệ sinh thái và chuỗi cung ứng vượt khỏi công nghệ quy trình đơn thuần.
6. Điểm cần cân nhắc và hàm ý
Đóng gói tiên tiến, vượt khỏi một công nghệ hậu công đoạn đơn thuần, là một biến số chiến lược tái cấu trúc chuỗi giá trị và cục diện cạnh tranh của ngành bán dẫn. Các điểm cốt lõi cần cân nhắc từ góc nhìn Kỹ sư chuyên nghiệp khi áp dụng và hoạch định chiến lược như sau.
- Thiết kế toàn vẹn nhiệt và công suất (PI/TI): Càng xếp chồng nhiều die, mật độ nhiệt càng vọt lên và cấp điện càng khó. Thiết kế nhiệt (TIM, làm mát vi lưu) và mạng cấp điện (PDN) phải được tích hợp (co-design) ngay từ đầu thiết kế gói, và die yếu về nhiệt phải chọn vị trí xếp chồng cẩn trọng. Đặc biệt, khi đường cấp điện tới die trên cùng trong một xếp chồng 3D dài ra và sụt áp (IR Drop) nặng thêm, thì việc kết hợp với các công nghệ cấp điện mặt sau như [[backside-power-delivery]] nhất thiết được xem xét.
- Tích hợp thiết kế–quy trình (Chiplet + Package Co-Design): Cần một hệ thống thiết kế toàn chu trình tối ưu đồng thời việc phân chia die, chuẩn giao diện (UCIe, HBM), dây interposer, và nhiệt/công suất. Một tổ chức thiết kế chỉ nhìn tiền công đoạn phải mở rộng thành năng lực bao trùm cả đóng gói.
- Đánh đổi chi phí–hiệu suất: Hybrid bonding và interposer lớn tối đa hóa băng thông nhưng làm tăng vọt độ khó quy trình và vốn đầu tư. Bằng cách so sánh mức băng thông workload đòi hỏi với chi phí mục tiêu, phải chọn tích hợp đúng mức (Right-sizing) thay vì tích hợp quá mức.
- Rủi ro chuỗi cung ứng và KGD: Vì đóng gói kết hợp nhiều die tốt (KGD, Known-Good-Die) nên chỉ một die lỗi là bỏ toàn bộ các die đắt tiền. Kiểm thử sàng lọc theo từng die, đa nguồn, và bảo đảm ổn định các tài nguyên nút thắt như HBM và đế ABF có ý nghĩa chiến lược.
- Tái cấu trúc tổ chức và năng lực: Cấu trúc tổ chức và chuỗi cung ứng truyền thống tách tiền công đoạn (thiết kế, linh kiện) khỏi hậu công đoạn (đóng gói) khó đáp ứng yêu cầu của co-design. Có một hệ thống kỹ thuật tích hợp bao trùm thiết kế, tiền công đoạn, đóng gói và kiểm thử, cùng mô hình hợp tác chặt chẽ giữa foundry–OSAT–hãng vật liệu, là tiền đề của năng lực cạnh tranh trung và dài hạn.
- Triển vọng tiêu chuẩn hóa và hệ sinh thái: Sự chín của các chuẩn D2D như UCIe và của quy trình hybrid bonding là chìa khóa cho phép tích hợp hỗn hợp chiplet đa nhà cung cấp. Về dài hạn, đóng gói là một trục cốt lõi của năng lực cạnh tranh foundry, và việc có bảo đảm được năng lực đóng gói tiên tiến hay không được dự kiến sẽ quyết định quyền chủ đạo trong bán dẫn AI.
- Hệ thống kiểm thử và thẩm định độ tin cậy: Vì sau khi tích hợp die thì khó tiếp cận và sửa lỗi bên trong, nên cần một chiến lược DFT (Design for Test) bao trùm cả sàng lọc trước ghép theo từng die (Pre-bond Test) lẫn thẩm định liên kết sau ghép (Post-bond Test). Vì một lỗi vi mô duy nhất trong hàng nghìn TSV và bump có thể làm giảm độ tin cậy của cả gói, nên phải tái định nghĩa việc thẩm định độ tin cậy như burn-in và chu kỳ nhiệt ở cấp độ gói.
Tài liệu tham khảo
- TrendForce, "TSMC's 5.5-reticle CoWoS reportedly tops 99% yield" — https://www.trendforce.com/news/2026/08/11/news-tsmcs-5-5-reticle-cowos-reportedly-tops-99-yield-flags-memory-abf-as-ai-bottlenecks/
- TrendForce, "TSMC speeds up AP7/AP8 build-outs, targets doubling SoIC capacity" — https://www.trendforce.com/news/2025/03/26/news-tsmc-reportedly-speeds-up-ap7-and-ap8-build-outs-targets-doubling-soic-capacity/
- EENewsEurope, "TSMC SoIC roadmap 2029 chip stacking" — https://www.eenewseurope.com/en/tsmc-soic-roadmap-2029-chip-stacking
- Intel, "Foveros Direct 3D Tech Brief" — https://www.intel.com/content/dam/www/central-libraries/us/en/documents/2025-11/foveros-direct-3d-tech-brief.pdf
Tóm tắt một câu: Đóng gói bán dẫn tiên tiến tích hợp die theo 2.5D và 3D bằng TSV, interposer và hybrid bonding để vượt qua bức tường bộ nhớ và giới hạn thu nhỏ; tiêu biểu là CoWoS, SoIC và Foveros, nó đã nổi lên như một trục cốt lõi của năng lực cạnh tranh foundry thời đại AI.