Kỹ sư QLTT Ghi chú ôn thi
← Về danh sách
AI & Dữ liệu
#지속학습#파국적망각#리허설#EWC#평생학습
Cập nhật lần cuối · 2026-10-26

Học liên tục (Continual Learning) và Quên thảm họa (Catastrophic Forgetting)

1. Tổng quan

Học liên tục (Continual Learning, còn gọi là học suốt đời Lifelong Learning) là một mô thức học máy trong đó một mô hình duy nhất học từ dữ liệu của nhiều tác vụ (task) và phân phối (distribution) đến theo trình tự theo thời gian, đồng thời bảo tồn tri thức đã thu nhận trước đó để duy trì và tích lũy hiệu năng trên toàn bộ các tác vụ. Hiện tượng tri thức hiện có bị mất đột ngột trong quá trình học tri thức mới được gọi là Quên thảm họa (Catastrophic Forgetting).

Học có giám sát truyền thống giả định toàn bộ dữ liệu được cung cấp cùng lúc dưới dạng mẫu độc lập cùng phân phối (i.i.d.) và tối thiểu hóa hàm mất mát qua nhiều epoch lặp lại. Tuy nhiên, trong thực tế các dịch vụ AI không nhận dữ liệu cùng một lúc. Danh mục sản phẩm mới được thêm vào, biến thể mã độc mới xuất hiện, sở thích người dùng và xu hướng thị trường liên tục thay đổi. Trong môi trường dòng dữ liệu phi tĩnh (non-stationary data stream) như vậy, nếu mỗi lần đều huấn luyện lại (retraining) mô hình trên toàn bộ dữ liệu thì chi phí lưu trữ và tính toán tăng hơn cả tuyến tính, và trong nhiều trường hợp dữ liệu gốc quá khứ thậm chí không thể lưu giữ do quy định bảo vệ quyền riêng tư (như quyền được xóa của GDPR). Học liên tục đối diện trực tiếp với vấn đề này với mục tiêu "cập nhật mô hình chỉ bằng dữ liệu mới mà không quên quá khứ".

Nguyên nhân gốc rễ của quên thảm họa là tri thức của mạng nơ-ron được giữ dưới dạng biểu diễn phân tán (distributed representation) trên toàn bộ trọng số. Khi hạ gradient (gradient descent) của tác vụ B di chuyển lại các trọng số đã hội tụ cho tác vụ A mà hoàn toàn không xét đến địa hình mất mát của tác vụ A, thì các tham số quan trọng với A bị ghi đè. Kể từ khi McCloskey và Cohen lần đầu báo cáo hiện tượng này vào năm 1989, học liên tục vẫn là bài toán nan giải cốt lõi cho một AI trưởng thành bằng cách tích lũy kinh nghiệm như con người (học suốt đời), và gần đây nó thu hút sự chú ý trở lại gắn với nhu cầu cập nhật liên tục các mô hình ngôn ngữ lớn (LLM) mà không phải loại bỏ và huấn luyện lại — cái gọi là Tiền huấn luyện liên tục (Continual Pre-training).

Các đặc trưng chủ chốt mà học liên tục hướng tới có thể tóm lược như sau.

  • Tích lũy tri thức tăng dần: lý tưởng là tăng đơn điệu hiệu năng trên toàn bộ các tác vụ khi học các tác vụ mới.
  • Truy cập quá khứ hạn chế: bảo tồn tri thức với ít tài nguyên, không lưu giữ và tái sử dụng toàn bộ dữ liệu quá khứ.
  • Khai thác chuyển giao tri thức: theo đuổi một vòng tuần hoàn tích cực khi học tác vụ mới nhanh hơn nhờ tri thức quá khứ (chuyển giao tiến) và củng cố quá khứ bằng tác vụ mới (chuyển giao lùi dương).
  • Thích nghi trong vận hành: hướng tới khả năng thích nghi trực tuyến với biến động phân phối trong môi trường vận hành mà không cần tái triển khai.

Học liên tục cũng được truyền cảm hứng về mặt sinh học. Theo lý thuyết Hệ thống học bổ sung (Complementary Learning Systems) của não bộ, vùng hải mã (hippocampus) nhanh chóng lưu trữ kinh nghiệm gần đây và tái hiện (replay) chúng chậm rãi lên vỏ não mới (neocortex) trong lúc ngủ để tích hợp với tri thức hiện có. Ý tưởng đằng sau các phương pháp dựa trên diễn tập — ngăn quên nhờ tái hiện bộ đệm — tương ứng trực tiếp với cơ chế "cố kết (consolidation) thông qua tái hiện ký ức" này. Lý do con người không quên tiếng mẹ đẻ khi học một ngôn ngữ mới nằm ở việc bảo tồn và tái hiện có chọn lọc như vậy, và học liên tục có thể được xem là nỗ lực tái hiện điều này trong mạng nơ-ron nhân tạo.

Về mặt tài nguyên học, học liên tục khác biệt một cách quyết định với học theo lô (batch) truyền thống ở hai giả định. Thứ nhất, dữ liệu đến dưới dạng dòng phi tĩnh (non-stationary) có phân phối thay đổi theo thời gian, nên giả định i.i.d. bị phá vỡ. Thứ hai, truy cập dữ liệu quá khứ bị hạn chế, nên dữ liệu đã trôi qua không thể xem lại tự do. Tuân thủ nghiêm cả hai ràng buộc — chỉ nhìn dữ liệu một lần — tạo ra học liên tục trực tuyến (Online CL), còn cho phép nhiều epoch mỗi tác vụ tạo ra học liên tục ngoại tuyến (theo lô). Hơn nữa, học liên tục không rõ ranh giới tác vụ (task-free), trong đó ngay cả ranh giới tác vụ (task boundary) cũng không được chỉ rõ và phân phối biến đổi từ từ, là bối cảnh thực tế nhất nhưng khó nhất, tương ứng với các tình huống như lái xe tự hành và gợi ý trực tuyến nơi chính mô hình phải phát hiện "khi nào tác vụ đã thay đổi".

2. Cấu trúc cơ bản của học liên tục và thế lưỡng nan ổn định-dẻo

flowchart LR
  subgraph STREAM["Dòng dữ liệu phi tĩnh (theo thứ tự thời gian)"]
    T1["Dữ liệu tác vụ 1"] --> T2["Dữ liệu tác vụ 2"] --> T3["Dữ liệu tác vụ 3"]
  end
  T1 --> M["Mô hình duy nhất (tham số theta)"]
  T2 --> M
  T3 --> M
  M --> EVAL["Đánh giá tích lũy (toàn bộ tác vụ 1~N)"]
  EVAL --> P["Tính dẻo (Plasticity): năng lực học tác vụ mới"]
  EVAL --> S["Tính ổn định (Stability): năng lực bảo tồn tri thức cũ"]
  P -. nếu quá mức .-> F["Quên thảm họa"]
  S -. nếu quá mức .-> R["Cứng nhắc (không học được tác vụ mới)"]

Hiệu năng của học liên tục được quyết định bởi sự cân bằng của hai năng lực đối nghịch. Một là tính dẻo (Plasticity), năng lực học đủ tốt một tác vụ mới đến. Hai là tính ổn định (Stability), năng lực duy trì hiệu năng trên các tác vụ đã học. Nếu cập nhật trọng số tự do để tối đa hóa tính dẻo thì tri thức quá khứ bị ghi đè và quên xảy ra; ngược lại, nếu cố định trọng số quá mức vì tính ổn định thì mô hình không học được tác vụ mới và trở nên cứng nhắc. Điều này gọi là thế lưỡng nan ổn định-dẻo (Stability-Plasticity Dilemma), và mọi phương pháp học liên tục rốt cuộc là một chiến lược khác nhau về việc chọn điểm nào trên cán cân này.

Thiết lập học được chia thành ba kịch bản tùy theo việc định danh tác vụ (task-id) có được cung cấp tại thời điểm đánh giá hay không. Bảng dưới sắp xếp chúng theo thứ tự độ khó; đặc biệt tăng dần theo lớp (Class-IL) là khó nhất và gần thực tế nhất, bởi tại thời điểm suy luận không thể biết đó là tác vụ nào và phải phân biệt tất cả các lớp bằng một bộ phân loại duy nhất.

Kịch bản Ranh giới tác vụ task-id khi suy luận Ví dụ Độ khó
Task-IL (tăng dần theo tác vụ) Rõ ràng Có cung cấp Đầu ra riêng cho từng tác vụ Thấp
Domain-IL (tăng dần theo miền) Rõ ràng Không cần (lớp giống nhau) Nhận dạng lái tự hành khi đổi ánh sáng/thời tiết Trung bình
Class-IL (tăng dần theo lớp) Rõ ràng Không cung cấp Bộ phân loại liên tục được thêm lớp mới Cao

Chẳng hạn, tình huống một mô hình nhận dạng lái tự hành chỉ được huấn luyện trên cảnh ban ngày rồi học tuần tự cảnh ban đêm và mưa tương ứng với Domain-IL, còn một mô hình kiểm tra ngoại quan trên dây chuyền sản xuất được thêm các loại lỗi mới hàng tháng tương ứng với Class-IL. Vì ngay cùng một thuật toán cũng cho khoảng cách hiệu năng lớn tùy kịch bản, nên khi so sánh benchmark phải luôn nêu rõ đó là kịch bản nào.

Các tính chất mà một thuật toán học liên tục lý tưởng cần có cũng rõ ràng. Thứ nhất là bộ nhớ hữu hạn (bounded memory): không gian lưu trữ không được tăng vô hạn ngay cả khi số tác vụ tăng lên. Thứ hai là độc lập với ranh giới tác vụ: phải hoạt động ngay cả khi không được cho biết khi nào tác vụ thay đổi. Thứ ba là thời gian/tính toán hằng số mỗi bước: chi phí cập nhật không được bùng nổ tỉ lệ với số tác vụ tích lũy. Các phương pháp thực tế cân bằng bằng cách hy sinh một phần trong ba tính chất này — PNN từ bỏ bộ nhớ, diễn tập từ bỏ độc lập với ranh giới tác vụ, và huấn luyện lại toàn bộ từ bỏ thời gian hằng số. Do đó chưa có học liên tục "hoàn hảo", và cần một phán đoán kỹ thuật để quyết định nhượng bộ điều gì theo ràng buộc vận hành.

3. Phân loại các phương pháp học liên tục

flowchart TB
  CL["Phương pháp học liên tục"] --> REG["Dựa trên chính quy hóa (Regularization)"]
  CL --> REP["Dựa trên diễn tập (Rehearsal/Replay)"]
  CL --> ARC["Dựa trên kiến trúc (Architecture)"]
  REG --> EWC["EWC: ức chế thay đổi trọng số quan trọng"]
  REG --> LWF["LwF: bảo tồn đầu ra bằng chưng cất tri thức"]
  REP --> ER["Diễn tập kinh nghiệm: bộ đệm mẫu quá khứ"]
  REP --> GEN["Diễn tập sinh: tái tạo quá khứ bằng GAN/VAE"]
  ARC --> PNN["Progressive Net: mở rộng một cột mỗi tác vụ"]
  ARC --> PET["Prompt/adapter: chỉ thêm ít tham số"]

Các phương pháp học liên tục được chia rộng thành ba họ theo cách ức chế quên. Mỗi họ có một góc nhìn khác nhau về việc giải thế lưỡng nan ổn định-dẻo, và trong thực tế các phương án lai (hybrid) kết hợp hai hoặc ba họ là phổ biến. Chính quy hóa bảo đảm tính ổn định bằng cách "ít di chuyển các trọng số quan trọng", diễn tập bảo đảm nó bằng cách "lặp lại ôn tập quá khứ", còn phương pháp dựa trên kiến trúc loại bỏ chính sự can nhiễu bằng cách "cô lập tham số theo từng tác vụ". Không cách nào miễn phí: mỗi cách trả giá tương ứng bằng thiết kế hàm mất mát, không gian lưu trữ, hoặc dung lượng mô hình.

A. Dựa trên chính quy hóa (Regularization-based)

Các phương pháp dựa trên chính quy hóa thêm một số hạng mất mát ức chế thay đổi mạnh hơn đối với các tham số từng quan trọng với tác vụ quá khứ. Vì không lưu dữ liệu quá khứ nên chúng hiệu quả về bộ nhớ và an toàn về quyền riêng tư. Phương pháp tiêu biểu EWC (Elastic Weight Consolidation, Kirkpatrick 2017) ước lượng độ quan trọng của tham số qua Ma trận thông tin Fisher (Fisher Information Matrix) và áp một hình phạt bậc hai khi một trọng số quan trọng trôi xa khỏi giá trị tối ưu trước đó. Theo trực giác, nó gắn một "lò xo (độ đàn hồi)" vào mỗi trọng số, giữ chắc hơn những trọng số càng quan trọng.

Một trục khác là LwF (Learning without Forgetting), tận dụng chưng cất tri thức (distillation): nó dùng đầu ra (soft target) thu được khi cho dữ liệu mới đi qua mô hình quá khứ làm thầy giáo, ràng buộc mô hình mới duy trì quan hệ đầu vào-đầu ra của quá khứ. Có nhiều biến thể trong cách ước lượng độ quan trọng của tham số — trong khi EWC đo độ quan trọng qua thông tin Fisher, SI (Synaptic Intelligence) theo dõi trực tuyến lượng đóng góp tích lũy của mỗi trọng số vào mất mát trên toàn quỹ đạo học, còn MAS (Memory Aware Synapses) ước lượng độ quan trọng theo cách không giám sát từ độ nhạy (độ lớn gradient) của hàm đầu ra. Như vậy chính định nghĩa "điều gì được xem là quan trọng" phân biệt các phương pháp.

Các phương pháp chính quy hóa đơn giản để triển khai và không tạo gánh nặng lưu trữ, nhưng khi số tác vụ tăng, các hình phạt mà các tác vụ khác nhau đòi hỏi va chạm nhau và hiệu năng suy giảm dần, và nếu ước lượng độ quan trọng không chính xác thì cả bảo tồn lẫn học đều có thể thất bại. Các nghiên cứu gần đây thậm chí báo cáo rằng khi dùng một mô hình tiền huấn luyện, chính quy hóa L2 đơn giản vượt trội EWC phức tạp hơn, nên lựa chọn phương pháp phụ thuộc nhiều vào việc có dùng tiền huấn luyện hay không và vào đặc tính dữ liệu. Do đó chính quy hóa thường được vận hành bổ trợ bằng cách kết hợp với diễn tập quy mô nhỏ hơn là dùng đơn lẻ.

B. Dựa trên diễn tập (Rehearsal/Replay)

Các phương pháp dựa trên diễn tập lưu một phần dữ liệu quá khứ trong một bộ đệm bộ nhớ nhỏ rồi, khi học tác vụ mới, trộn xen kẽ (interleave) nó với dữ liệu mới để huấn luyện lại. Ý tưởng tương tự cách con người duy trì ký ức qua ôn tập, và nó được biết đến là cho hiệu năng ổn định nhất trung bình trong ba họ. Khi bộ đệm nhỏ, việc giữ mẫu nào trở thành mấu chốt, nên các kỹ thuật như herding của iCaRL, chọn các mẫu đại diện gần trung bình lớp, và Lấy mẫu hồ chứa (Reservoir Sampling), bảo đảm thay thế ngẫu nhiên đồng đều, được sử dụng.

Vượt ra ngoài việc chỉ trộn vào và huấn luyện lại trên mẫu quá khứ, còn có một họ ức chế quên ở mức gradient. GEM/A-GEM (Gradient Episodic Memory) thực hiện tối ưu hóa có ràng buộc bảo đảm hiệu năng quá khứ bằng cách chiếu (projection) gradient của tác vụ mới chỉ lên các hướng không làm tăng mất mát trên mẫu bộ đệm. DER (Dark Experience Replay) lưu không chỉ nhãn của mẫu quá khứ mà cả logit tại thời điểm đó và dùng chúng làm mất mát chưng cất, nâng tính ổn định ngay cả với bộ đệm nhỏ.

Trong môi trường không thể lưu bản gốc, diễn tập sinh (Generative Replay) được dùng. Đây là cách các mô hình sinh như GAN và VAE tạo ra mẫu giả (pseudo-sample) giống phân phối quá khứ để làm dữ liệu ôn tập. Diễn tập cho hiệu quả rõ rệt, nhưng vì lưu giữ bản gốc quá khứ nên đi kèm sự đánh đổi về rủi ro vi phạm quyền riêng tư và bản quyền cùng chi phí bộ nhớ đệm và tính toán huấn luyện lại. Ví dụ, chỉ lưu 20 mẫu mỗi lớp nghĩa là với 1.000 lớp phải lưu giữ thường trực 20.000 ảnh, nên trong các ngành bị quản lý chính việc lưu giữ này trở thành ràng buộc. Hơn nữa, diễn tập sinh mang rủi ro rằng nếu mô hình sinh tái tạo phân phối không chính xác, ta rốt cuộc "học những ký ức méo mó thay vì làm sống lại quá khứ qua ôn tập", nên chất lượng sinh quyết định cận trên của hiệu năng tổng thể.

C. Dựa trên kiến trúc (Architecture/Parameter Isolation)

Các phương pháp dựa trên kiến trúc cô lập và cấp phát tham số chuyên dụng theo từng tác vụ để chặn can nhiễu về mặt vật lý. PNN (Progressive Neural Networks) gắn thêm một cột mạng nơ-ron mới mỗi khi một tác vụ được thêm vào và đóng băng (freeze) các cột quá khứ, chặn quên tận gốc nhưng có nhược điểm là mô hình lớn lên tỉ lệ với số tác vụ. PackNet kìm hãm tăng trưởng dung lượng bằng cách tái mục đích các nơ-ron còn thừa qua tỉa (pruning) cho tác vụ mới.

Như một phương án dung hòa nhắm đồng thời kìm tăng trưởng dung lượng và ức chế quên, có HAT (Hard Attention to the Task), kiểm soát kích hoạt nơ-ron nào theo từng tác vụ qua mặt nạ (mask) được học, và DEN (Dynamically Expandable Network), mở rộng và tỉa mạng một cách động chỉ khi cần. Thay vì vô điều kiện thêm cột như PNN, các phương pháp này chỉ mở rộng có chọn lọc, phán đoán xem dung lượng hiện có có đủ cho tác vụ mới hay không.

Trong kỷ nguyên mô hình lớn gần đây, cách tiếp cận đóng băng phần thân và chỉ thêm ít tham số theo từng tác vụ, như prompt, adapter, hoặc LoRA, đang được chú ý. Vì không động đến toàn bộ trọng số, quên được giảm thiểu một cách bản chất, và chi phí thêm mỗi tác vụ nhỏ cỡ vài MB. Các kỹ thuật như L2P (Learning to Prompt), tự động chọn prompt phù hợp với một tác vụ, là tiêu biểu, và điều này ăn khớp tốt với nhu cầu thực tế mở rộng liên tục một mô hình lớn tiền huấn luyện mà không loại bỏ nó, đang lan rộng nhanh chóng. Tuy nhiên, khi số tác vụ nhân lên, việc chọn và định tuyến các prompt/adapter theo từng tác vụ như thế nào trở thành một bài toán mới, và một lựa chọn sai lại khơi lại can nhiễu, nên độ chính xác định tuyến trở thành mấu chốt.

4. Chỉ số đánh giá và so sánh các phương pháp

Học liên tục không thể được đánh giá bằng một con số độ chính xác duy nhất; sau khi hoàn tất toàn bộ việc học, ta cùng nhìn vào độ chính xác trung bình bao gồm cả các tác vụ quá khứ (ACC) và vào Chuyển giao lùi (Backward Transfer, BWT, mức độ quên), đo lường hiệu năng quá khứ đã giảm bao nhiêu. BWT âm lớn nghĩa là quên nghiêm trọng, còn nếu một tác vụ mới thực sự nâng hiệu năng quá khứ thì nó trở thành dương. Mức độ việc học một tác vụ mới được tăng tốc nhờ tri thức trước đó được đo bằng Chuyển giao tiến (Forward Transfer, FWT).

Nói cách khác, một mô hình học liên tục tốt hướng tới trạng thái có ACC cao, độ lớn BWT âm nhỏ (ít quên), và FWT dương. Vì ba chỉ số thường mâu thuẫn nhau, nên việc đầu tiên thống nhất ưu tiên chỉ số nào theo mục tiêu dịch vụ phải đi trước việc chọn phương pháp. Ví dụ, một mô hình phục vụ tuân thủ quy định phải hạn chế nghiêm việc sụt hiệu năng tác vụ quá khứ, nên lấy BWT làm ràng buộc ưu tiên hàng đầu.

Họ Ức chế quên Bộ nhớ/tính toán Quyền riêng tư Khả năng mở rộng
Chính quy hóa (EWC·LwF) Trung bình Rất thấp An toàn (không lưu bản gốc) Suy giảm khi nhiều tác vụ
Diễn tập (ER·iCaRL) Cao Chi phí đệm/huấn luyện lại Rủi ro (lưu bản gốc) Tốt
Kiến trúc (PNN·adapter) Rất cao Tăng tham số An toàn Gánh nặng khi tác vụ tăng

Lấy một ví dụ số cụ thể, trên Split-CIFAR-100 (100 lớp chia thành 10 tác vụ), học tuần tự không biện pháp đối phó (naive fine-tuning) chỉ khớp tốt tác vụ cuối và sụp xuống độ chính xác trung bình trong khoảng 20%, trong khi thêm một bộ đệm diễn tập nhỏ (vài chục ảnh mỗi lớp) thường được báo cáo là khôi phục độ chính xác trung bình lên khoảng 50-60% và giảm mạnh độ lớn âm của BWT (mức độ quên). Các benchmark tiêu biểu gồm Split-MNIST, Split-CIFAR-10/100, CORe50 cho nhận dạng vật thể tuần tự, và các thiết lập họ ImageNet ở quy mô lớn, và một so sánh công bằng kiểm soát kịch bản (Task/Domain/Class-IL) và kích thước bộ đệm là thiết yếu.

Khác biệt giữa ba họ rốt cuộc quy về "dùng gì làm tài nguyên". Chính quy hóa nhẹ nhất vì chỉ dùng một số hạng mất mát không cần lưu trữ thêm, nhưng năng lực bảo tồn yếu; diễn tập mạnh vì dùng dữ liệu quá khứ làm tài nguyên nhưng gánh nặng lưu trữ/quy định lớn; còn phương pháp dựa trên kiến trúc chặn can nhiễu bằng cách dùng tham số thêm làm tài nguyên nhưng làm phình mô hình. Do đó hợp lý là ưu tiên chính quy hóa/diễn tập sinh cho tài chính và y tế bị quản lý nghiêm, diễn tập cho các dịch vụ nội bộ nơi việc lưu giữ dữ liệu không bị hạn chế, và các cách tiếp cận adapter/prompt cho môi trường vận hành mô hình lớn.

Học liên tục dễ bị nhầm lẫn với vài mô thức học tương tự, nên cần làm rõ các ranh giới. Bảng dưới phân biệt chúng theo cách dữ liệu đến và mục tiêu. Mấu chốt là chỉ học liên tục mới đồng thời đòi hỏi ba điều kiện "dữ liệu đến theo trình tự, truy cập quá khứ bị hạn chế, và không được quên quá khứ".

Mô thức Cách dữ liệu đến Dữ liệu quá khứ Mục tiêu chính
Đa tác vụ (Multi-task) Đồng thời Truy cập được tất cả Tối ưu đồng thời nhiều tác vụ
Chuyển giao (Transfer) Tuần tự (một lần) Truy cập được Cải thiện hiệu năng nguồn→đích
Trực tuyến (Online) Tuần tự (dòng) Không lưu giữ Thích nghi tức thì (quên không phải trọng tâm)
Liên tục (Continual) Tuần tự (phi tĩnh) Hạn chế Thích nghi + bảo tồn quá khứ

Trong khi học chuyển giao chỉ cần làm tốt tác vụ mới bằng cách "dùng quá khứ làm bàn đạp", học liên tục nghiêm ngặt hơn ở chỗ phải duy trì cả hiệu năng của tác vụ quá khứ vốn làm bàn đạp. Ngoài ra, học trực tuyến tập trung thích nghi nhanh với phân phối mới nhất và không chủ động ngăn quên, còn học liên tục đòi hỏi thích nghi và bảo tồn cùng lúc. Nhầm lẫn sự phân biệt này dễ dẫn đến thất bại do chọn một phương pháp không phù hợp với bài toán.

5. Chuyên sâu: Trường hợp ứng dụng thực tế và xu hướng học liên tục cho LLM

Học liên tục không còn là một khái niệm học thuật; nó đang được cụ thể hóa thành chiến lược cập nhật mô hình trong MLOps tại các hiện trường công nghiệp nơi dữ liệu liên tục thay đổi. Trong hệ gợi ý, vì sở thích người dùng và danh mục sản phẩm thay đổi hằng ngày, học tăng dần được áp dụng thay cho huấn luyện lại toàn bộ để cắt giảm chi phí cập nhật, và trong phát hiện giao dịch gian lận tài chính, các mẫu gian lận mới lạ được ôn tập qua bộ đệm diễn tập để duy trì năng lực phát hiện các loại quá khứ. Kiểm tra ngoại quan trong sản xuất là một bài toán Class-IL điển hình nơi các lớp lỗi mới liên tục được thêm vào, nên việc lưu giữ các mẫu đại diện theo kiểu iCaRL được dùng rộng rãi.

Các cạm bẫy trong chính việc đánh giá cũng quan trọng trong thực tế. Vì khoảng cách ổn định (stability gap) được quan sát thấy, trong đó hiệu năng tác vụ quá khứ tụt tạm thời ngay sau khi học rồi hồi phục dần, nên đánh giá chất lượng mô hình từ một lần đo duy nhất ngay sau cập nhật có thể định giá thấp hiệu năng. Ngoài ra, chỉ nhìn độ chính xác trung bình cuối cùng (ACC) không thể phân biệt một mô hình "làm tốt tác vụ mới nhưng đã quên hết quá khứ" với một mô hình "duy trì mọi thứ đồng đều", nên phải giám sát cùng nhau BWT (mức độ quên), FWT (chuyển giao tiến), và các đường cong hiệu năng theo từng tác vụ.

Hiểu ngôn ngữ tự nhiên (NLU) cho trợ lý giọng nói và chatbot cũng là một lĩnh vực nơi học liên tục có giá trị. Các ý định (intent) và lệnh mới liên tục được thêm vào, và ta phải học chỉ các ý định mới một cách tăng dần mà không huấn luyện lại toàn bộ, đồng thời bảo tồn tỉ lệ nhận dạng cho các ý định hiện có. Các mô hình chẩn đoán hình ảnh y tế cũng phải được cập nhật dưới các quy định cấm đưa dữ liệu quá khứ ra ngoài cơ sở khi các loại tổn thương mới hoặc hình ảnh chụp trên thiết bị mới được thêm vào, nên các họ học liên tục diễn tập sinh và chính quy hóa đang được xem xét tích cực. Như vậy, nhu cầu thực tế đối với học liên tục tồn tại chung trên gần như mọi AI vận hành nơi "dữ liệu không dừng lại và không thể thu thập hết quá khứ".

Lĩnh vực sôi động nhất gần đây là cập nhật liên tục các mô hình ngôn ngữ lớn (LLM). Huấn luyện lại từ đầu một mô hình hàng trăm tỉ tham số mỗi khi có tri thức mới là phi thực tế, tốn cỡ hàng triệu đô la. Do đó, (1) học liên tục hiệu quả tham số đóng băng phần thân và chỉ cập nhật LoRA/adapter theo từng miền, (2) một sự pha trộn giữa Tiền huấn luyện liên tục và diễn tập (replay) tiếp tục học trên kho ngữ liệu mới nhất đồng thời ngăn suy giảm năng lực quá khứ, và (3) kết hợp với RAG ([[retrieval-augmented-generation]]), né tránh chính sự quên bằng cách bơm tri thức ngoài qua truy xuất thay vì vào tham số, được dùng bổ trợ nhau. Đặc biệt, RAG "chỉ cập nhật tri thức mà không huấn luyện lại mô hình", nên được xem là một phương án thay thế thực tiễn giảm nhẹ gánh nặng của học liên tục về mặt cấu trúc. Các khảo sát quanh năm 2024 thường báo cáo rằng các phương pháp đơn giản mạnh một cách bất ngờ khi xuất phát từ một mô hình tiền huấn luyện, và họ diễn tập vẫn giữ lợi thế trong các kịch bản khó.

Tóm lại, trong vận hành LLM thực tế, nên thiết kế "đặt gì ở đâu" theo kiểu phân tầng. Nghĩa là, cách tiếp cận tách tri thức sự kiện hay thay đổi vào kho ngoài của RAG, phong cách như giọng điệu và định dạng của miền vào adapter/LoRA, và cải thiện năng lực nền tảng vào tiền huấn luyện liên tục thận trọng — quản lý độc lập nhịp cập nhật, chi phí, và rủi ro của từng tầng — đang lan rộng.

6. Điểm cân nhắc và hàm ý

Việc đưa học liên tục vào không chỉ là một lựa chọn thuật toán mà là vấn đề thiết kế đồng thời quản trị dữ liệu, hạ tầng, và chính sách vận hành, và từ góc nhìn Kỹ sư chuyên nghiệp cần cân nhắc toàn diện những điều sau.

  • Phù hợp kịch bản: Trước hết phải định rõ bài toán cần giải là Task-IL hay Class-IL. Tiếp cận một bài toán Class-IL thiếu định danh tác vụ khi suy luận bằng một phương pháp giả định Task-IL khiến hiệu năng tụt mạnh trong dịch vụ thực. Các con số benchmark phải luôn được so sánh trong cùng một kịch bản.
  • Đánh đổi quyền riêng tư/quy định: Diễn tập cho hiệu năng xuất sắc, nhưng việc lưu giữ bản gốc quá khứ có thể xung đột với thời hạn lưu giữ và quyền được xóa của GDPR và các luật bảo vệ thông tin cá nhân. Trong các ngành bị quản lý, ưu tiên các họ không để lại bản gốc như diễn tập sinh, chính quy hóa, và adapter, và nếu việc lưu giữ là không tránh khỏi, thiết lập đồng thời chính sách giả danh và thời hạn lưu giữ.
  • Cân bằng chi phí-hiệu năng và chiến lược huấn luyện lại: Phải tính điểm hòa vốn giữa ngăn quên và huấn luyện lại toàn bộ. Một phương án lai phát hiện suy giảm hiệu năng qua giám sát trôi dữ liệu ([[model-drift-monitoring]]) và chạy song song cập nhật tăng dần → huấn luyện lại toàn bộ định kỳ là thực tế, và chi phí lưu trữ của bộ đệm/tham số thêm nên được phản ánh vào TCO.
  • Khung vận hành/kiểm chứng (MLOps): Đưa đánh giá tích lũy (ACC·BWT) vào CI để kiểm tra hiệu năng tác vụ quá khứ không rơi dưới một ngưỡng ngay cả sau khi học một tác vụ mới, và chặn hồi quy trên các mô hình được cập nhật qua triển khai shadow/canary. Theo dõi phiên bản và phả hệ dữ liệu bằng một sổ đăng ký mô hình ([[ml-model-registry]]) để bảo đảm khả năng quay lui.
  • Tự động hóa đánh giá và tính tái lập: Vì khoảng cách ổn định làm méo chất lượng trong một lần đo duy nhất ngay sau cập nhật, nên phải tự động tổng hợp xu thế ACC·BWT trong một khoảng và cố định các điều kiện thí nghiệm như kịch bản và kích thước bộ đệm dưới dạng siêu dữ liệu để bảo đảm tính tái lập. Nếu không, chính việc so sánh giữa các phương pháp mất đi độ tin cậy.
  • Triển vọng và công nghệ liên quan: Học liên tục đang mở rộng sang học cá nhân hóa cho AI trên thiết bị ([[on-device-ai]]), mở rộng liên tục các mô hình nền tảng, và học liên tục đa phương thức. Về lâu dài, hướng kết hợp với bộ nhớ ngoài (external memory) như RAG và đồ thị tri thức — giảm gánh nặng cập nhật tham số đồng thời tích lũy tri thức liên tục — là đầy hứa hẹn. Hơn nữa, các phương án lai kết hợp vài họ (ví dụ, diễn tập quy mô nhỏ + adapter) đang có xu hướng trở thành chuẩn thực tiễn trên thực tế, nên một thiết kế kết hợp phù hợp với các ràng buộc được ưa chuộng hơn là cố chấp vào một phương pháp đơn lẻ.

Tài liệu tham khảo

Tóm tắt một câu: Học liên tục là một mô thức ngăn quên thảm họa trong khi học tuần tự một dòng dữ liệu phi tĩnh, dung hòa thế lưỡng nan ổn định-dẻo qua các chiến lược chính quy hóa, diễn tập, và dựa trên kiến trúc, và trong kỷ nguyên LLM nó là công nghệ cốt lõi mở rộng liên tục các mô hình mà không loại bỏ chúng bằng cách kết hợp adapter, tiền huấn luyện liên tục, và RAG.