Mô hình ngôn ngữ nhỏ (sLLM, Small Language Model)

1. Tổng quan

A. Định nghĩa

Mô hình ngôn ngữ nhỏ (sLLM, small Large Language Model / SLM), khác với mô hình ngôn ngữ siêu lớn (LLM) có hàng trăm tỷ đến nghìn tỷ tham số, là mô hình ngôn ngữ nhẹ được thiết kế và huấn luyện với quy mô khoảng vài trăm triệu đến vài chục tỷ (thường là 10B trở xuống) tham số. Thay vì theo đuổi hiệu năng cao nhất cho mục đích tổng quát, nó tập trung vào tối ưu hóa chi phí, độ trễ và quyền riêng tư phù hợp với một miền, tác vụ hoặc môi trường triển khai cụ thể (on-premises, biên, thiết bị đầu cuối).

Quan điểm cốt lõi để hiểu sLLM nằm ở chỗ "nhỏ không phải là khuyết điểm mà là một lựa chọn thiết kế". Các LLM tiên phong (frontier LLM) như GPT, Gemini, Claude đã đẩy số lượng tham số đến cực hạn nhằm gói gọn tri thức khổng lồ và suy luận phức tạp vào một mô hình, và cái giá phải trả là chi phí huấn luyện và suy luận khổng lồ, độ trễ phản hồi cao, phụ thuộc API bên ngoài, cùng nguy cơ dữ liệu rò rỉ ra ngoài. Tuy nhiên, phần lớn công việc doanh nghiệp thực tế (hỏi đáp tài liệu nội bộ, tóm tắt tư vấn, phân loại và trích xuất, hỗ trợ viết mã, v.v.) không đòi hỏi toàn bộ tri thức của thế giới. Điều quan trọng hơn là thực hiện một phạm vi tác vụ hẹp một cách nhanh, rẻ và ổn định trong một môi trường có thể kiểm soát. sLLM nhắm đúng vào điểm này.

Kết quả là sLLM mang lại ba giá trị mang tính cấu trúc. Thứ nhất, vì ít tham số nên chi phí suy luận và độ trễ phản hồi giảm mạnh. Thứ hai, vì có thể chạy trên một GPU đơn lẻ hoặc thậm chí CPU·NPU, nó có thể được triển khai trực tiếp on-premises, trên mạng đóng và trên thiết bị đầu cuối, nên thông tin nhạy cảm không rời khỏi tổ chức. Thứ ba, dễ tinh chỉnh (fine-tuning) bằng dữ liệu miền, nên ở các tác vụ hẹp nó đạt hiệu năng vượt hoặc tiệm cận mô hình lớn đa dụng với chi phí hợp lý. Tuy nhiên sLLM thua kém mô hình lớn về bề rộng tri thức, suy luận phức tạp và tính đa dụng đa ngôn ngữ, nên thiết kế đánh đổi (trade-off) xác định rõ "từ bỏ gì và thu được gì" quyết định thành bại.

Điểm cần lưu ý ở đây là 'small' không phải một tiêu chuẩn tuyệt đối mà là một khái niệm tương đối, phụ thuộc thời đại. Vài năm trước vài chục tỷ tham số được coi là mô hình khổng lồ, nhưng nay được xếp vào loại nhỏ. Một bộ phận giới học thuật cũng xem "quy mô có thể suy luận trên một GPU gia dụng" là ranh giới thực dụng của sLLM. Do đó, thay vì bản thân con số tham số, hiểu theo tiêu chí khả năng triển khai là liệu có thể chạy thời gian thực trên một bộ tăng tốc đa dụng hoặc thiết bị đơn lẻ hay không mới gần với bản chất hơn.

B. Đặc điểm chính

sLLM có các đặc điểm (1) ít tham số (thường 10B trở xuống; 1~4B cho di động), (2) chi phí và độ trễ thấp, (3) dễ triển khai on-premises/biên, (4) thân thiện với chuyên biệt hóa miền và tinh chỉnh, và (5) hệ sinh thái lấy open weight làm trung tâm. Các đặc điểm này gắn kết với nhau, nên kích thước nhỏ đồng thời cho phép chi phí thấp, triển khai thiết bị và chuyên biệt hóa. Đặc biệt, việc nhiều sLLM được phân phối dưới dạng mô hình open weight công khai trọng số là quan trọng, vì nó cho phép doanh nghiệp tải mô hình về trực tiếp, đưa lên mạng đóng, và tự do tinh chỉnh, kiểm định, qua đó củng cố căn bản chủ quyền dữ liệu và khả năng kiểm soát.

C. Bối cảnh ra đời và sự cần thiết

Đằng sau sự trỗi dậy nhanh của sLLM trong giai đoạn 2024~2025 có bốn động lực gắn kết với nhau. Thứ nhất, vấn đề thực tế về chi phí vận hành LLM. Các doanh nghiệp triển khai AI tạo sinh toàn công ty đối mặt áp lực ROI khi đơn giá token, phí thuê GPU và chi phí gọi API bên ngoài tích tụ, và nhận thức rằng dùng mô hình quá lớn so với độ khó tác vụ là kém hiệu quả đã lan rộng. Thứ hai, yêu cầu chủ quyền dữ liệu và quy định. Ở các lĩnh vực chịu luật bảo vệ dữ liệu cá nhân và quy định phân tách mạng như tài chính, công, y tế, khó gửi dữ liệu nội bộ tới API LLM bên ngoài, nên nhu cầu về một mô hình nhỏ có thể đưa trực tiếp lên mạng đóng rất lớn.

Thứ ba, bước nhảy hiệu năng của mô hình nhỏ. Khi việc tuyển chọn dữ liệu chất lượng cao (data curation), dữ liệu tổng hợp dựa trên mô hình giáo viên và kỹ thuật chưng cất tri thức phát triển, các mô hình nhỏ thông minh hơn nhiều so với trước đã trở nên khả thi ngay cả ở cùng số tham số. Trước đây quy luật mở rộng (scaling law) "tham số càng lớn càng thông minh" chiếm ưu thế, nhưng gần đây nhận thức "ở cùng quy mô, chất lượng dữ liệu quyết định hiệu năng" được bổ sung, nâng sàn của mô hình nhỏ lên đáng kể. Dòng Phi của Microsoft là trường hợp tiêu biểu nâng giới hạn hiệu năng của mô hình nhỏ bằng "dữ liệu tuyển chọn chất lượng sách giáo khoa", và Phi-4-mini (khoảng 3.8B) thậm chí cho thấy hiệu năng ngang tầm các mô hình vài chục B trước đây. Thứ tư, sự trưởng thành của phần cứng on-device và biên. Khi NPU của AP di động tăng lên hàng chục TOPS, con đường chạy mô hình 1~~4B trực tiếp trên thiết bị đã mở ra. Làn sóng các dòng nhỏ open weight như Google Gemma 3 (1B·4B·12B·27B), Meta Llama 3.2 (1B·3B), Alibaba Qwen 2.5 (0.5B~~14B) là minh chứng. Ở trong nước (Hàn Quốc) cũng vậy, các mô hình nhỏ chuyên biệt tiếng Hàn như LG EXAONE 3.5 (2.4B·7.8B·32B), Naver HyperCLOVA X SEED (0.5B·1.5B·3B), SKT A.X Lite lần lượt ra mắt, hình thành một hệ sinh thái.

Bốn động lực này mang tính củng cố lẫn nhau hơn là độc lập. Áp lực chi phí sinh ra nhu cầu right-sizing, quy định đòi hỏi triển khai on-premises, tiến bộ về dữ liệu và kỹ thuật chưng cất cung cấp chất lượng đáp ứng yêu cầu đó, và sự trưởng thành phần cứng mở đường cho triển khai thiết bị. Việc cả bốn yếu tố cùng chỉ về hướng thu nhỏ củng cố sLLM như một xu thế bền vững chứ không phải trào lưu nhất thời.

2. Vị trí của sLLM và cấu trúc tổng thể

sLLM nên được hiểu không phải như thứ dùng đơn độc mà nằm trong một danh mục mô hình (model portfolio) chia sẻ vai trò với các mô hình lớn. Nền tảng của nó là nguyên lý kinh tế "chi phí nên tỷ lệ với độ khó tác vụ". Xử lý mọi truy vấn bằng cùng một mô hình siêu lớn gây lãng phí tính toán quá mức ngay cả với truy vấn dễ, nên hợp lý là phân loại truy vấn theo độ khó và định tuyến tới mô hình có chi phí phù hợp — phân tầng (tiering). Sơ đồ cấu trúc dưới đây cho thấy bố cục điển hình đặt mô hình nhỏ và lớn theo tính chất tác vụ. Cốt lõi là các tác vụ dễ, lặp lại, nhạy cảm được sLLM nội bộ xử lý với chi phí thấp, và chỉ các tác vụ khó, hiếm mới được chuyển cấp (định tuyến) tới mô hình lớn.

flowchart TB
  U["Yêu cầu người dùng / nghiệp vụ"] --> R["Bộ định tuyến mô hình(phân loại độ khó & độ nhạy cảm)"]
  R -->|"dễ / lặp lại / dữ liệu nhạy cảm"| S["sLLM nội bộ(on-premises / biên)"]
  R -->|"suy luận phức tạp / tri thức hiếm"| L["LLM lớn(đám mây / API bên ngoài)"]
  S --> KB["Tri thức nội bộ(RAG / vector DB)"]
  L --> KB
  S --> O["Phản hồi"]
  L --> O
  O -.->|"nhật ký / phản hồi"| FT["Tinh chỉnh miền / tái huấn luyện chưng cất"]
  FT -.-> S
  style S fill:#e8f0fe,stroke:#2f6fed,stroke-width:2px

Điểm đáng chú ý trong cấu trúc này là sLLM không phải giải pháp đơn độc mà là một trục của sự phân công và hợp tác. Các mô hình nhỏ rẻ hấp thụ phần lớn lưu lượng, và nếu mô hình nhỏ chỉ chuyển những truy vấn mà nó không chắc chắn tới mô hình lớn thì tổng chi phí giảm mạnh trong khi chất lượng được duy trì. Khoảng trống tri thức của mô hình nhỏ cũng được lấp bằng sinh tăng cường truy xuất ([[rag]], RAG). Dù mô hình nhỏ không thể ghi nhớ mọi sự kiện, việc truy xuất tài liệu nội bộ từ vector DB và đưa vào làm ngữ cảnh giúp giảm ảo giác và bảo đảm tính cập nhật, nên sLLM và RAG trên thực tế được thiết kế thành một cặp.

Bộ định tuyến thường bắt đầu đơn giản bằng logic dựa trên quy tắc (từ khóa, độ dài, nhãn độ nhạy cảm), và khi dữ liệu vận hành tích lũy, thường được nâng cấp để một mô hình phân loại nhỏ dự đoán độ khó. Điều quan trọng là định tuyến quyết định điểm cân bằng động giữa chi phí và chất lượng. Nghiêng quá về mô hình nhỏ làm giảm chất lượng, còn nghiêng quá về mô hình lớn xóa bỏ hiệu quả tiết kiệm chi phí. Do đó ngưỡng định tuyến không phải một giá trị cố định mà là một biến vận hành phải liên tục điều chỉnh lại theo SLA chất lượng và mục tiêu chi phí của từng tác vụ.

A. Bốn hướng tiếp cận xây dựng sLLM

Có đại thể bốn cách để có một mô hình nhỏ. Mỗi cách khác nhau về chi phí, chất lượng và khả năng kiểm soát, nên được chọn và kết hợp cho phù hợp tình huống.

flowchart LR
  A["Chiến lược tạo nguồn"] --> B["① Tiền huấn luyện nhỏ từ đầu(from scratch)"]
  A --> C["② Chưng cất tri thức từ mô hình lớn(distillation)"]
  A --> D["③ Nén mô hình hiện có(cắt tỉa / lượng tử hóa)"]
  A --> E["④ Tinh chỉnh mô hình nhỏ mở(fine-tuning)"]
  B --> F["sLLM chuyên biệt miền"]
  C --> F
  D --> F
  E --> F
  style F fill:#e8f0fe,stroke:#2f6fed,stroke-width:2px

Tiêu chí thực tế cho việc chọn kích thước cũng quan trọng. Với phân loại, trích xuất, định tuyến đơn giản thường khuyến nghị 0.5~~1.5B; với tóm tắt, dịch, QA nội bộ là 3~~7B; và với hỗ trợ viết mã, suy luận phức hợp là 7~~14B; trong khi triển khai di động/biên bị ràng buộc ở 1~~4B để vừa trần bộ nhớ. Nói cách khác, right-sizing — tìm "kích thước nhỏ nhất có thể mà vẫn giữ được chất lượng mục tiêu" — là điểm khởi đầu của thiết kế.

Thứ nhất, phương pháp tiền huấn luyện nhỏ từ đầu. Huấn luyện một mô hình nhỏ từ con số không trên dữ liệu chất lượng cao được tuyển chọn (ví dụ chiến lược "chất lượng sách giáo khoa" của Phi) nhắm hiệu năng cao hơn ngay cả ở cùng kích thước. Năng lực thiết kế dữ liệu là then chốt, tốn kém nhiều về tiền và thời gian, nhưng phù hợp các ngành chịu quy định vì có thể kiểm soát hoàn toàn thành phần dữ liệu, bộ tách từ và giấy phép.

Thứ hai, chưng cất tri thức ([[knowledge-distillation]]). Một mô hình học sinh nhỏ được huấn luyện để mô phỏng phân phối đầu ra và quá trình suy luận của một mô hình giáo viên lớn, chính xác, đưa mô hình nhỏ tiệm cận mô hình lớn. Thường dùng mô hình giáo viên sinh lượng lớn dữ liệu tổng hợp để dạy học sinh, và khi đó phải luôn kiểm tra giấy phép xem đầu ra của mô hình giáo viên có được tái sử dụng hay không. Thứ ba, nén mô hình hiện có. Cắt tỉa (pruning) và lượng tử hóa ([[model-quantization]]) được áp dụng cho một mô hình đã huấn luyện để giảm kích thước và độ trễ. Đây là cách tiếp cận thực dụng kế thừa phần lớn hiệu năng của mô hình gốc trong khi chỉ hạ chi phí triển khai, nhưng rủi ro suy giảm chất lượng tăng khi tỷ lệ nén tăng. Thứ tư, cách được dùng rộng rãi nhất, tinh chỉnh mô hình nhỏ mở. Lấy trọng số mở như Llama, Gemma, Qwen, EXAONE và áp dụng tinh chỉnh hiệu quả tham số (PEFT) như LoRA với dữ liệu nội bộ. Nó rẻ hơn hàng chục đến hàng trăm lần so với huấn luyện từ đầu, và vì có thể đắp tri thức miền lên năng lực đa dụng của mô hình mở nên thực tế nhất. Trong thực tiễn, "chọn mô hình nhỏ mở → tinh chỉnh miền → triển khai lượng tử hóa" là tổ hợp phổ biến nhất.

3. Các kỹ thuật triển khai cốt lõi

A. Tinh chỉnh hiệu quả (PEFT, LoRA)

Giá trị thực chất của sLLM nằm ở chỗ "nó nhỏ nên có thể chuyên biệt hóa dễ dàng", và công nghệ giúp điều này khả thi là PEFT (Parameter-Efficient Fine-Tuning). Vì tái huấn luyện toàn bộ mô hình tốn kém, các phương pháp như LoRA (Low-Rank Adaptation) đóng băng trọng số gốc và chỉ huấn luyện thêm một số ít ma trận hạng thấp. Nguyên lý của kỹ thuật này nằm ở quan sát rằng "lượng thay đổi trọng số do tinh chỉnh tạo ra trên thực tế nằm trong một không gian chiều thấp". Do đó, thay vì cập nhật toàn bộ ma trận trọng số khổng lồ, chỉ cần xấp xỉ lượng thay đổi đó bằng tích của hai ma trận nhỏ và huấn luyện là đủ.

Làm vậy đạt được thích ứng miền dù chỉ cập nhật dưới 1% toàn bộ tham số, và một mô hình chuyên biệt cho tư vấn, pháp lý, y tế v.v. có thể được tạo trong vài giờ trên một GPU đơn lẻ. Hơn nữa, dùng QLoRA kết hợp lượng tử hóa và LoRA, chỉ huấn luyện bộ điều hợp trên một mô hình nền đã lượng tử hóa 4 bit, nên ngay cả tinh chỉnh mô hình 7B cũng khả thi với một GPU hạng tiêu dùng. Vận hành đa bộ điều hợp — hoán đổi các bộ điều hợp LoRA theo tác vụ trên một mô hình nền — cũng khả thi, phủ linh hoạt nhiều nghiệp vụ với một mô hình. Ví dụ, một công ty tài chính áp dụng tinh chỉnh LoRA cho một mô hình mở hạng 7B với điều khoản nội bộ và nhật ký tư vấn, xử lý tóm tắt và phân loại tư vấn trên mạng đóng mà không cần API bên ngoài.

B. Lượng tử hóa và triển khai nhẹ

Để đưa một sLLM đã huấn luyện lên thiết bị hoặc máy chủ cấu hình thấp, lượng tử hóa gần như bắt buộc. Hạ trọng số từ FP16 xuống INT8·INT4 làm kích thước mô hình giảm 2~4 lần và cải thiện bộ nhớ, độ trễ. Ví dụ, lượng tử hóa mô hình 7B xuống 4 bit làm nó giảm còn khoảng 4GB, cho phép chạy ngay cả trên laptop và điện thoại thông minh cao cấp. Điều này vượt ra ngoài việc chỉ giảm dung lượng: bằng cách giảm số byte trọng số phải đọc trong suy luận nơi băng thông bộ nhớ là nút thắt cổ chai, nó có tác dụng trực tiếp nâng thông lượng (throughput).

Triển khai được thực hiện với định dạng GGUF và llama.cpp, hoặc các runtime on-device như LiteRT và Core ML, và để giảm mất mát độ chính xác, QAT (huấn luyện nhận biết lượng tử hóa) hoặc hiệu chuẩn (calibration) được tiến hành song song. Lượng tử hóa chia thành PTQ (lượng tử hóa sau huấn luyện) áp dụng sau huấn luyện và QAT phản ánh trong huấn luyện; PTQ đơn giản nhưng mất mát lớn, còn QAT chất lượng tốt nhưng cần tái huấn luyện, nên phải cân nhắc cân bằng giữa hai theo từng tác vụ. Tuy nhiên lượng tử hóa bit thấp quá mức gây suy giảm chất lượng ở tác vụ suy luận và số học, nên độ chính xác chấp nhận được phải được quyết định bằng đo đạc thực tế theo từng tác vụ.

Áp dụng cắt tỉa và chưng cất cùng nhau ở đây nhân đôi hiệu quả. Bằng cách giảm cấu trúc mô hình qua chưng cất, thưa hóa các kết nối không cần thiết qua cắt tỉa, rồi hạ độ chính xác qua lượng tử hóa, ba kỹ thuật được kết hợp thành một đường ống (pipeline) để tối ưu đồng thời kích thước, độ trễ và công suất trong khi giữ độ chính xác mục tiêu. Điều quan trọng là tiến hành trong khi xác nhận sàn chất lượng bằng bộ đánh giá của tác vụ mục tiêu ở mỗi giai đoạn nén; sự lặp lại "nén → đánh giá → điều chỉnh lại" là cách chính thống để tạo một mô hình triển khai ổn định.

C. Kết hợp với RAG và tác tử

Giới hạn tri thức và suy luận của mô hình nhỏ được bổ trợ bằng công cụ bên ngoài. RAG tiêm tri thức nội bộ để ức chế ảo giác và thông tin cũ, và gọi hàm (tool/function calling) cho phép nó gọi các công cụ bên ngoài như máy tính, tìm kiếm và tra cứu DB. Nguyên lý cốt lõi là sự phân tách vai trò "đừng cố nhồi toàn bộ tri thức vào tham số của mô hình; thay vào đó lấy tri thức cần thiết từ bên ngoài tùy lúc và cung cấp làm ngữ cảnh". Nhờ thiết kế này, ngay cả mô hình nhỏ cũng có thể trả lời chính xác các quy định nội bộ hay thông số sản phẩm mới nhất, và vì chỉ cần cập nhật tài liệu — không cần tái huấn luyện mô hình — khi tri thức thay đổi, chi phí bảo trì thấp.

Gần đây, cách tiếp cận ghép nhiều mô hình nhỏ thành các tác tử ([[ai-agent]]) để các mô hình chuyên gia nhỏ chia vai trò và hợp tác cũng đang lan rộng. Quan điểm là "sự hợp tác của nhiều mô hình chuyên gia nhỏ, nhanh" có thể lợi thế hơn "một mô hình đa dụng khổng lồ" về chi phí, độ trễ và kiểm soát. Ví dụ, nối một mô hình 1B chuyên phân loại truy vấn, một mô hình 3B chuyên tóm tắt, và một mô hình 7B chuyên hỗ trợ viết mã thành một đường ống tối ưu mỗi giai đoạn cho tác vụ của chính nó, hạ đồng thời độ trễ và chi phí tổng thể. Tuy nhiên, khi số giai đoạn tác tử tăng, lỗi có thể tích lũy và lan truyền, nên cần kiểm chứng giữa các giai đoạn và thiết kế dừng sớm (early stopping).

D. Đánh giá và kiểm chứng

sLLM không được đánh giá chỉ bằng điểm số benchmark đa dụng (ví dụ MMLU). Vì là mô hình chuyên biệt cho một tác vụ hẹp, hiệu năng của nó trên một bộ đánh giá tự xây dựng cấu thành từ dữ liệu của chính tác vụ sẽ triển khai quan trọng hơn nhiều. Ví dụ, một mô hình dùng cho tóm tắt tư vấn nội bộ phải được đo độ chính xác tóm tắt, tỷ lệ bỏ sót và tỷ lệ ảo giác trên một mẫu nhật ký tư vấn thực tế, và thường có trường hợp một mô hình đứng đầu bảng xếp hạng đa dụng lại tụt hậu ở một miền cụ thể. Về phương pháp đánh giá, bên cạnh chấm điểm tự động dựa trên bộ đáp án, cách tiếp cận LLM-làm-trọng-tài (LLM-as-a-judge, [[llm-as-a-judge]]) dùng một mô hình lớn làm trọng tài được chạy song song để giám sát chất lượng liên tục trong khi tiết kiệm chi phí. Lọc ra "câu trả lời nghe hợp lý nhưng sai (silent failure)" đặc trưng của mô hình nhỏ là mục tiêu ưu tiên hàng đầu của hệ thống đánh giá.

4. So sánh sLLM với LLM lớn

Chính xác hơn là xem sLLM và LLM lớn như các phần bổ trợ có vai trò khác nhau chứ không phải đối thủ cạnh tranh. Bảng dưới đây sắp xếp các khác biệt giữa hai cách tiếp cận, nhưng điểm mấu chốt không nằm ở so sánh con số mà ở "vì sao" khác biệt đó nảy sinh. Khác biệt về quy mô tham số tự nó sinh ra một chuỗi khác biệt về chi phí, độ trễ, khả năng triển khai và mức độ dễ chuyên biệt hóa. Mô hình lớn, vì có nhiều tham số, chứa tri thức thế giới rộng và mạnh ở suy luận nhiều bước phức tạp, nhưng chính vì kích thước đó nó đòi hỏi tính toán khổng lồ mỗi lần suy luận, nên chi phí và độ trễ cao và khó triển khai trên thiết bị. Ngược lại, mô hình nhỏ, với bề rộng tri thức có thể chứa hẹp, bất lợi ở các truy vấn đa dụng, nhưng vì tính toán nhẹ nên chi phí thấp, độ trễ thấp, triển khai thiết bị và chuyên biệt hóa nhanh là khả thi.

Hạng mục	Mô hình ngôn ngữ nhỏ (sLLM)	Mô hình ngôn ngữ lớn (LLM)
Tham số	Vài trăm triệu đến vài chục tỷ (thường ≤10B)	Vài chục tỷ đến nghìn tỷ
Chi phí / độ trễ suy luận	Thấp (một GPU/CPU/NPU là được)	Cao (cần nhiều GPU/đám mây)
Môi trường triển khai	On-premises / mạng đóng / biên / thiết bị	Chủ yếu đám mây / API bên ngoài
Chủ quyền dữ liệu / quyền riêng tư	Có lợi (xử lý nội bộ)	Tồn tại rủi ro truyền ra ngoài
Bề rộng tri thức / suy luận phức tạp	Hẹp / hạn chế	Rộng / mạnh mẽ
Mức dễ chuyên biệt hóa (tinh chỉnh)	Cao (chi phí thấp, ví dụ LoRA)	Thấp (gánh nặng chi phí / quy mô)
Tác vụ phù hợp	Phân loại / trích xuất / tóm tắt / QA miền	Suy luận mở / sáng tạo / hội thoại đa dụng

Hàm ý thực tiễn rất rõ. Chiến lược lai (hybrid) giao ít tác vụ cần chất lượng đa dụng cao nhất (phân tích phức tạp, sáng tạo, truy vấn khám phá) cho mô hình lớn và nội bộ hóa các tác vụ lặp lại, nhạy cảm, nhạy chi phí bằng sLLM có hiệu quả chi phí lớn nhất. Trên thực tế, nhiều doanh nghiệp áp dụng cấu trúc trong đó mô hình nhỏ hấp thụ 70~80% lưu lượng toàn công ty và chỉ phần còn lại được định tuyến tới mô hình lớn, hạ mạnh tổng chi phí. Tuy nhiên, điều kiện tiên quyết là giám sát liên tục độ chính xác của bản thân phán đoán định tuyến và rủi ro mô hình nhỏ âm thầm đưa ra câu trả lời sai (silent failure).

Mặt khác, giới hạn của sLLM cũng phải được nhận thức rõ mới tránh được kỳ vọng quá mức hay áp dụng sai. Thứ nhất, bề rộng và tính hiếm của tri thức. Mô hình nhỏ dễ tổn thương với tri thức đuôi dài nó chưa học hoặc các sự kiện mới nhất, nên dùng đơn độc cho truy vấn mở mà không có RAG làm ảo giác tăng vọt. Thứ hai, suy luận nhiều bước phức tạp. Ở các bài toán suy luận logic và toán học kết hợp nhiều tiền đề, quy mô tham số gắn trực tiếp với hiệu năng, nên mô hình nhỏ bất lợi về mặt cấu trúc. Thứ ba, tính đa dụng đa ngôn ngữ và ngôn ngữ ít tài nguyên. Với các ngôn ngữ ngoài tiếng Anh, đặc biệt ở các miền ít dữ liệu, độ dao động chất lượng lớn. Do đó sLLM phải được định vị không phải như một "vật thay thế vạn năng" mà như "một công cụ chuyên biệt đặt vào tác vụ phù hợp", và kiểm chứng sự phù hợp tác vụ (POC) trước khi áp dụng là bắt buộc.

5. Chuyên sâu — Xu hướng gần đây và ứng dụng công nghiệp

sLLM là một mô thức trỗi dậy không phải như một phát minh kỹ thuật hoàn toàn mới mà khi các kỹ thuật hiện có như tuyển chọn dữ liệu, chưng cất, lượng tử hóa và tinh chỉnh trưởng thành và vượt qua ngưỡng mà "ngay cả mô hình nhỏ cũng có thể đạt chất lượng thực dụng". Các xu hướng gần đây trong lĩnh vực sLLM có thể sắp xếp thành ba mạch. Thứ nhất, chủ nghĩa lấy dữ liệu chất lượng cao làm trung tâm. Dòng Phi của Microsoft cho thấy chất lượng dữ liệu tuyển chọn và tổng hợp "cấp sách giáo khoa", chứ không phải khối lượng dữ liệu, chi phối hiệu năng mô hình nhỏ, trở thành sách giáo khoa cho thiết kế mô hình nhỏ về sau. Nó đang mở rộng thành các dòng tuy nhỏ nhưng hỗ trợ đa phương thức và suy luận, như Phi-4-mini (khoảng 3.8B) và Phi-4-multimodal (khoảng 5.6B). Thứ hai, on-device hóa và đa phương thức hóa. Các biến thể 1B·4B của Google Gemma 3 và 1B·3B (cùng biến thể thị giác) của Meta Llama 3.2 nhắm rõ ràng vào vận hành di động/biên, trong khi dòng Alibaba Qwen cung cấp một phổ kích thước rộng từ 0.5B, cho phép lựa chọn "kích thước tùy biến" theo từng tác vụ.

Một xu hướng đáng chú ý khác là lý thuyết kết hợp AI tác tử với sLLM. Các tác tử tự chủ thường lặp đi lặp lại các tác vụ con giống hệt hoặc tương tự (quyết định gọi công cụ, chuyển đổi định dạng, tóm tắt trung gian), và luận điểm rằng với các tác vụ lặp lại, định hình này thì một mô hình chuyên biệt nhỏ, nhanh lợi thế hơn hẳn một mô hình đa dụng khổng lồ về chi phí và độ trễ đang có sức nặng. Nghĩa là, triển vọng là tác tử tương lai sẽ tiến hóa thành một tổ hợp mô hình dị chủng trong đó, thay vì một mô hình siêu lớn xử lý mọi thứ, nhiều sLLM chia vai trò và chỉ gọi mô hình lớn khi thực sự cần. Điều này nâng sLLM vượt ra ngoài một phương tiện giảm chi phí đơn thuần thành một khối xây dựng cơ bản của kiến trúc tác tử.

Thứ ba, sự hình thành hệ sinh thái mô hình nhỏ chuyên biệt tiếng Hàn. EXAONE 3.5 của LG AI Research được ra mắt với các dòng 2.4B·7.8B·32B và cho thấy thế mạnh ở các tác vụ tiếng Hàn (dù điểm giấy phép hạn chế mục đích sử dụng cần kiểm tra khi áp dụng), và HyperCLOVA X SEED của Naver được ra mắt dưới dạng các mô hình nhỏ mở có thể dùng thương mại kích thước 0.5B·1.5B·3B và tuyên bố năng lực cạnh tranh trên các benchmark tiếng Hàn. Các mô hình nhẹ A.X của SK Telecom và những mô hình khác cũng đã tham gia, hấp thụ nhu cầu cho tổ hợp "tiếng Hàn, mạng đóng, nhỏ" ở các lĩnh vực như công và tài chính nơi khó mang dữ liệu ra ngoài. (Tham số, benchmark và giấy phép chính xác của từng mô hình thay đổi theo thời điểm công bố và phiên bản, nên phải được kiểm chứng lại với thẻ mô hình chính thức trước khi áp dụng.)

Từ góc độ ứng dụng công nghiệp, sLLM đã tạo ra các kết quả cụ thể. Tại các xưởng sản xuất, một mô hình nhỏ đặt trên mạng đóng xử lý QA về sổ tay thiết bị và lịch sử bảo trì, cung cấp tri thức hiện trường mà không rò rỉ ra ngoài; tại các tổng đài, một mô hình chuyên biệt hạng 7B xử lý tóm tắt và phân loại tư vấn theo thời gian thực, rút ngắn thời gian hậu xử lý của tư vấn viên. Trên điện thoại thông minh, các mô hình 1~3B thực hiện các chức năng như tóm tắt tin nhắn, dịch và sửa câu ngoại tuyến. Điểm chung là tất cả đều thỏa mãn các điều kiện áp dụng tối ưu của sLLM là "một tác vụ hẹp, rõ ràng + nhạy cảm về chi phí/độ trễ/quyền riêng tư".

Ứng dụng ở lĩnh vực công và tài chính đặc biệt gợi mở. Ở các lĩnh vực này, nơi khó dùng nguyên trạng một API LLM thương mại bên ngoài vì phân tách mạng và hạn chế xuất dữ liệu cá nhân, cấu hình đặt một mô hình nhỏ mở chuyên biệt tiếng Hàn lên GPU nội bộ, tinh chỉnh nó với quy định nội bộ và dữ liệu khiếu nại của công dân, rồi nối các hướng dẫn mới nhất qua RAG đang trở thành một giải pháp thực tế. Điều này trở thành bước ngoặt biến quan niệm phổ biến "khó áp dụng AI tạo sinh vì quy định" thành "áp dụng nó trong khi tuân thủ quy định bằng các mô hình nhỏ, mạng đóng", và nó thể hiện rõ nét nhất giá trị chiến lược của sLLM.

Bằng con số, hiệu quả còn rõ hơn. Nếu công việc định hình quy mô hàng trăm triệu token mỗi tháng, trước đây được xử lý bởi một API mô hình lớn bên ngoài, được chuyển sang một mô hình 7B nội bộ, thì sau khoản đầu tư GPU ban đầu, chi phí trên mỗi token trở nên thấp hơn nhiều so với API bên ngoài, nên vượt một mức sử dụng nhất định tổng chi phí sẽ đảo chiều. Ngoài ra, một mô hình on-device 1~3B, không có vòng khứ hồi mạng, rút ngắn độ trễ phản hồi cảm nhận từ mức hàng trăm ms xuống hàng chục ms, điều này thay đổi về chất tính khả dụng của các chức năng như hỗ trợ nhập liệu thời gian thực và dịch. Theo cách này, giá trị của sLLM xuất hiện không như một khẩu hiệu trừu tượng mà như những cải thiện con số cụ thể về chi phí, độ trễ và quy định.

Ngoài ra, từ góc độ kỳ thi Kỹ sư chuyên nghiệp, điều quan trọng là nhìn sLLM không như một công nghệ đơn lẻ mà gắn với các chủ đề cấp cao hơn là quản trị AI, tối ưu chi phí và chủ quyền dữ liệu. Với câu hỏi "đã có LLM sao còn phải bận tâm mô hình nhỏ", phải trả lời được không đơn thuần bằng "nó rẻ" mà bằng các giá trị đa chiều là tuân thủ quy định, khả năng đáp ứng ở biên, tổng chi phí sở hữu và kiểm soát chuỗi cung ứng. Các hướng ra đề khả dĩ là ① so sánh sLLM và LLM cùng chiến lược lai, ② nguyên lý và đánh đổi của các phương pháp xây dựng sLLM (chưng cất, lượng tử hóa, tinh chỉnh), ③ liên kết với AI on-device, RAG và tác tử, và ④ các cân nhắc áp dụng ở các ngành chịu quy định như công và tài chính. Khi soạn câu trả lời, hiệu quả là luôn gồm một bảng so sánh và một sơ đồ khái niệm kiến trúc lai, và trình bày các hàm ý từ góc độ chủ quyền dữ liệu, chi phí và quản trị ở phần kết luận.

6. Các cân nhắc và hàm ý

Áp dụng sLLM không phải lựa chọn đơn giản "dùng một mô hình nhỏ" mà là một quyết định kiến trúc trải rộng danh mục mô hình, chiến lược dữ liệu và hệ thống vận hành. Các cân nhắc khi phán đoán chiến lược từ góc độ Kỹ sư chuyên nghiệp như sau.

Chiến lược phù hợp tác vụ–mô hình (right-sizing): Từ bỏ tiền đề "mô hình lớn hơn luôn tốt hơn", định lượng độ chính xác, độ trễ và chi phí yêu cầu theo từng tác vụ, và bố trí một mô hình có kích thước tối thiểu đủ dùng. Một quy trình đo trần chất lượng bằng một mô hình lớn ở giai đoạn POC rồi kiểm chứng so sánh xem mô hình nhỏ + RAG + tinh chỉnh tiệm cận chất lượng đó đến đâu là hiệu quả.
Kiến trúc lai/định tuyến và các đánh đổi: Một cấu trúc định tuyến chia nhỏ và lớn giảm chi phí nhiều, nhưng phán đoán định tuyến sai có thể gây suy giảm chất lượng hoặc đảo chiều chi phí. Phải thiết kế độ tin cậy của chính bộ định tuyến, một đường dự phòng (fallback), và SLA chất lượng theo từng tác vụ, đồng thời có một hệ thống kiểm chứng/giám sát ([[llm-evaluation]], [[llm-as-a-judge]]) để lọc ra các câu trả lời sai âm thầm của mô hình nhỏ.
Chủ quyền dữ liệu/tuân thủ quy định và tính kinh tế on-premises: Thế mạnh lớn nhất của sLLM là bảo vệ dữ liệu qua nội bộ hóa trên mạng đóng, nhưng nó kéo theo chi phí GPU của riêng mình và nhân sự vận hành (MLOps). Phải so sánh chi phí token của API bên ngoài với tổng chi phí sở hữu (TCO) on-premises trong trung và dài hạn, và xác định phạm vi áp dụng trong khi cũng cân nhắc sự phù hợp với các yêu cầu quy định như luật bảo vệ dữ liệu cá nhân và phân tách mạng.
Rủi ro giấy phép/chuỗi cung ứng của mô hình mở: Các mô hình nhỏ mở có giấy phép đa dạng (hạn chế sử dụng thương mại, điều kiện phân phối lại, ràng buộc sử dụng đầu ra, v.v.), và kiểm chứng nguồn gốc và tính an toàn (cửa hậu, thiên lệch dữ liệu) của trọng số mô hình cũng là một nhiệm vụ. Trước khi áp dụng, phải bảo đảm việc rà soát tính phù hợp giấy phép và một hệ thống quản lý chuỗi cung ứng/chất lượng dựa trên [[ai-sbom]] và [[model-drift-monitoring]].
Vận hành liên tục và quản lý vòng đời mô hình: Vì mô hình nhỏ chuyên biệt cao, nó dễ tổn thương với thay đổi miền, nên phải có giám sát trôi dữ liệu và một đường ống tái huấn luyện/tái chưng cất định kỳ ([[llmops]]). Chuẩn hóa vận hành đa bộ điều hợp (LoRA), quản lý phiên bản và một chiến lược quay lui để cân bằng chuyên biệt hóa và khả năng bảo trì là then chốt cho thành công dài hạn.
Năng lực tổ chức và quản lý thay đổi: Khác với gọi một API bên ngoài, nội bộ hóa một sLLM đòi hỏi năng lực MLOps nội bộ trải rộng chuẩn bị dữ liệu, tinh chỉnh, triển khai và giám sát. Không kém việc áp dụng công nghệ, việc cải tổ tổ chức và quy trình — như hệ thống gán nhãn dữ liệu, tiêu chí đánh giá mô hình và thiết lập trách nhiệm vận hành (RACI) — phải đi kèm, và ở giai đoạn đầu khi năng lực còn thiếu, một cách tiếp cận theo giai đoạn dùng dịch vụ được quản lý hoặc chuyên môn bên ngoài là thực tế.

Nhìn về phía trước, thị trường AI tạo sinh nhiều khả năng sẽ phân hóa từ "một mô hình siêu lớn" thành "một danh mục nhiều mô hình được tối ưu theo từng tác vụ". sLLM sẽ là một trục cốt lõi đảm nhận chi phí, quyền riêng tư và biên trong danh mục đó, và kết hợp với [[rag]], [[ai-agent]] và [[on-device-ai]], nó được kỳ vọng phát triển theo hướng nội bộ hóa AI "nhỏ nhưng đủ thông minh" khắp hiện trường. Với một Kỹ sư chuyên nghiệp, năng lực thiết kế kiến trúc để chọn và kết hợp không phải "một mô hình lớn hơn" mà "một mô hình có kích thước đúng cho tác vụ" sẽ trở thành một năng lực cạnh tranh cốt lõi.

Tài liệu tham khảo

Microsoft, "Phi Open Models" / giới thiệu kỹ thuật Phi-4, https://azure.microsoft.com/en-us/products/phi
Google, "Gemma open models", https://ai.google.dev/gemma
Meta, "Llama 3.2", https://ai.meta.com/blog/llama-3-2-connect-2024-vision-edge-mobile-devices/
Alibaba, "Qwen2.5", https://qwenlm.github.io/blog/qwen2.5/
LG AI Research, "EXAONE 3.5", https://www.lgresearch.ai/

Tóm tắt một câu: sLLM là mô hình ngôn ngữ nhẹ vài trăm triệu đến vài chục tỷ tham số, với chi phí thấp, độ trễ thấp, triển khai on-premises và dễ chuyên biệt hóa làm vũ khí, chia sẻ vai trò với các LLM lớn, và bằng cách kết hợp dữ liệu chất lượng cao, tinh chỉnh (LoRA), lượng tử hóa và RAG, nội bộ hóa AI "nhỏ nhưng đủ thông minh" tại hiện trường.