Độ tin cậy của trí tuệ nhân tạo (AI Trustworthiness)

1. Tổng quan

A. Định nghĩa

Tổng thể các thuộc tính được yêu cầu để hệ thống AI hoạt động an toàn·công bằng·minh bạch đúng với mục đích đã định, và để con người có thể tin tưởng và sử dụng phán đoán·kết quả của nó. Các thuộc tính này đang được chuẩn tắc hóa trong EU AI Act·NIST AI RMF·ISO/IEC 42001·Luật cơ bản về AI của Hàn Quốc, v.v.

Độ tin cậy không phải là một chức năng đơn lẻ mà là tính chất kết hợp nhiều thuộc tính như công bằng·minh bạch·vững chắc·an toàn·trách nhiệm·quyền riêng tư, và được bảo đảm không chỉ ở thuật toán mô hình mà trên toàn bộ dữ liệu·vận hành·tổ chức·quản trị. Tức là "mô hình có độ chính xác cao" và "AI đáng tin cậy" là hai khái niệm khác nhau; dù chính xác đến đâu, nếu không giải thích được căn cứ phán đoán hoặc phân biệt đối xử với một nhóm cụ thể thì không thể được tin cậy.

B. Bối cảnh ra đời và sự cần thiết

Khi AI được dùng cho các quyết định rủi ro cao gắn trực tiếp với quyền lợi con người như tuyển dụng·cho vay·chẩn đoán y khoa·tư pháp hình sự, các rủi ro đã lộ ra: tái sản xuất mở rộng nguyên xi thiên lệch xã hội chứa trong dữ liệu huấn luyện (thiên lệch), không thể biết vì sao lại ra quyết định như vậy (hộp đen), hoạt động sai với đầu vào không lường trước (thiếu vững chắc), và AI tạo sinh bịa ra điều sai trông có vẻ hợp lý (ảo giác). Những rủi ro này lan từ thiệt hại cá nhân sang vấn đề chấp nhận của xã hội và trách nhiệm doanh nghiệp, nên các quốc gia đang chuyển động theo hướng dùng quy định để bắt buộc bảo đảm độ tin cậy. Đặc biệt, khi AI tạo sinh lan rộng làm bề mặt rủi ro mở rộng, độ tin cậy đã trở thành điều kiện tiên quyết để đưa vào sử dụng chứ không còn là lựa chọn.

2. Các thuộc tính cốt lõi

flowchart LR
  F[Công bằng] --- T[Minh bạch·XAI]
  T --- R[Vững chắc]
  R --- S[An toàn]
  S --- A[Trách nhiệm]
  A --- P[Quyền riêng tư]

Sáu thuộc tính này vừa bổ trợ lẫn nhau vừa đôi khi xung đột. Ví dụ, công khai bên trong mô hình để tăng minh bạch có thể làm suy yếu quyền riêng tư hoặc bảo mật, và loại bỏ một biến cụ thể vì công bằng có thể làm giảm độ chính xác. Vì thế, bảo đảm độ tin cậy không phải là tối đa hóa một thuộc tính đơn lẻ mà là vấn đề quản lý cân bằng (đánh đổi) giữa các thuộc tính.

A. Công bằng (Fairness)

Nếu dữ liệu huấn luyện chứa sự phân biệt đối xử trong quá khứ, mô hình sẽ học điều đó và đưa ra quyết định bất lợi cho giới tính·chủng tộc·độ tuổi cụ thể. Chẳng hạn, huấn luyện mô hình tuyển dụng bằng dữ liệu những người trúng tuyển trước đây sẽ lặp lại nguyên xi thiên lệch giới tính sẵn có. Vì thế cần đo lường định lượng thiên lệch (chênh lệch hiệu năng·tỷ lệ lỗi giữa các nhóm) và giảm thiểu ở các giai đoạn dữ liệu·thuật toán·hậu xử lý.

B. Minh bạch·khả năng giải thích (XAI)

Con người phải có thể hiểu·kiểm chứng căn cứ phán đoán thì mới có thể khiếu nại và truy cứu trách nhiệm. Các kỹ thuật XAI như SHAP·LIME trình bày "đầu vào nào đóng góp bao nhiêu vào quyết định". Càng là học sâu thì hiệu năng càng cao nhưng càng khó diễn giải, nên cân bằng giữa hiệu năng-khả năng giải thích trở thành thách thức.

C. Vững chắc (Robustness) và D. An toàn (Safety)

Vững chắc là tính chất hiệu năng không sụp đổ ngay cả trước đầu vào đối nghịch (Adversarial Example)·nhiễu·thay đổi phân phối, còn an toàn là tính chất kiểm soát để hoạt động sai không dẫn tới tổn hại thực tế. Cuộc tấn công dùng vài miếng dán khiến xe tự hành nhận nhầm biển báo là ví dụ tiêu biểu, cần đồng thời kiểm thử vững chắc (kiểm thử đối nghịch) và cơ chế an toàn (con người ghi đè·fail-safe).

E. Trách nhiệm (Accountability) và F. Quyền riêng tư

Trách nhiệm là lưu lại log·phiên bản·lịch sử ra quyết định và thiết lập quản trị để có thể truy vết nguyên nhân·trách nhiệm khi xảy ra sự cố, còn quyền riêng tư là bảo vệ chủ thể dữ liệu bằng thu thập tối thiểu thông tin cá nhân·phi định danh hóa·quyền riêng tư vi sai (DP).

3. Phương án bảo đảm (toàn vòng đời)

flowchart LR
  D[Dữ liệu<br/>loại bỏ thiên lệch·tính đại diện] --> M[Mô hình<br/>kiểm chứng·XAI]
  M --> G[Quản trị<br/>đánh giá tác động]
  G --> O[Vận hành<br/>giám sát·kiểm toán]

Độ tin cậy không được hoàn thiện bằng biện pháp ở một giai đoạn nào đó. Bởi nếu dữ liệu bị thiên lệch thì mô hình tốt đến đâu cũng thiên lệch (GIGO), và nếu phân phối dữ liệu thay đổi sau khi triển khai (trôi dạt) thì kiểm chứng ban đầu trở nên vô nghĩa. Do đó, phải bố trí phân tán các biện pháp kiểm soát trên toàn vòng đời dữ liệu-mô hình-quản trị-vận hành.

4. Các quy định·tiêu chuẩn liên quan

Lý do EU AI Act chọn quy định dựa trên rủi ro — phân cấp rủi ro và áp đặt nghĩa vụ mạnh cho AI rủi ro cao — là vì quy định đồng loạt mọi AI sẽ kìm hãm đổi mới quá mức. Cách tiếp cận tập trung nguồn lực quản lý vào nơi có rủi ro lớn này cũng cùng hướng với dòng chảy Map (nhận diện rủi ro)-Measure (đo lường) của NIST RMF.

5. Các điểm cần cân nhắc và hàm ý

• Quản trị toàn vòng đời là cốt lõi: Độ tin cậy không kết thúc bằng một lần kiểm tra sau khi ra mắt mô hình, mà phải được quản lý liên tục bằng giám sát trôi dạt·kiểm toán định kỳ.
• Quản lý đánh đổi giữa các thuộc tính: Điều phối các trục xung đột như độ chính xác-công bằng, hiệu năng-khả năng giải thích, minh bạch-quyền riêng tư phù hợp với mức rủi ro của miền nghiệp vụ là lĩnh vực phán đoán của Kỹ sư chuyên nghiệp.
• Mở rộng do AI tạo sinh: Các vấn đề ảo giác·nội dung độc hại·căn chỉnh (Alignment) nổi lên, và các biện pháp kiểm soát độ tin cậy đặc thù cho AI tạo sinh như guardrail·RLHF·kiểm thử red team đang được bổ sung.
• Ứng phó quy định·chứng nhận: Nếu thuộc cấp rủi ro cao của EU AI Act thì đánh giá sự phù hợp·tài liệu kỹ thuật·giám sát sau thị trường trở thành bắt buộc, nên doanh nghiệp Hàn Quốc cũng cần ứng phó chủ động vì mục tiêu xuất khẩu·dịch vụ toàn cầu.

Tóm tắt một câu: Độ tin cậy AI là tính chất có được một cách cân bằng công bằng·minh bạch·vững chắc·an toàn·trách nhiệm·quyền riêng tư, được bảo đảm thông qua quản lý toàn vòng đời dữ liệu-mô hình-quản trị-vận hành và ứng phó các quy định·tiêu chuẩn dựa trên rủi ro như EU AI Act·NIST RMF·ISO 42001, và tầm quan trọng của nó ngày càng tăng khi AI tạo sinh lan rộng.