Tính công bằng của AI (Fairness) và giảm thiểu thiên lệch thuật toán
1. Tổng quan
A. Định nghĩa
Tính công bằng của AI (Fairness) là tính chất theo đó dự đoán và quyết định của mô hình học máy không gây bất lợi không chính đáng cho một nhóm cụ thể dựa trên các thuộc tính nhạy cảm cần được bảo vệ về mặt pháp lý và đạo đức (protected attribute) như giới tính, tuổi, chủng tộc, khuyết tật, vùng miền; còn giảm thiểu thiên lệch (Bias Mitigation) là tập hợp các hoạt động nhận diện và hiệu chỉnh bằng phương pháp thống kê/kỹ thuật các nguyên nhân gây bất công đó trên toàn bộ quy trình dữ liệu, huấn luyện và đầu ra.
Tính công bằng là một trục chất lượng khác với "mô hình có độ chính xác cao". Một mô hình sàng lọc tuyển dụng có độ chính xác trung bình 95% vẫn không thể được xã hội chấp nhận nếu lỗi của nó tập trung vào một giới. Nói cách khác, công bằng là bài toán phơi bày khoảng cách hiệu năng giữa các nhóm mà chỉ số tổng thể che giấu; đó là góc nhìn hỏi "mô hình sai đối với ai?".
Thiên lệch thuật toán không chỉ có nghĩa là phân biệt đối xử có chủ đích. Trái lại, phần lớn thiên lệch là thiên lệch không chủ đích trong đó bất bình đẳng xã hội tích tụ trong dữ liệu quá khứ được mô hình học nguyên vẹn, mẫu thiếu tính đại diện, hoặc biến đại diện (proxy) tương quan với thuộc tính nhạy cảm gây phân biệt gián tiếp. Do đó giảm thiểu thiên lệch nên được tiếp cận không phải như "loại bỏ lập trình viên xấu" mà như kiểm soát bằng kỹ thuật các khiếm khuyết cấu trúc của dữ liệu và mô hình.
B. Bối cảnh xuất hiện và sự cần thiết
Thứ nhất, việc ra quyết định bằng AI đã mở rộng nhanh chóng sang các lĩnh vực tác động cao (high-stakes) như tuyển dụng, chấm điểm tín dụng, bảo lãnh bảo hiểm, chẩn đoán y tế, tư pháp hình sự, xét hưởng phúc lợi. Trong các lĩnh vực này, một quyết định sai ảnh hưởng trực tiếp đến sinh kế, sức khỏe hay tự do của cá nhân, nên chỉ riêng độ chính xác trung bình không thể biện minh cho dịch vụ, mà còn phải giải thích được "phân bố của lỗi".
Thứ hai, các trường hợp thiệt hại thực tế đã tích lũy. Phân tích năm 2016 của ProPublica cho rằng công cụ dự đoán nguy cơ tái phạm COMPAS gán dương tính giả (false positive) quá mức cho bị cáo da đen, một trường hợp công bố năm 2018 trong đó AI tuyển dụng của một hãng công nghệ lớn trừ điểm một cách hệ thống đối với ứng viên nữ, và nghiên cứu (Gender Shades) cho thấy nhiều hệ thống nhận diện khuôn mặt có tỷ lệ lỗi cao rõ rệt đối với phụ nữ da màu, tất cả đã đưa phân biệt thuật toán thành một chủ đề xã hội.
Thứ ba, quy định đang chuyển công bằng thành nghĩa vụ. EU AI Act (có hiệu lực 2024) phân loại tuyển dụng, tín dụng, giáo dục và tương tự là AI rủi ro cao (high-risk), yêu cầu chất lượng dữ liệu, kiểm tra thiên lệch và lập hồ sơ. Ở Hàn Quốc, các quy định về quyền đối với quyết định tự động của Ủy ban Bảo vệ Thông tin cá nhân, "Luật Khung về Trí tuệ nhân tạo" (công bố 2025, dự kiến có hiệu lực 2026) cũng đang thể chế hóa các yêu cầu về tin cậy và công bằng. Lịch trình lập pháp có thể thay đổi nên được trình bày khái quát, nhưng Kỹ sư chuyên nghiệp phải có khả năng chuyển nó thành yêu cầu, biện pháp kiểm soát và bằng chứng.
C. Mục tiêu bảo đảm công bằng
Mục tiêu thứ nhất của hoạt động công bằng là bình đẳng giữa các nhóm (group equity) — quản lý khoảng cách về tỷ lệ chấp nhận, tỷ lệ lỗi và cơ hội giữa nhóm được bảo vệ và nhóm không được bảo vệ trong phạm vi chấp nhận được. Mục tiêu thứ hai là tính nhất quán ở cấp cá nhân (individual consistency), nguyên tắc rằng các cá nhân tương tự phải nhận quyết định tương tự. Mục tiêu thứ ba là minh bạch và trách nhiệm giải trình — để lại dưới dạng có lập hồ sơ và kiểm chứng được tiêu chí công bằng nào đã được chọn vì sao và sự đánh đổi nào đã được chấp nhận.
2. Nguồn gốc thiên lệch thuật toán và vòng đời
Thiên lệch không phát sinh một lần ở một giai đoạn duy nhất; nó thấm vào suốt vòng đời từ thu thập dữ liệu đến vận hành. Do đó chiến lược giảm thiểu phải được thiết kế không phải tại một điểm mà như phòng thủ nhiều lớp (defense in depth). Sơ đồ cấu trúc dưới đây cho thấy cả các điểm thiên lệch xâm nhập và các điểm kiểm soát tương ứng.
flowchart TB
subgraph SRC["Đường xâm nhập thiên lệch"]
H["Thiên lệch lịch sử (bất bình đẳng xã hội quá khứ)"]
R["Thiên lệch lấy mẫu (thiếu đại diện)"]
L["Thiên lệch nhãn (nhãn chủ quan)"]
P["Thiên lệch biến đại diện (tương quan proxy)"]
F["Vòng phản hồi (đầu ra tái nhập làm dữ liệu)"]
end
H --> DATA["Dữ liệu huấn luyện"]
R --> DATA
L --> DATA
P --> DATA
DATA --> MODEL["Huấn luyện mô hình"]
MODEL --> OUT["Dự đoán / quyết định"]
OUT --> USER["Người dùng / xã hội"]
USER -. "dữ liệu tái huấn luyện" .-> F
F --> DATA
DATA --> C1["Kiểm soát tiền xử lý"]
MODEL --> C2["Kiểm soát trong huấn luyện"]
OUT --> C3["Kiểm soát hậu xử lý"]
A. Thiên lệch lịch sử và thiên lệch lấy mẫu
Thiên lệch lịch sử (historical bias) xảy ra khi bản thân dữ liệu phản ánh chính xác thực tế nhưng thực tế đó vốn đã bất bình đẳng. Ví dụ, nếu việc tuyển dụng ở một nhóm nghề trong mười năm qua lấy nam giới làm trung tâm, mô hình huấn luyện trên dữ liệu đó học nhầm "nam tính" như một tín hiệu của năng lực. Ở đây dữ liệu "không sai", nhưng dùng nguyên vẹn thì tái sản xuất sự phân biệt.
Thiên lệch lấy mẫu/đại diện (sampling/representation bias) xảy ra khi dữ liệu của một nhóm khan hiếm hoặc chất lượng thấp. Trong nhận diện khuôn mặt, nếu ảnh nam da sáng được lấy mẫu quá mức, tỷ lệ lỗi tăng vọt đối với khuôn mặt nữ da tối. Trong nghiên cứu Gender Shades, một số hệ thống thương mại có tỷ lệ lỗi dưới 1% đối với nam da sáng nhưng vượt 30% đối với nữ da tối — một kết quả điển hình của thiên lệch lấy mẫu.
B. Thiên lệch nhãn và thiên lệch biến đại diện
Thiên lệch nhãn (label bias) phát sinh khi nhãn chân trị chứa tính chủ quan và định kiến của con người. Gán nhãn "nhân viên xuất sắc" bằng đánh giá chủ quan của quản lý trong quá khứ khiến định kiến nội tại trong các đánh giá đó trở thành biến mục tiêu một cách trực tiếp. Thiên lệch biến đại diện (proxy bias) là hiện tượng trong đó, dù không dùng trực tiếp thuộc tính nhạy cảm, một biến tương quan mạnh với nó (mã bưu chính nơi cư trú, trường cũ, khoảng cách đi làm, v.v.) trung gian hóa sự phân biệt một cách gián tiếp. Lý do cốt lõi khiến "công bằng nhờ vô minh (fairness through unawareness)" — loại bỏ cột thuộc tính nhạy cảm — thất bại chính là biến đại diện này; trên thực tế một mã bưu chính có thể hoạt động như biến đại diện mạnh cho chủng tộc và thu nhập.
C. Thiên lệch vòng phản hồi
Thiên lệch vòng phản hồi (feedback loop) là khi, trong vận hành, các quyết định của mô hình lại trở thành dữ liệu và khuếch đại thiên lệch. Trong tuần tra dự báo (predictive policing), tập trung tuần tra vào một khu vực làm tăng hồ sơ bắt giữ của khu vực đó, và hồ sơ tăng lên lại củng cố dự đoán "điểm nóng tội phạm", tạo ra vòng luẩn quẩn. Trong hệ khuyến nghị cũng vậy, phơi bày sinh ra lượt nhấp và lượt nhấp lại quyết định phơi bày, dần loại trừ thị hiếu thiểu số và nhóm thiểu số. Vòng phản hồi vô hình trong đánh giá tĩnh, nên giám sát liên tục trong vận hành là thiết yếu.
Năm nguồn thiên lệch này không độc lập với nhau; chúng kết hợp và khuếch đại. Khi dữ liệu nhóm thiểu số khan hiếm do thiên lệch lấy mẫu, độ bất định của mô hình đối với nhóm đó tăng lên, các dự đoán bất định dẫn đến quyết định thận trọng (từ chối), và các quyết định đó tái nhập qua vòng phản hồi khiến khoảng cách tích lũy. Do đó chẩn đoán thiên lệch phải không phải là tìm kiếm nguyên nhân đơn lẻ mà là phân tích cấu trúc theo dõi nguồn gốc dữ liệu để truy "cái gì đã xâm nhập ở giai đoạn nào".
3. Chỉ số công bằng và đo lường
Công bằng không cố định ở một "định nghĩa" duy nhất. Tùy theo điều gì được xem là công bằng, tồn tại các tiêu chí toán học khác nhau và đôi khi không tương thích lẫn nhau. Sơ đồ luồng dưới đây cho thấy toàn bộ quy trình đánh giá/giảm thiểu công bằng.
flowchart LR
A["Định nghĩa thuộc tính nhạy cảm / nhóm bảo vệ"] --> B["Chọn chỉ số tham chiếu"]
B --> C["Tính chỉ số theo nhóm"]
C --> D{"Khoảng cách trong ngưỡng?"}
D -- "Không" --> E["Áp dụng kỹ thuật giảm thiểu"]
E --> F["Tái huấn luyện / tái hiệu chuẩn"]
F --> C
D -- "Có" --> G["Lập hồ sơ công bằng / model card"]
G --> H["Giám sát vận hành / theo dõi trôi dạt"]
H -. "khoảng cách tái phát" .-> C
A. Chỉ số công bằng nhóm (Group Fairness)
Ba chỉ số công bằng nhóm được dùng rộng rãi nhất như sau. Thứ nhất, Ngang bằng nhân khẩu (Demographic Parity) là tiêu chí rằng tỷ lệ dự đoán dương phải bằng nhau giữa nhóm được bảo vệ và không được bảo vệ, biểu diễn bằng P(Ŷ=1│A=a) = P(Ŷ=1│A=b). Thứ hai, Cơ hội ngang bằng (Equal Opportunity) là tiêu chí rằng xác suất được dự đoán là dương trong số các dương thực tế (tỷ lệ dương thật, TPR) phải bằng nhau giữa các nhóm. Thứ ba, Odds ngang bằng (Equalized Odds) là tiêu chí nghiêm ngặt hơn rằng cả tỷ lệ dương thật và tỷ lệ dương giả (FPR) đều phải bằng nhau giữa các nhóm.
Trên thực tế, Tỷ lệ tác động chênh lệch (Disparate Impact Ratio, DIR), bắt nguồn từ "quy tắc 80%" của EEOC Hoa Kỳ, cũng được dùng nhiều. Đó là tỷ lệ chấp nhận của nhóm thiểu số chia cho tỷ lệ chấp nhận của nhóm đa số, và giá trị dưới 0,8 thường được xem là tín hiệu đỏ của bất công. Ví dụ, nếu tỷ lệ đậu của nam là 50% và của nữ là 30% thì DIR là 0,6 — một trường hợp rõ ràng của tác động chênh lệch.
| Chỉ số | Điều kiện cốt lõi | Tình huống phù hợp | Giới hạn |
|---|---|---|---|
| Ngang bằng nhân khẩu | Tỷ lệ dự đoán dương như nhau | Phân bổ cơ hội (tuyển dụng, quảng cáo) | Có thể bỏ qua khác biệt năng lực thực |
| Cơ hội ngang bằng | Tỷ lệ dương thật như nhau | Dương không được bỏ sót (sàng lọc bệnh) | Khoảng cách FPR không được kiểm soát |
| Odds ngang bằng | TPR / FPR như nhau | Tư pháp, tín dụng khi cả hai chiều lỗi quan trọng | Rất nghiêm ngặt, mất độ chính xác |
| Tỷ lệ tác động chênh lệch | Tỷ lệ chấp nhận ≥ 0,8 | Sàng lọc phân biệt pháp lý | Tính tùy tiện của ngưỡng |
B. Công bằng cá nhân và công bằng phản thực
Trong khi công bằng nhóm nhìn vào "trung bình nhóm", Công bằng cá nhân (Individual Fairness) là nguyên tắc rằng "các cá nhân tương tự phải nhận quyết định tương tự", với việc định nghĩa thước đo tương đồng phù hợp là thách thức cốt lõi. Trong khi đó, Công bằng phản thực (Counterfactual Fairness) dùng suy luận nhân quả để hỏi "nếu chỉ thuộc tính nhạy cảm của người này thay đổi thì quyết định có khác đi không". Nếu quyết định thay đổi thì thuộc tính đó đã tác động không chính đáng. Điều này có thể nắm bắt cả phân biệt gián tiếp qua biến đại diện nên mạnh về mặt lý thuyết, nhưng mang ràng buộc thực tế là việc xây dựng đồ thị nhân quả chính xác rất khó.
C. Định lý bất khả thi của công bằng
Các chỉ số công bằng thường không thể được thỏa mãn đồng thời. Theo định lý bất khả thi (impossibility theorem) được Kleinberg, Chouldechova và cộng sự hình thức hóa, khi tỷ lệ cơ sở (base rate) khác nhau giữa các nhóm, nói chung không thể thỏa mãn đồng thời hiệu chuẩn (calibration), tỷ lệ dương thật ngang bằng và tỷ lệ dương giả ngang bằng. Nghĩa là công bằng không phải bài toán kỹ thuật thuần túy mà là bài toán bao hàm phán đoán giá trị "ưu tiên công bằng nào". Kỹ sư chuyên nghiệp không được che giấu sự đánh đổi này mà phải trình bày nó một cách tường minh để các bên liên quan có thể lựa chọn.
4. Kỹ thuật giảm thiểu thiên lệch
Giảm thiểu thiên lệch chia thành ba phạm trù theo thời điểm áp dụng: tiền xử lý, trong huấn luyện và hậu xử lý. Không cái nào luôn vượt trội; chúng được kết hợp theo khả năng truy cập dữ liệu, khả năng sửa đổi mô hình và yêu cầu quy định.
A. Kỹ thuật tiền xử lý (Pre-processing)
Tiền xử lý hiệu chỉnh bản thân dữ liệu, với ưu điểm độc lập với mô hình và minh bạch. Là các kỹ thuật tiêu biểu, tái gán trọng số (reweighing) gán trọng số lớn hơn cho mẫu của nhóm thiếu đại diện để cân bằng. Tái lấy mẫu (resampling) lấy mẫu vượt (oversampling, ví dụ SMOTE) nhóm thiểu số hoặc lấy mẫu dưới (undersampling) nhóm đa số. Học biểu diễn công bằng (Learning Fair Representations) học một biểu diễn tiềm ẩn bảo tồn thông tin tác vụ trong khi loại bỏ thông tin thuộc tính nhạy cảm. Ví dụ, nếu các trường hợp phê duyệt cho nữ khan hiếm trong dữ liệu vay, tái gán trọng số khuếch đại ảnh hưởng của chúng để mô hình học mẫu đó một cách đầy đủ.
Giới hạn của tiền xử lý là không thể kiểm soát hoàn toàn cách mô hình hạ nguồn sử dụng dữ liệu. Ngoài ra, nếu các biến đại diện đan xen phức tạp thì chỉ riêng tái gán trọng số đơn giản khó loại bỏ phân biệt gián tiếp.
B. Kỹ thuật trong huấn luyện (In-processing)
Kỹ thuật trong huấn luyện tích hợp ràng buộc công bằng trực tiếp vào hàm mục tiêu của mô hình. Chính quy hóa công bằng (fairness regularization) thêm một số hạng phạt khoảng cách giữa các nhóm vào hàm mất mát để tối ưu đồng thời độ chính xác và công bằng. Khử thiên lệch đối kháng (adversarial debiasing) đặt, tách biệt với bộ dự đoán, một "đối thủ cố gắng đoán thuộc tính nhạy cảm từ đầu ra", và huấn luyện bộ dự đoán sao cho đối thủ thất bại, qua đó loại bỏ thông tin nhạy cảm khỏi đầu ra. Tối ưu có ràng buộc (constrained optimization) áp đặt một điều kiện công bằng như odds ngang bằng làm ràng buộc và tối đa hóa độ chính xác.
Kỹ thuật trong huấn luyện cho phép hiệu chỉnh căn bản nhất nhưng đòi hỏi truy cập cấu trúc mô hình, và độ ổn định hội tụ cùng chi phí tính toán có thể tăng. Việc áp dụng nó vào mô hình tiền huấn luyện bên ngoài (LLM dựa trên API, v.v.) bị hạn chế. Trực giác của khử thiên lệch đối kháng là: nếu chỉ từ đầu ra (hoặc biểu diễn trung gian) của mô hình mà có thể đoán giới tính của ứng viên với độ chính xác cao, điều đó nghĩa là thông tin giới tính vẫn đang rò rỉ vào đầu ra. Huấn luyện bộ dự đoán sao cho độ chính xác đoán giới tính của đối thủ hội tụ về mức ngẫu nhiên (khoảng 50% với thuộc tính nhị phân) loại bỏ dấu vết thông tin nhạy cảm khỏi đầu ra trong khi vẫn bảo tồn hiệu năng tác vụ gốc.
C. Kỹ thuật hậu xử lý (Post-processing)
Hậu xử lý điều chỉnh đầu ra hoặc ngưỡng quyết định của một mô hình đã huấn luyện xong. Điều chỉnh ngưỡng theo nhóm (threshold adjustment) áp dụng một ngưỡng quyết định khác nhau cho mỗi nhóm để cân bằng tỷ lệ dương thật. Hậu xử lý hiệu chuẩn (calibration) hiệu chỉnh phân bố điểm số theo nhóm. Hậu xử lý có ưu điểm lớn là không tái huấn luyện mô hình, nên áp dụng được ngay cả cho mô hình hộp đen và chi phí thấp. Tuy nhiên, việc dùng ngưỡng khác nhau theo nhóm có thể làm bùng lên tranh cãi "phân biệt ngược" hoặc vấn đề pháp lý, và để nguyên nguyên nhân gốc.
| Phạm trù | Thời điểm áp dụng | Ưu điểm | Giới hạn | Kỹ thuật tiêu biểu |
|---|---|---|---|---|
| Tiền xử lý | Trước huấn luyện | Độc lập mô hình, minh bạch | Kiểm soát hạ nguồn yếu | Tái gán trọng số, tái lấy mẫu, biểu diễn công bằng |
| Trong huấn luyện | Trong huấn luyện | Hiệu chỉnh căn bản | Cần truy cập mô hình, chi phí cao hơn | Khử thiên lệch đối kháng, chính quy hóa công bằng |
| Hậu xử lý | Khi suy luận | Áp dụng hộp đen, chi phí thấp | Phân biệt ngược, nguyên nhân gốc chưa giải quyết | Điều chỉnh ngưỡng, hiệu chuẩn |
Như một trường hợp thực tế, khi một ngân hàng đo DIR của mô hình vay là 0,65, cách tiếp cận cân bằng dữ liệu bằng tái gán trọng số tiền xử lý, thêm ràng buộc công bằng trong huấn luyện, rồi áp dụng hiệu chuẩn theo nhóm trong vận hành — một tổ hợp ba giai đoạn — nâng DIR lên trên 0,85 trong khi giữ mất mát độ chính xác tổng thể trong phạm vi 2 điểm phần trăm là điển hình. Mấu chốt không phải một kỹ thuật đơn lẻ mà là sự kết hợp trên toàn vòng đời.
5. Chuyên sâu: Thiên lệch và xu hướng tiêu chuẩn trong kỷ nguyên AI tạo sinh
Thảo luận về công bằng cho các mô hình phân loại và hồi quy truyền thống bước vào một giai đoạn mới với mô hình ngôn ngữ lớn (LLM) và AI tạo sinh. Vì LLM được huấn luyện trên kho ngữ liệu thô quy mô web, chúng hấp thụ nguyên vẹn các định kiến xã hội về giới, chủng tộc, tôn giáo và nghề nghiệp. Tiêu biểu là tổn hại biểu trưng (representational harm) — liên tưởng "y tá" với phụ nữ và "CEO" với nam giới, hoặc sinh ra các biểu đạt gây hại/hạ thấp đối với nhóm cụ thể. Điều này khó quy về chỉ số số học và đòi hỏi kết hợp red-teaming, các benchmark thiên lệch (BBQ, StereoSet, v.v.) và đánh giá bởi con người.
Phương tiện giảm thiểu cũng thay đổi. Lọc dữ liệu tiền huấn luyện, căn chỉnh qua học tăng cường từ phản hồi con người (RLHF) và AI Hiến pháp (Constitutional AI), kiểm soát đầu ra qua system prompt và guardrail, giới hạn căn cứ qua tăng cường truy xuất (RAG) được kết hợp. Tuy nhiên, lọc quá mức có thể gây từ chối quá đà (over-refusal) với một số chủ đề hoặc một thiên lệch khác, nên sự cân bằng giữa công bằng và tính hữu ích lại trở thành thách thức.
Về mặt tiêu chuẩn/quy định, NIST AI RMF (2023) trình bày công bằng và quản lý thiên lệch như một trong các đặc tính đáng tin cậy và, trong một ấn phẩm riêng, cung cấp phân loại thiên lệch hệ thống, thống kê và con người. ISO/IEC TR 24027 đề cập đánh giá thiên lệch của hệ thống AI, và tiêu chuẩn hệ thống quản lý AI ISO/IEC 42001 (2023) bao gồm kiểm soát thiên lệch như một yêu cầu của hệ thống quản lý. EU AI Act bắt buộc về mặt pháp lý, đối với AI rủi ro cao, tính thích hợp của tập dữ liệu huấn luyện, kiểm định và kiểm thử cùng việc kiểm tra thiên lệch. Như vậy công bằng đang chuyển từ "khuyến nghị" sang "kiểm soát có thể kiểm toán".
6. Điểm cân nhắc và hàm ý
Thứ nhất, lựa chọn tiêu chí công bằng là vấn đề đồng thuận của kinh doanh, pháp lý và đạo đức. Kỹ sư chuyên nghiệp không được để lập trình viên tùy tiện quyết định giữa ngang bằng nhân khẩu, cơ hội ngang bằng và odds ngang bằng; cấu trúc ra quyết định nên được thiết kế để các bên liên quan lựa chọn dựa trên rủi ro lĩnh vực (giảm thiểu âm tính giả cho sàng lọc bệnh, cơ hội ngang bằng cho phân bổ quảng cáo, v.v.) và yêu cầu quy định. Truyền đạt rõ ràng rằng, do định lý bất khả thi, "đạt mọi công bằng đồng thời" là bất khả cũng là trách nhiệm của kỹ sư.
Thứ hai, sự đánh đổi độ chính xác–công bằng phải được quản lý định lượng. Việc ràng buộc công bằng làm giảm phần nào độ chính xác tổng thể là bình thường; điều quan trọng là lập hồ sơ xem mất mát đó có nằm trong phạm vi hợp lý không và mất mát phục vụ lợi ích của ai. Một cách tiếp cận hiệu quả là trình bày đường cong Pareto độ chính xác–công bằng để người ra quyết định nhìn thấy sự đánh đổi bằng chính mắt mình và lựa chọn.
Thứ ba, công bằng là đối tượng giám sát liên tục trong vận hành, không phải kiểm tra một lần. Do trôi dạt dữ liệu và vòng phản hồi, một mô hình công bằng khi triển khai có thể trở nên bất công theo thời gian. Do đó phải tính định kỳ hiệu năng theo nhóm và DIR, đồng thời xây dựng một pipeline MLOps (bao gồm model card và bảng điều khiển công bằng) tái huấn luyện/tái hiệu chuẩn khi vượt ngưỡng.
Thứ tư, cần liên kết với quản trị và trách nhiệm giải trình. Hoạt động công bằng đạt hiệu lực khi kết hợp với nguồn gốc dữ liệu, model card, đánh giá tác động (DPIA / đánh giá tác động AI), thủ tục khiếu nại và giám sát con người (human-in-the-loop). Đặc biệt, phù hợp với xu hướng thể chế hóa quyền được giải thích và quyền phản đối đối với quyết định tự động, kết quả kiểm tra công bằng nên được lưu làm bằng chứng kiểm toán và thiết kế để cho phép kiểm chứng bên ngoài.
Thứ năm, không được bỏ qua biến đại diện và tính giao thoa (intersectionality). Vì chỉ loại bỏ thuộc tính nhạy cảm không thể ngăn phân biệt gián tiếp nên phải phân tích chủ động các tương quan đại diện, và thiết kế đánh giá phải phản ánh rằng thiên lệch có thể bị khuếch đại tại giao điểm của các thuộc tính — như "da tối × nữ" — chứ không phải ở một thuộc tính đơn lẻ.
Tài liệu tham khảo
- NIST, "Towards a Standard for Identifying and Managing Bias in Artificial Intelligence (SP 1270)": https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.1270.pdf
- NIST, "AI Risk Management Framework (AI RMF 1.0)": https://www.nist.gov/itl/ai-risk-management-framework
- ISO/IEC 42001:2023 (AI management system): https://www.iso.org/standard/81230.html
- EU Artificial Intelligence Act: https://artificialintelligenceact.eu/
- IBM AI Fairness 360 (AIF360): https://aif360.res.ibm.com/
Tóm tắt một câu: Tính công bằng của AI là một trục chất lượng kiểm soát khoảng cách hiệu năng giữa các nhóm được bảo vệ; phải nhận diện thiên lệch lịch sử, lấy mẫu, nhãn, biến đại diện và vòng phản hồi trên toàn vòng đời, chọn một tiêu chí phù hợp lĩnh vực trong số các chỉ số công bằng có thể không tương thích lẫn nhau, kết hợp các kỹ thuật tiền xử lý, trong huấn luyện và hậu xử lý, và hậu thuẫn bằng giám sát vận hành liên tục cùng quản trị.