AI Explainability

Định nghĩa

AI Explainability — thường được viết tắt là XAI (Explainable Artificial Intelligence) — là một lĩnh vực nghiên cứu và thực hành trong khoa học máy tính, đặc biệt là trong trí tuệ nhân tạo (AI) và học máy (machine learning), nhằm đảm bảo rằng các mô hình AI không chỉ đưa ra kết quả chính xác mà còn có khả năng làm sáng tỏ cách thức và lý do dẫn đến kết quả đó. Khái niệm này không đơn thuần là việc hiển thị các giá trị trọng số hay ma trận đầu vào, mà là sự xây dựng các cơ chế giải thích có ý nghĩa, phù hợp với ngữ cảnh sử dụng, đáp ứng được yêu cầu nhận thức của người dùng cuối, chuyên gia kiểm định hoặc nhà quản lý chính sách. Trong bối cảnh AI ngày càng thâm nhập sâu vào các hệ thống quan trọng như y tế, tài chính, tư pháp và giao thông tự hành, việc thiếu khả năng giải thích có thể dẫn đến rủi ro nghiêm trọng về đạo đức, pháp lý và vận hành.

Từ góc độ kỹ thuật, AI Explainability không phải là một thuộc tính nội tại của mọi mô hình AI, mà là một đặc tính được thiết kế, tích hợp hoặc trích xuất thông qua các phương pháp bổ trợ. Nó liên quan mật thiết đến hai khía cạnh then chốt: tính minh bạch (transparency) — tức mức độ mà cấu trúc, tham số và logic bên trong mô hình có thể được quan sát và diễn giải trực tiếp; và tính giải thích được (interpretability) — tức khả năng truyền đạt ý nghĩa của đầu ra dưới dạng ngôn ngữ tự nhiên, biểu đồ trực quan hoặc quy tắc có thể kiểm chứng được. Hai khái niệm này thường bị nhầm lẫn nhưng không đồng nhất: một mô hình có thể minh bạch nhưng khó giải thích (ví dụ: mạng nơ-ron sâu với hàng triệu tham số), hoặc ngược lại, một mô hình đơn giản như cây quyết định có thể vừa minh bạch vừa dễ giải thích.

Trong văn bản chuẩn hóa quốc tế, định nghĩa của AI Explainability được phản ánh rõ trong các khung pháp lý như Quy định chung về Bảo vệ Dữ liệu (GDPR) của Liên minh châu Âu, trong đó Điều 22 và Khoản chú giải 71 nhấn mạnh quyền được giải thích (right to explanation) đối với các quyết định tự động ảnh hưởng đáng kể đến cá nhân. Tương tự, Hiệp hội Máy tính Hoa Kỳ (ACM) và Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) đều coi explainability là một trong những trụ cột nền tảng của AI đáng tin cậy (trustworthy AI), cùng với tính công bằng, tính bền vững, tính an toàn và tính chịu trách nhiệm.

Lịch sử và nguồn gốc

Nguồn gốc của AI Explainability bắt đầu từ những năm 1970–1980, trong thời kỳ bùng nổ của trí tuệ nhân tạo cổ điển dựa trên luật (rule-based AI) và hệ chuyên gia (expert systems). Các hệ thống như MYCIN (1976), dùng để chẩn đoán nhiễm trùng huyết và đề xuất kháng sinh, đã tích hợp sẵn cơ chế giải thích — chẳng hạn, khi đưa ra khuyến nghị điều trị, MYCIN có thể trả lời câu hỏi 'Tại sao?' bằng cách liệt kê chuỗi suy luận dựa trên các luật IF-THEN và mức độ tin cậy tương ứng. Đây là bước khởi đầu mang tính nguyên lý cho khái niệm XAI: giải thích không phải là phần phụ, mà là thành phần thiết yếu của hệ thống ra quyết định dựa trên tri thức.

Sự suy giảm của hệ chuyên gia vào cuối thập niên 1980 và sự nổi lên của các phương pháp học thống kê trong những năm 1990–2000 đã khiến vấn đề giải thích tạm lắng, do trọng tâm chuyển sang hiệu suất và độ chính xác hơn là khả năng diễn giải. Tuy nhiên, từ đầu thế kỷ XXI, khi các mô hình học sâu (deep learning) bắt đầu đạt được thành tựu vượt bậc trong nhận dạng ảnh, xử lý ngôn ngữ tự nhiên và dịch máy, thì khoảng cách giữa hiệu suất và khả năng hiểu lại trở nên sâu sắc. Sự kiện AlexNet thắng giải ImageNet 2012 đánh dấu bước ngoặt: mô hình đạt độ chính xác cao chưa từng thấy, nhưng hoàn toàn là một 'hộp đen' — không ai có thể giải thích vì sao nó phân loại một bức ảnh là 'chó săn' chứ không phải 'sói', dù cả hai loài rất giống nhau về mặt thị giác. Từ đó, các nhà nghiên cứu như David Gunning (DARPA), Been Kim (Google Research), và Carlos Guestrin (University of Washington) bắt đầu kêu gọi tái thiết lập XAI như một ưu tiên chiến lược.

Một mốc quan trọng khác là năm 2016, khi DARPA khởi xướng chương trình Explainable Artificial Intelligence (XAI) với ngân sách hơn 75 triệu USD, nhằm phát triển các công nghệ giúp người dùng hiểu, tin tưởng và quản lý hiệu quả các hệ thống AI hiện đại. Chương trình này đã thúc đẩy hàng loạt phương pháp nền tảng như LIME (Ribeiro et al., 2016), SHAP (Lundberg & Lee, 2017), và Integrated Gradients (Sundararajan et al., 2017). Đến năm 2020–2023, XAI đã trở thành tiêu chí bắt buộc trong nhiều khuôn khổ đánh giá AI của EU, OECD, UNESCO và Ngân hàng Thế giới, đồng thời được đưa vào các tiêu chuẩn kỹ thuật như ISO/IEC 23894 (2023) về quản lý rủi ro AI và ISO/IEC 24028 (2020) về độ tin cậy của hệ thống AI.

Đặc điểm và tính chất

AI Explainability không phải là một thuộc tính nhị phân (có hoặc không), mà là một phổ liên tục, được đặc trưng bởi nhiều chiều đo lường khác nhau. Các đặc điểm cốt lõi của nó bao gồm tính mục đích (purposefulness), tính phù hợp ngữ cảnh (context-sensitivity), tính tương tác (interactivity), và tính kiểm chứng được (verifiability). Một giải thích tốt không nhất thiết phải tiết lộ toàn bộ kiến trúc mô hình, mà phải đáp ứng đúng nhu cầu nhận thức của người dùng cụ thể — ví dụ, bác sĩ cần biết 'tại sao bệnh nhân này được chẩn đoán ung thư phổi?' chứ không cần biết giá trị trọng số của lớp ẩn thứ 7 trong mạng nơ-ron.

Các tính chất kỹ thuật nổi bật của XAI bao gồm:

• Tính cục bộ và toàn cục: Giải thích cục bộ (local explanation) tập trung vào một dự đoán riêng lẻ (ví dụ: giải thích vì sao một khoản vay bị từ chối), trong khi giải thích toàn cục (global explanation) mô tả hành vi tổng thể của mô hình (ví dụ: xác định các biến đầu vào nào có ảnh hưởng lớn nhất đến toàn bộ tập dữ liệu huấn luyện).
• Tính dựa trên đặc trưng và dựa trên mẫu: Phương pháp dựa trên đặc trưng (feature-based) như SHAP hoặc permutation importance định lượng mức đóng góp của từng biến đầu vào; phương pháp dựa trên mẫu (instance-based) như LIME hoặc counterfactual explanations tạo ra các ví dụ gần giống để so sánh — ví dụ: 'Nếu thu nhập tăng thêm 5 triệu đồng, quyết định sẽ là chấp thuận khoản vay.'
• Tính hình thức và phi hình thức: Giải thích hình thức (formal explanation) tuân theo các chứng minh toán học, logic mệnh đề hoặc biểu thức có thể kiểm chứng (ví dụ: chứng minh bất biến trong mô hình xác minh); giải thích phi hình thức (informal explanation) sử dụng ngôn ngữ tự nhiên, biểu đồ nhiệt (heatmaps), cây quyết định rút gọn hoặc báo cáo tự động sinh — thường phục vụ người dùng phi kỹ thuật.

Ngoài ra, tính chất của XAI còn phụ thuộc vào mức độ can thiệp vào mô hình gốc: phương pháp intrinsically interpretable (giải thích nội tại) xây dựng mô hình từ đầu để dễ hiểu (ví dụ: mô hình logistic tuyến tính, cây quyết định, quy tắc IF-THEN), trong khi phương pháp post-hoc explanation (giải thích hậu kỳ) áp dụng bên ngoài mô hình đã huấn luyện (ví dụ: LIME, SHAP, saliency maps), không yêu cầu thay đổi kiến trúc nhưng có thể gặp vấn đề về độ trung thực và ổn định.

Phân loại

Phân loại theo mức độ tích hợp

Các phương pháp XAI được phân loại chủ yếu dựa trên cách thức tích hợp với mô hình học máy. Nhóm intrinsically interpretable models bao gồm các mô hình có cấu trúc đơn giản, cho phép trích xuất trực tiếp quy tắc hoặc trọng số có ý nghĩa. Tiêu biểu là mô hình hồi quy logistic (logistic regression), cây quyết định (decision trees), mô hình hồi quy tuyến tính (linear regression), và các hệ thống dựa trên luật (rule-based systems). Những mô hình này thường có độ chính xác thấp hơn so với mạng nơ-ron sâu, nhưng lại đáp ứng tốt yêu cầu minh bạch trong các lĩnh vực có độ rủi ro cao như tín dụng hoặc chăm sóc sức khỏe sơ bộ.

Phân loại theo phương pháp giải thích

Nhóm post-hoc explanation methods chiếm phần lớn nghiên cứu XAI hiện đại. Chúng được chia thành ba hướng chính: (1) feature attribution methods — gán mức độ ảnh hưởng cho từng đặc trưng đầu vào (SHAP, Integrated Gradients, DeepLIFT); (2) surrogate models — huấn luyện một mô hình đơn giản (ví dụ: cây quyết định hoặc hồi quy tuyến tính) để xấp xỉ hành vi cục bộ của mô hình phức tạp (LIME, Anchors); (3) counterfactual explanations — tạo ra các ví dụ 'đối chứng' để chỉ ra điều kiện tối thiểu cần thay đổi để đầu ra thay đổi (ví dụ: 'Nếu điểm tín dụng tăng từ 580 lên 620, khoản vay sẽ được chấp thuận'). Mỗi hướng có ưu nhược điểm riêng về độ trung thực, tốc độ tính toán và khả năng mở rộng.

Phân loại theo đối tượng người dùng

Một phân loại ít được chú ý nhưng rất thực tiễn là dựa trên đối tượng người dùng: explanations for developers (nhà phát triển mô hình cần hiểu lỗi hệ thống, thiên lệch dữ liệu), explanations for domain experts (bác sĩ, thẩm phán, kiểm toán viên cần xác minh tính hợp lý theo chuyên môn), và explanations for end users (người dân, khách hàng cần hiểu quyết định ảnh hưởng trực tiếp đến họ). Mỗi nhóm đòi hỏi mức độ chi tiết, ngôn ngữ và định dạng giải thích khác nhau — điều này làm cho XAI trở thành một lĩnh vực liên ngành, đòi hỏi sự phối hợp giữa khoa học máy tính, khoa học nhận thức, thiết kế tương tác và luật học.

Cơ chế hoạt động

Cơ chế hoạt động của AI Explainability không dựa trên một nguyên lý duy nhất, mà là tập hợp các kỹ thuật toán học, thống kê và trực quan hóa được lựa chọn và kết hợp tùy theo mục tiêu giải thích. Về mặt toán học, hầu hết các phương pháp feature attribution đều dựa vào khái niệm đạo hàm riêng phần hoặc sự thay đổi biên độ (marginal contribution) của từng đặc trưng đối với đầu ra mô hình. Ví dụ, SHAP sử dụng lý thuyết trò chơi (Shapley values) để phân bổ giá trị dự đoán cho từng đặc trưng sao cho thỏa mãn bốn tiên đề: hiệu quả, tính đối xứng, tính vô hiệu lực và tính cộng tính. Trong khi đó, Integrated Gradients tính tích phân dọc theo đường thẳng từ điểm tham chiếu (baseline) đến đầu vào thực tế, nhằm ước lượng đóng góp tích lũy của mỗi đặc trưng.

Với các phương pháp surrogate như LIME, cơ chế hoạt động dựa trên giả định rằng hành vi của mô hình phức tạp có thể được xấp xỉ cục bộ bằng một mô hình tuyến tính đơn giản. LIME tạo ra một tập hợp các mẫu nhiễu xung quanh điểm đầu vào cần giải thích, chạy mô hình gốc trên các mẫu này để thu được nhãn dự đoán, sau đó huấn luyện một mô hình hồi quy tuyến tính có trọng số (weighted linear model) để khớp với các dự đoán đó. Trọng số của mô hình tuyến tính chính là độ quan trọng của từng đặc trưng trong bối cảnh cục bộ đó.

Còn với counterfactual explanations, cơ chế hoạt động dựa trên tối ưu hóa: tìm nghiệm tối ưu của một bài toán tối ưu có ràng buộc — ví dụ: tìm điểm đầu vào gần nhất với đầu vào gốc sao cho đầu ra thay đổi và số lượng đặc trưng thay đổi là tối thiểu. Bài toán này thường được giải bằng thuật toán di truyền, gradient descent hoặc tìm kiếm cục bộ, kèm theo các ràng buộc về tính hợp lý (plausibility) và khả thi (feasibility) trong thực tế — ví dụ: tuổi không thể âm, thu nhập không thể âm, v.v.

Ứng dụng thực tế

AI Explainability đã được triển khai trong nhiều lĩnh vực công nghiệp và xã hội. Trong y tế, hệ thống hỗ trợ chẩn đoán như IBM Watson for Oncology cung cấp các giải thích dựa trên bằng chứng lâm sàng, trích dẫn các nghiên cứu khoa học và hướng dẫn điều trị để bác sĩ đánh giá tính hợp lý của khuyến nghị. Tại Bệnh viện Đại học Utrecht (Hà Lan), mô hình AI dự đoán nguy cơ tử vong ở bệnh nhân ICU sử dụng SHAP để hiển thị các yếu tố sinh học quan trọng nhất (như lactate huyết thanh, huyết áp trung bình), giúp bác sĩ điều chỉnh can thiệp kịp thời.

Trong tài chính, các ngân hàng như HSBC và Santander sử dụng XAI để tuân thủ quy định 'quyền được giải thích' trong đánh giá tín dụng. Khi từ chối khoản vay, hệ thống không chỉ đưa ra kết luận mà còn cung cấp danh sách 3–5 yếu tố chính (ví dụ: tỷ lệ nợ/thu nhập quá cao, lịch sử thanh toán chậm trong 6 tháng gần nhất), kèm theo đề xuất cải thiện cụ thể. Trong lĩnh vực tư pháp, dự án COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) tại Mỹ đã gây tranh cãi vì thiếu minh bạch; từ đó, các phiên bản cải tiến hiện nay bắt buộc phải tích hợp giải thích dựa trên đặc trưng để thẩm phán hiểu mức độ rủi ro tái phạm được tính toán như thế nào.

Các ứng dụng khác bao gồm: hệ thống đề xuất sản phẩm của Amazon và Netflix cung cấp giải thích kiểu 'Bạn thích X vì bạn đã xem Y và Z'; xe tự hành của Waymo sử dụng giải thích cục bộ để ghi lại lý do phanh gấp (ví dụ: 'phát hiện vật thể di chuyển cắt ngang từ phải sang trái ở khoảng cách 12 mét'); và trong giáo dục, nền tảng học tập thích nghi như Knewton sử dụng XAI để giải thích lý do một học sinh bị xếp vào mức độ khó nhất định, từ đó điều chỉnh lộ trình học cá nhân.

Ưu điểm và hạn chế

Ưu điểm nổi bật nhất của AI Explainability là nâng cao độ tin cậy và tính chịu trách nhiệm của hệ thống AI. Khi người dùng hiểu được cơ sở ra quyết định, họ dễ dàng phát hiện sai sót, thiên lệch hoặc lỗi dữ liệu — ví dụ, một mô hình chẩn đoán da liễu bị lệch do chỉ được huấn luyện trên da sáng màu có thể bị phát hiện qua bản đồ nhiệt (saliency map) cho thấy mô hình tập trung vào vùng nền thay vì tổn thương. Ngoài ra, XAI hỗ trợ tuân thủ pháp lý, giảm rủi ro tranh chấp và tăng khả năng chấp nhận của xã hội đối với AI.

Tuy nhiên, XAI cũng tồn tại nhiều hạn chế nghiêm trọng. Thứ nhất, không có giải thích nào là 'hoàn hảo': mọi phương pháp đều phải đánh đổi giữa độ trung thực (faithfulness), độ ổn định (stability), tính dễ hiểu (simplicity) và tính đầy đủ (completeness). Một giải thích đơn giản có thể dễ hiểu nhưng thiếu chính xác; một giải thích chính xác có thể quá phức tạp để con người nắm bắt. Thứ hai, giải thích hậu kỳ (post-hoc) có thể 'lừa dối' — ví dụ, LIME có thể tạo ra giải thích phù hợp với một điểm đầu vào nhưng không phản ánh đúng hành vi toàn cục của mô hình. Thứ ba, việc sản xuất giải thích đòi hỏi tài nguyên tính toán bổ sung, làm chậm quá trình suy luận, điều này gây trở ngại trong các ứng dụng thời gian thực như điều khiển robot hoặc giao dịch tài chính tần số cao.

Một hạn chế mang tính triết lý là nghịch lý 'giải thích của giải thích': khi giải thích được tạo ra bởi một mô hình AI khác (ví dụ: mô hình giải thích dùng mạng nơ-ron), thì chính mô hình giải thích ấy cũng cần được giải thích — dẫn đến vòng lặp vô hạn. Vì vậy, XAI không phải là 'cứu cánh' cho mọi vấn đề đạo đức AI, mà chỉ là một công cụ hỗ trợ trong một hệ sinh thái quản trị AI toàn diện, bao gồm kiểm định dữ liệu, giám sát liên tục, kiểm toán độc lập và cơ chế phản hồi con người.

Lưu ý quan trọng

Khi triển khai AI Explainability, cần lưu ý rằng giải thích không đồng nghĩa với lý do hợp lý hay độ chính xác tuyệt đối. Một giải thích đúng về cách mô hình hoạt động không đảm bảo rằng mô hình đó đúng về mặt thực tế — ví dụ, mô hình có thể giải thích chính xác rằng nó phân loại 'chó' dựa trên nền ảnh, nhưng điều đó không làm cho phân loại đó trở nên hợp lý. Do đó, giải thích phải luôn đi kèm với đánh giá độc lập về hiệu suất, thiên lệch và độ bền vững của mô hình.

Một sai lầm phổ biến là sử dụng giải thích như một 'lá chắn pháp lý' — tức cho rằng việc cung cấp giải thích là đủ để miễn trừ trách nhiệm khi xảy ra sự cố. Thực tế, các khung pháp lý như GDPR quy định rằng giải thích phải 'có ý nghĩa' và 'có thể hành động được', không chỉ là thông tin kỹ thuật vô nghĩa. Vì vậy, cần kiểm tra tính hữu ích của giải thích thông qua thử nghiệm người dùng (user studies), không chỉ qua chỉ số toán học.

Cuối cùng, cần tránh khuynh hướng 'giải thích quá mức' (over-explaining): cung cấp quá nhiều chi tiết kỹ thuật cho người dùng phi chuyên môn có thể gây nhầm lẫn, giảm niềm tin thay vì tăng cường nó. Thiết kế giải thích phải tuân theo nguyên tắc 'đúng người, đúng lúc, đúng mức độ' — điều này đòi hỏi sự hợp tác chặt chẽ giữa kỹ sư AI, nhà thiết kế trải nghiệm (UX), chuyên gia lĩnh vực và nhà tư vấn đạo đức.