Оценка объяснений моделей «чёрного ящика» посредством интеграции метода взвешенной суммы на основе Z-чисел

Л. А. Гардашова, П. И. Косов

Аннотация


Рассматривается задача объективного сравнения качества объяснений, которые формируют методы объяснимого искусственного интеллекта (XAI). Предложена многометодная схема оценки. Она соединяет четыре автоматически вычислимые метрики, пять человеко-ориентированных критериев и процедуру интеграции в единый ранг. Верность объяснения вычисляется как апостериорная байесовская вероятность его согласованности с решением модели. Информативность оценивается взвешенным нечётким средним степеней принадлежности семантических свойств. Устойчивость измеряется коэффициентом Жаккара и Евклидовым расстоянием. Частные оценки агрегируются моделью взвешенной суммы на основе Z-чисел. Веса критериев вычисляются методом собственного вектора Z-значной матрицы парных сравнений. Компонента надёжности Z-числа отражает достоверность каждого измерения и снижает вклад вырожденных оценок. Схема апробирована при сравнении восьми подходов XAI на наборе данных German Credit Risk. В сравнение вошли SHAP, LIME, контрфактические объяснения, нечёткие правила, нечёткие деревья решений и три онтологических подхода. Количественное и человеко-ориентированное ранжирования согласованы. Ранговая корреляция Спирмена между ними составила 0,86. Наибольший интегральный ранг в обоих контурах получил нечёткий семантический подход, построенный на Fuzzy OWL2. Результат демонстрирует разрешающую способность схемы и её применимость к произвольным методам XAI.

Ключевые слова


Объяснимый искусственный интеллект; оценка качества объяснений; нечёткая онтология; Fuzzy OWL2; Z-числа; многокритериальный анализ решений; модель взвешенной суммы.

Полный текст:

PDF

Литература


Adadi A., Berrada M. Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI) // IEEE Access. 2018. Vol. 6. P. 52138–52160. 10.1109/ACCESS.2018.2870052.

Aliev R.A., Guirimov B.G., Huseynov O.H. et al. A consistency-driven approach to construction of Z-number-valued pairwise comparison matrices // Iranian Journal of Fuzzy Systems. 2021. Vol. 18, № 4. P. 37–49. 10.22111/IJFS.2021.6175.

Aliyeva K., Mehdiyev N. Uncertainty-aware multi-criteria decision analysis for evaluation of explainable artificial intelligence methods: A use case from the healthcare domain // Information Sciences. 2024. Vol. 657. P. 1–16. IPDYBA.

Alonso J.M., Ducange P., Pecori R., Vilas R. Building Explanations for Fuzzy Decision Trees with the ExpliClas Software // Proc. 2020 IEEE Int. Conf. Fuzzy Systems. Glasgow, 2020. P. 1–8. 10.1109/FUZZ48607.2020.9177725.

Barredo Arrieta A., Díaz-Rodríguez N., Del Ser J. et al. Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI // Information Fusion. 2020. Vol. 58. P. 82–115. ZLIGFR.

Bellucci M., Delestre N., Malandain N. et al. Combining an explainable model based on ontologies with an explanation interface to classify images // Procedia Computer Science. 2022. Vol. 207. P. 2395–2403. IJVJIV.

Bobillo F., Straccia U. Fuzzy ontology representation using OWL 2 // International Journal of Approximate Reasoning. 2011. Vol. 52, № 7. P. 1073–1094. 10.1016/j.ijar.2011.05.003.

Bobillo F., Delgado M., Gómez-Romero J. DeLorean: A reasoner for fuzzy OWL 2 // Expert Systems with Applications. 2012. Vol. 39, № 1. P. 258–272. 10.1016/j.eswa.2011.07.016.

Hoffman R.R., Mueller S.T., Klein G. et al. Metrics for Explainable AI: Challenges and Prospects // arXiv. 2019. P. 1–50.

Hofmann H. Statlog (German Credit Data). UCI Machine Learning Repository, 1994. 10.48550/arXiv.1812.04608.

Kosov P., El Kadhi N., Zanni-Merk C., Gardashova L. Semantic-Based XAI: Leveraging Ontology Properties to Enhance Explainability // Proceedings of the 2024 International Conference on Decision Aid Sciences and Applications (DASA). Manama, 2024. P. 1–5. 10.1109/DASA63652.2024.10836289.

Kosov P., El Kadhi N., Zanni-Merk C., Gardashova L. Formalizing fuzzy explainability: Enhancing XAI trustworthiness with fuzzy-ontology-based explanatory properties // Procedia Computer Science. 2025. Vol. 270. P. 3768–3777. RQXZES.

Lundberg S.M., Lee S.-I. A Unified Approach to Interpreting Model Predictions // Proceedings of the 31st International Conference on Neural Information Processing Systems. Long Beach, 2017. P. 4768–4777. 10.48550/arXiv.1705.07874.

Mendel J.M., Bonissone P.P. Critical Thinking About Explainable AI (XAI) for Rule-Based Fuzzy Systems // IEEE Transactions on Fuzzy Systems. 2021. Vol. 29, № 12. P. 3579–3593. IFPMAU.

Nauta M., Trienes J., Pathak S. et al. From Anecdotal Evidence to Quantitative Evaluation Methods: A Systematic Review on Evaluating Explainable AI // ACM Computing Surveys. 2023. Vol. 55, № 13s. P. 1–42. 10.1145/3583558.

Ribeiro M.T., Singh S., Guestrin C. “Why Should I Trust You?”: Explaining the Predictions of Any Classifier // Proc 22nd ACM SIGKDD Int. Conf. Knowledge Discovery and Data Mining. 2016. P. 1135–1144. 10.18653/v1/N16-3020.

Rudin C. Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead // Nature Machine Intelligence. 2019. Vol. 1, № 5. P. 206–215. 10.1038/s42256-019-0048-x.

Seeliger A., Pfaff M., Krcmar H. Semantic web technologies for explainable machine learning models: A literature review // Proceedings of the 1st Workshop on Semantic Explainability. Auckland, 2019. P. 30–45.

Takagi T., Sugeno M. Fuzzy identification of systems and its applications to modeling and control // IEEE Transactions on Systems, Man, and Cybernetics. 1985. Vol. SMC-15, № 1. P. 116–132. 10.1109/TSMC.1985.6313399.

Tiddi I., d’Aquin M., Motta E. An Ontology Design Pattern to Define Explanations // Proceedings of the 8th International Conference on Knowledge Capture. Palisades, 2015. P. 1–8. 10.1145/2815833.2815844.

Wexler J., Pushkarna M., Bolukbasi T. et al. The What-If Tool: Interactive Probing of Machine Learning Models // IEEE Transactions on Visualization and Computer Graphics. 2019. Vol. 26, № 1. P. 56–65. 10.1109/TVCG.2019.2934619.

Yang F., Du M., Hu X. Evaluating Explanation Without Ground Truth in Interpretable Machine Learning // arXiv. 2019. P. 1–9. 10.48550/arXiv.1907.06831.

Zadeh L.A. A note on Z-numbers // Information Sciences. 2011. Vol. 181, № 14. P. 2923–2932. 10.1016/j.ins.2011.02.022.

Zadeh L.A. Fuzzy sets // Information and Control. 1965. Vol. 8, № 3. P. 338–353. 10.1016/S0019-9958(65)90241-X.

Zhou J., Gandomi A. H., Chen F. et al. Evaluating the Quality of Machine Learning Explanations: A Survey on Methods and Metrics // Electronics. 2021. Vol. 10, № 5. P. 1–19. FYCJNM.




DOI: https://doi.org/10.54708/SIIT-2026-no4-p75

Ссылки

  • На текущий момент ссылки отсутствуют.


(c) 2026 Л. А. Гардашова, П. И. Косов