EXPLAINABLE AI ДЛЯ ИНТЕРПРЕТАЦИИ ПРОГНОЗОВ НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ ПРЕДИКТИВНОГО ОБСЛУЖИВАНИЯ

В статье рассматривается применение методов Explainable Artificial Intelligence (XAI) для интерпретации прогнозов нейросетевых моделей в системах предиктивного обслуживания промышленного оборудования. Цель исследования – повышение прозрачности, точности и доверия к результатам машинного обучения при диагностике и прогнозировании технических неисправностей. В работе использованы методы SHAP, LIME и Grad-CAM, обеспечивающие визуализацию вклада признаков в предсказания моделей. На примере предприятий Костанайского автомобильного кластера показано, что интеграция Explainable AI позволяет повысить достоверность диагностики на 12-15%, сократить внеплановые простои оборудования на 13% и уменьшить время реагирования инженеров на 18%. Исследование демонстрирует, что интерпретируемые модели машинного обучения формируют основу для прозрачных решений в рамках цифровизации и внедрения промышленного интернета вещей (IIoT) в Казахстане. Предложенный подход соответствует стратегическим направлениям программ «Цифровой Казахстан» и «Концепция развития искусственного интеллекта до 2029 года», способствуя повышению эффективности и надёжности отечественных систем технического обслуживания.
Экспериментальные результаты получены на обезличенных данных промышленного предприятия автомобильного машиностроения Республики Казахстан, что подтверждает применимость предложенного подхода в реальных производственных условиях.

1. Moosavi S. Explainable Artificial Intelligence (XAI) in cyber-physical production systems: A systematic review / S. Moosavi, A. Kor, M. Fathi // Journal of Manufacturing Systems. – 2024. – № 72. – Р. 130-152.

2. Li X. Hybrid CNN-LSTM architecture for predictive maintenance based on sensor time-series data / X. Li, Y. Li // Mechanical Systems and Signal Processing. – 2025. – № 208. – Р. 110987.

3. Cummins S. The role of explainable AI in industrial machine learning applications: A survey / S. Cummins, S. Anwar, M. Darwish // Engineering Applications of Artificial Intelligence. – 2023. – № 125. – Р. 106620.

4. Nor N.F.M. Explainable AI in prognostics and health management: Concepts, methods, and applications / N.F.M. Nor, M.A. Hussain, H.A. Rahman // IEEE Access. – 2021. – № 9. – Р. 152830-152845.

5. Lundberg S. A unified approach to interpreting model predictions (SHAP) / S. Lundberg, S.-I. Lee // Advances in Neural Information Processing Systems. – 2017. – № 30.

6. Ribeiro M.T. Why Should I Trust You? Explaining the predictions of any classifier (LIME) / M.T. Ribeiro, S. Singh, C. Guestrin // Proceedings of the 22nd ACM SIGKDD. – 2016. – Р. 1135-1144.

7. Hochreiter S. J. Long Short-Term Memory / S. Hochreiter, Schmidhuber, // Neural Computation. – 1997. – № 9(8). – Р. 1735-1780.

8. Zhang W. Intelligent fault diagnosis of rotating machinery using deep learning techniques / W. Zhang, D. Yang, H. Wang // Mechanical Systems and Signal Processing. – 2022. – № 170. – Р. 108965.

9. Ministry of Digital Development of Kazakhstan. Digital Kazakhstan State Program (2018-2025). Министерство цифрового развития РК. (официальный документ).

10. Government of the Republic of Kazakhstan. Concept for the Development of Artificial Intelligence in Kazakhstan until 2029 (2023). (утверждённая госпрограмма).