kaz44Вестник Университета Шакарима. Серия технические наукиBulletin of Shakarim University. Technical Sciences2788-79953006-0524«Шәкәрім университеті» КеАҚ10.53360/2788-7995-2025-4(20)-28kaz44-2226Research ArticleАВТОМАТИЗАЦИЯ И ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ (ОРИГИНАЛЬНАЯ СТАТЬЯ)AUTOMATION AND INFORMATION TECHNOLOGY (ORIGINAL ARTICLE)МНОГОЦЕЛЕВАЯ ЭВОЛЮЦИОННАЯ ОПТИМИЗАЦИЯ ПОЛИТИК БЕЗОПАСНОСТИ В ПРОГРАММНО-ОПРЕДЕЛЯЕМЫХ СЕТЯХ (SDN) С УЧЕТОМ ОГРАНИЧЕНИЙ TCAM И ЗАДЕРЖКИMULTI-OBJECTIVE EVOLUTIONARY OPTIMIZATION OF SECURITY POLICIES IN SOFTWAREDEFINED NETWORKS (SDN) GIVEN TCAM AND LATENCY CONSTRAINTShttps://orcid.org/0009-0001-1880-1290ШырынБ. А.ShyrynB.

Бексұлтан Андасұлы Шырын – докторант кафедры компьютерной и программной инженерии факультета информационных технологий 

010000 Республика Казахстан, г. Астана, ул. Сатпаева, 2

Bexultan Shyryn – PhD student of the Department of Computer and Software Engineering

0100000, Republic of Kazakhstan, Astana, Satpayev street, building 2

bexultan.shyryn@gmail.comhttps://orcid.org/0000-0002-4525-0738AhangerТ. A.AhangerT. A.

Tariq Ahamed Ahanger – доктор PhD, доцент

Королевство Саудовская Аравия, г. Эль-Хардж 

Tariq Ahamed Ahanger – Doctor of Philosophy, Professor (Associate)

Al Kharj, Saudi Arabia

t.ahanger@psau.edu.sahttps://orcid.org/0000-0003-1042-0415ЖумадиллаеваА. К.ZhumadillayevaA.

Айнур Канадиловна Жумадиллаева – кандидат технических наук, ассоциированный профессор кафедры компьютерной и программной инженерии факультета информационных технологий 

010000 Республика Казахстан, г. Астана, ул. Сатпаева, 2

Aynur Zhumadillayeva – Associate Professor of the Department of Computer and Software Engineering, IT Faculty 

0100000, Republic of Kazakhstan, Astana, Satpayev street, building 2

Ay8222@mail.ruhttps://orcid.org/0000-0002-1635-4693БекешоваГ. Б.BekeshovaG.

Гульвира Бауыржановна Бекешова – магистр технических наук, старший преподаватель кафедры Информационной безопасности факультета информационных технологий 

010000 Республика Казахстан, г. Астана, ул. Сатпаева, 2

Gulvira Bekeshova – Senior Lecturer at the Department of Information Security, IT Faculty 

0100000, Republic of Kazakhstan, Astana, Satpayev street, building 2

gulvirabauyrzhanovna@gmail.comЕвразийский национальный университет им. Л.Н. ГумилеваКазахстанL.N. Gumilyov Eurasian National UniversityKazakhstanУниверситет принца Sattam Bin AbdulazizСаудовская АравияPrince Sattam Bin Abdulaziz UniversitySaudi Arabia20252501202614(20)238248Copyright © Шырын Б.А., Ahanger Т.A., Жумадиллаева А.К., Бекешова Г.Б., 20262026Шырын Б.А., Ahanger Т.A., Жумадиллаева А.К., Бекешова Г.Б.Shyryn B., Ahanger T.A., Zhumadillayeva A., Bekeshova G.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://tech.vestnik.shakarim.kz/jour/article/view/2226

Статья посвящена рассмотрению задачи оптимизации политик безопасности в программно-определяемых сетях (SDN). Решение этой проблемы авторы предлагают осуществлять с помощью NSGA-II – эффективного алгоритма эволюционной оптимизации множественных целей. Изложенный подход ориентирован на достижение баланса между необходимостью жестко обеспечивать сетевую безопасность и наличием ограниченных вычислительных ресурсов. Особое внимание уделяется таким факторам, как задержки передачи данных и размер таблиц TCAM, которые оказывают существенное влияние на эффективность фильтрации трафика. На основе построенной в статье модели, включающей оценки вероятностей угроз, методики нормализации целевых функций и использования штрафных коэффициентов за конфликты правил, оптимизацию проведены по трем ключевым параметрам: риску атак, задержкам в сети и загрузке TCAM. Проведенное моделирование охватило три сценария работы сети – нормальный, смешанный и атакующий – с применением пакетов Mininet и Ryu. Взаимосравнение предложенного метода с дифференциальной эволюцией (DE) и жадным алгоритмом (Greedy) показало, что NSGA-II достигает оптимального распределения решений по фронту Парето, быстрее сходится и при этом не теряет в точности фильтрации. В статье, кроме того, представлена визуализация смены поколений, компромиссные графики и профили нагрузки. В заключении рассматриваются перспективы интеграции предложенной модели с контроллерами ONOS и OpenDaylight; кроме того, обсуждаются возможность использования гибридных решений на основе Deep Reinforcement Learning, Federated Learning и Explainable AI.

This article examines the problem of optimizing security policies in software-defined networks (SDN). The authors propose solving this problem using NSGA-II, an efficient algorithm for evolutionary optimization of multiple objectives. The proposed approach aims to achieve a balance between the need to strictly enforce network security and the availability of limited computing resources. Particular attention is paid to factors such as data transmission latency and TCAM table size, which significantly affect the effectiveness of traffic filtering. Based on the model developed in the article, which includes threat probability assessments, objective function normalization methods, and the use of penalty coefficients for rule conflicts, optimization was performed across three key parameters: attack risk, network latency, and TCAM load. The simulation covered three network operation scenarios-normal, mixed, and attack-using Mininet and Ryu packets. A comparison of the proposed method with differential evolution (DE) and a greedy algorithm (Greedy) showed that NSGA-II achieves optimal solution distribution along the Pareto frontier, converges faster, and maintains filtering accuracy. The paper also presents visualization of generational transitions, tradeoff graphs, and load profiles. The conclusion discusses the potential for integrating the proposed model with ONOS and OpenDaylight controllers, and discusses the feasibility of using hybrid solutions based on Deep Reinforcement Learning, Federated Learning, and Explainable AI.

программно-определяемые сети (SDN)многокритериальная оптимизацияэволюционные алгоритмыNSGA-IIбезопасность сетиобнаружение аномалийsoftware-defined networks (SDN)multi-objective optimizationevolutionary algorithmsNSGA-IInetwork securityanomaly detectionАвторы выражают благодарность Министерству высшего образования и науки Республики Казахстан, выделившему грантовый проект на 2025-2027 годы. ИРН АР25796479.ReferencesOptimal controller selection and migration in large scale software defined networks for next generation IoT / M. Shahzad et al // SN Applied Sciences. – 2023. – Vol. 5, Art. 309.Optimal controller selection and migration in large scale software defined networks for next generation IoT / M. Shahzad et al // SN Applied Sciences. – 2023. – Vol. 5, Art. 309.Adaptive population-based multi-objective optimization in SDN controllers for cost optimization / А.А. Qaffas et al // Physical Communication. – 2023. – Vol. 58, Art. 102006.Adaptive population-based multi-objective optimization in SDN controllers for cost optimization / А.А. Qaffas et al // Physical Communication. – 2023. – Vol. 58, Art. 102006.On the (in)security of the control plane of SDN architecture: A survey / Z.A. Bhuiyan et al // IEEE Access. – 2023. – Vol. 11. – P. 91550-91582.On the (in)security of the control plane of SDN architecture: A survey / Z.A. Bhuiyan et al // IEEE Access. – 2023. – Vol. 11. – P. 91550-91582.Alzahrani A.O. ML-IDSDN: Machine learning based intrusion detection system for softwaredefined network / A.O. Alzahrani, M.J.F. Alenazi // Concurrency and Computation: Practice and Experience. – 2023. – Vol. 35, Art. e7438.Alzahrani A.O. ML-IDSDN: Machine learning based intrusion detection system for softwaredefined network / A.O. Alzahrani, M.J.F. Alenazi // Concurrency and Computation: Practice and Experience. – 2023. – Vol. 35, Art. e7438.Towards robust SDN security: A comparative analysis of oversampling techniques with ML and DL classifiers / А. Bajenaid et al // Electronics. – 2025. – Vol. 14, № 5. – Р. 995.Towards robust SDN security: A comparative analysis of oversampling techniques with ML and DL classifiers / А. Bajenaid et al // Electronics. – 2025. – Vol. 14, № 5. – Р. 995.Mahadik S.S. Edge-Federated Learning-Based Intelligent Intrusion Detection System for Heterogeneous Internet of Things / S.S. Mahadik, P.M. Pawar, R. Muthalagu // IEEE Access. – 2024. – Vol. 12. – P. 81736-81757.Mahadik S.S. Edge-Federated Learning-Based Intelligent Intrusion Detection System for Heterogeneous Internet of Things / S.S. Mahadik, P.M. Pawar, R. Muthalagu // IEEE Access. – 2024. – Vol. 12. – P. 81736-81757.Survey of federated learning in intrusion detection / H. Zhang et al // Journal of Parallel and Distributed Computing. – 2025. – Vol. 195, Art. 104976.Survey of federated learning in intrusion detection / H. Zhang et al // Journal of Parallel and Distributed Computing. – 2025. – Vol. 195, Art. 104976.Reinforcement learning-based SDN routing scheme empowered by causality detection and GNN / Y. He et al // Frontiers in Computational Neuroscience. – 2024. – Vol. 18, Article 1393025.Reinforcement learning-based SDN routing scheme empowered by causality detection and GNN / Y. He et al // Frontiers in Computational Neuroscience. – 2024. – Vol. 18, Article 1393025.Explainable intrusion detection for cyber defences in the Internet of Things: Opportunities and solutions / N. Moustafa et al // IEEE Communications Surveys & Tutorials. – 2023. – P(99) 1-1.Explainable intrusion detection for cyber defences in the Internet of Things: Opportunities and solutions / N. Moustafa et al // IEEE Communications Surveys & Tutorials. – 2023. – P(99) 1-1.Arreche O. XAI-IDS: Toward proposing an explainable artificial intelligence framework for enhancing network intrusion detection systems / O. Arreche, T. Guntur, M. Abdallah // Applied Sciences. – 2024. – Vol. 14, № 10, Art. 4170.Arreche O. XAI-IDS: Toward proposing an explainable artificial intelligence framework for enhancing network intrusion detection systems / O. Arreche, T. Guntur, M. Abdallah // Applied Sciences. – 2024. – Vol. 14, № 10, Art. 4170.Ataa M.S. Intrusion detection in software defined network using deep learning approaches / M.S. Ataa, E.E. Sanad, R.A. El-khoribi // Scientific Reports. – 2024. – Vol. 14, Art. 29159.Ataa M.S. Intrusion detection in software defined network using deep learning approaches / M.S. Ataa, E.E. Sanad, R.A. El-khoribi // Scientific Reports. – 2024. – Vol. 14, Art. 29159.Network intrusion detection model using wrapper-based feature selection and multi-head attention transformers / М. Umer et al // Scientific Reports. – 2025. – Vol. 15, Art. 28718.Network intrusion detection model using wrapper-based feature selection and multi-head attention transformers / М. Umer et al // Scientific Reports. – 2025. – Vol. 15, Art. 28718.

The authors declare that there are no conflicts of interest present.