procyberВестник кибернетикиProceedings in Cybernetics1999-7604Бюджетное учреждение высшего образования Ханты-Мансийского автономного округа – Югры «Сургутский государственный университет»10.35266/1999-7604-2024-3-6procyber-606Research ArticleТЕХНИЧЕСКИЕ НАУКИEngeneeringРазработка архитектуры нейросетевого декодирования, основанной на системах стробирования и распределения весовых коэффициентовDevelopment of a neural network decoding architecture based on gating and weight distribution systemshttps://orcid.org/0000-0002-5105-0505ПироговА. А.PirogovA. A.

кандидат технических наук, доцент

Candidate of Sciences (Engineering), Docent

https://orcid.org/0000-0001-9167-9538ХорошайловаМ. В.KhoroshailovaM. V.

кандидат технических наук, доцент

Candidate of Sciences (Engineering), Docent

https://orcid.org/0000-0002-0194-6979СёмкаЭ. В.SyomkaE. V.

кандидат физико-математических наук, доцент

Candidate of Sciences (Physics and Mathematics), Docent

semka_elya@mail.ruВоронежский государственный технический университет, ВоронежРоссияVoronezh State Technical University, VoronezhRussian FederationВоенный учебно-научный центр Военно-воздушных сил «Военно-воздушная академия имени профессора Н. Е. Жуковского и Ю. А. Гагарина» Минобороны России, ВоронежРоссияMilitary Educational and Scientifi c Centre of the Air Force N. E. Zhukovsky and Y. A. Gagarin Air Force Academy the Ministry of Defence of the Russian Federation, VoronezhRussian Federation2024281020242334655Copyright © Пирогов А.А., Хорошайлова М.В., Сёмка Э.В., 20242024Пирогов А.А., Хорошайлова М.В., Сёмка Э.В.Pirogov A.A., Khoroshailova M.V., Syomka E.V.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.vestcyber.ru/jour/article/view/606

Проведен анализ рабочей архитектуры для алгоритма нейросетевого декодирования, основанного на распространении доверия, в которой контролируется количество обучаемых параметров и вычислений в нейронной сети благодаря распределению весов и эффективному вычислительному графу. Операция распределения весовых коэффициентов включает в себя вычисление взвешенной суммы выходных сигналов нейронов уровня слоя, умноженной на соответствующие веса, и сложение смещений. Метод выделения участка данных предполагает применение нелинейной функции активации к выходным сигналам нейронов. После нескольких итераций локального декодирования значение потерь рассчитывается с использованием функции потерь среднеквадратичной ошибки. Результаты моделирования показывали, что производительность улучшается по сравнению со стандартным декодером, построенного с использованием стандартного алгоритма распространения доверия (belief propagation, BP), благодаря применению подхода, подобного нейросетевому алгоритму BP. Предложена надежная схема декодирования на основе нейронной сети, предназначенная для систем беспроводной связи. Данная архитектура рекуррентной нейронной сети, основанная на алгоритмах стробирования и распределения весовых коэффициентов, предназначена для выполнения декодирования распространения доверия без предварительного знания схемы кодирования.

The research analyzes the working architecture for a neural network decoding algorithm based on belief propagation. It is found that the weight distribution and an effi cient computational graph determine the number of trainable parameters and computations in the neural network. The weight distribution involves calculating the weighted sum of the output signals of the neurons of a layer, multiplied by the corresponding weights, and adding the biases. The data region extraction method involves applying a nonlinear activation function to the output signals of neurons. After several iterations of local decoding, the algorithm calculates the loss value using the mean square error loss function. The simulation results indicated that using an approach similar to the neural network Belief Propagation (BP) algorithm improved the performance compared to the standard decoder built using the standard BP algorithm. A robust neural network-based decoding scheme for wireless communication systems is proposed. This recurrent neural network architecture, based on gating and weight distribution algorithms, is designed to perform belief propagation decoding without prior knowledge of the coding scheme.

нейросетевой декодеррекуррентная нейронная сетьблочные кодыалгоритм распространения доверияфункция весовых коэффициентовneural network decoderrecurrent neural networkblock codesbelief propagationweight functionработа выполнена при поддержке Минобрнауки России в рамках Федерального проекта «Подготовка кадров и научного фундамента для электронной промышленности» Государствен- ной программы Российской Федерации «Научно-технологическое развитие Российской Федерации» при реализации Программы развития учебного дизайн-центра электроники «Cиловая электроника» (соглашение № 075-02-2024-1517 от 7.03.2024 г. и № 075-02-2024-1520 от 7.03.2024 г.) в ФГБОУ ВО «Воронежский государственный технический университет».the work is supported by the Ministry of Education and Science of the Russian Federation within the Federal Project “Podgotovka kadrov i nauchnogo fundamenta dlya elektronnoy promyshlennosti” of the State Program of the Russian Federation “Nauchno-tekhnologicheskoe razvitie Rossiyskoy Federatsii” in the implementation of the Program for the Development of the Educational Design Center for Electronics “Silovaya elektronika” (agreement No. 075-02-2024-1517 dated March 7, 2024, and No. 075-02-2024-1520 dated March 7, 2024) at the Voronezh State Technical UniversityReferencesЗинченко М. Ю., Левадний А. М., Гребенко Ю. А. Реализация LDPC декодера на ПЛИС и оптимизация потребляемой мощности // T-Comm: Телекоммуникации и транспорт. 2020. Т. 14, № 3. С. 4–10.Зинченко М. Ю., Левадний А. М., Гребенко Ю. А. Реализация LDPC декодера на ПЛИС и оптимизация потребляемой мощности // T-Comm: Телекоммуникации и транспорт. 2020. Т. 14, № 3. С. 4–10.Хорошайлова М. В. Архитектура канального кодирования на основе ПЛИС для 5G беспроводной сети с использованием высокоуровневого синтеза // Вестник Воронежского государственного технического университета. 2018. Т. 14, № 2. С. 99–105.Хорошайлова М. В. Архитектура канального кодирования на основе ПЛИС для 5G беспроводной сети с использованием высокоуровневого синтеза // Вестник Воронежского государственного технического университета. 2018. Т. 14, № 2. С. 99–105.Хорошайлова М. В. Архитектура для стохастических LDPC-декодеров c использованием эффективной площади кристалла на основе ПЛИС // Вестник Воронежского государственного технического университета. 2018. Т. 14, № 1. С. 95–100.Хорошайлова М. В. Архитектура для стохастических LDPC-декодеров c использованием эффективной площади кристалла на основе ПЛИС // Вестник Воронежского государственного технического университета. 2018. Т. 14, № 1. С. 95–100.Башкиров А. В., Хорошайлова М. В., Демихова А. С. Разработка архитектуры слепого распознавания линейного блочного кодирования с использованием каскадной сети // Вестник Воронежского государственного технического университета. 2023. Т. 19, № 6. С. 130–137.Башкиров А. В., Хорошайлова М. В., Демихова А. С. Разработка архитектуры слепого распознавания линейного блочного кодирования с использованием каскадной сети // Вестник Воронежского государственного технического университета. 2023. Т. 19, № 6. С. 130–137.Башкиров А. В., Муратов А. В., Хорошайлова М. В. и др. Низкоплотностные коды малой мощности декодирования // Радиотехника. 2016. № 5. С. 32–37.Башкиров А. В., Муратов А. В., Хорошайлова М. В. и др. Низкоплотностные коды малой мощности декодирования // Радиотехника. 2016. № 5. С. 32–37.Silver D., Huang A., Maddison C. J. et al. Mastering the game of Go with deep neural networks and tree search // Nature. 2016. Vol. 529, no. 7587. P. 484–489.Silver D., Huang A., Maddison C. J. et al. Mastering the game of Go with deep neural networks and tree search // Nature. 2016. Vol. 529, no. 7587. P. 484–489.Овинников А. А. Способ идентификации циклов в графах Таннера LDPC кодов на основе пересечений коротких замкнутых структур в протографах // Цифровая обработка сигналов. 2016. № 4. С. 26–30.Овинников А. А. Способ идентификации циклов в графах Таннера LDPC кодов на основе пересечений коротких замкнутых структур в протографах // Цифровая обработка сигналов. 2016. № 4. С. 26–30.Mandic D. P., Chambers J. A. Recurrent Neural Networks for Prediction: Learning Algorithms, Architectures and Stability. London : Wiley, 2001. 308 p.Mandic D. P., Chambers J. A. Recurrent Neural Networks for Prediction: Learning Algorithms, Architectures and Stability. London : Wiley, 2001. 308 p.

The authors declare that there are no conflicts of interest present.