кандидат технических наук
Candidate of Sciences (Engineering)
Предметом исследования является применение импульсных нейронных сетей класса «жидкостная машина состояний» для задачи прогнозирования хаотических временных рядов. Целью работы является разработка методологической основы и программной базы моделирования жидкостной машины состояний на основе библиотеки BindsNET, а также проведение воспроизводимого сравнительного анализа с рекуррентной нейронной сетью с долгой краткосрочной памятью на эталонном тесте Mackey–Glass. Методология включает построение резервуара из нейронов типа «утечка–интегрирование–порог», частотное кодирование входного сигнала посредством генератора импульсов Пуассона и обучение линейного считывателя методом гребневой регрессии. В качестве базовой модели сравнения реализована однослойная рекуррентная сеть с долгой краткосрочной памятью. Научная новизна работы состоит в воспроизводимом сравнении импульсного резервуара на нейронах типа «утечка–интегрирование–порог» с рекуррентной сетью с долгой краткосрочной памятью на эталонном тесте с открытым исходным кодом; при этом акцент делается на сопоставлении числа обучаемых параметров и практической стоимости переобучения считывателя. Основные результаты: жидкостная машина состояний достигает среднеквадратичной ошибки прогноза 0,0083 и средней абсолютной ошибки 0,0061; время обучения считывателя составляет 12,4 с, полное время конвейера (включая симуляцию резервуара) – около 58 с. Рекуррентная сеть показала среднеквадратичную ошибку 0,0071 и среднюю абсолютную ошибку 0,0052 при суммарном времени обучения 47,8 с. Разреженность активаций резервуара составила 9,3 %. Оптимальный спектральный радиус ρ = 0,9 установлен перебором по сетке ρ ∈ {0,5; 0,7; 0,9; 1,0; 1,2} с отбором по минимуму RMSE на валидационной выборке (табл. 4). Статистическая значимость различий по критерию Уэлча (p < 0,05) носит предварительный характер ввиду ограниченного числа запусков (n = 5). Вывод: жидкостная машина состояний уступает рекуррентной сети по точности не более чем на 17 % (по RMSE), обучая при этом в 34 раза меньше параметров (501 против 17 217). Полное время вычислительного конвейера жидкостной машины состояний (~58 с) незначительно превышает суммарное время обучения рекуррентной сети (47,8 с); однако в сценариях многократного переобучения считывателя на новых данных без повторной симуляции резервуара время адаптации сокращается до 12,4 с против 47,8 с, что делает жидкостную машину состояний практически применимой альтернативой при числе обучаемых параметров считывателя до 10³ и требовании переадаптации модели за время, не превышающее 15 с на выборке из 2 000 точек.
The subject of the study is the application of spiking neural networks of the Liquid State Machine (LSM) type to the problem of chaotic time series forecasting. The objective is to establish a theoretical and software foundation for modeling the LSM utilizing the BindsNET library, alongside performing a reproducible comparative analysis against a Long Short-Term Memory (LSTM) recurrent neural network using the Mackey–Glass benchmark. The methodology includes building a reservoir of Leaky Integrate-and-Fire neurons, rate coding of the input signal via a Poisson spike generator, and training a linear readout using Ridge regression. A single-layer Long Short-Term Memory network served as the reference model. The scientific novelty of the work lies in the reproducible comparison of a spiking reservoir based on Leaky Integrate-and-Fire neurons with a Long Short-Term Memory network on a standard benchmark with open-source code. The emphasis is placed on comparing the number of trainable parameters and the practical cost of readout retraining. Main results are: the LSM achieves root mean square error (RMSE) at 0.0083 and mean absolute error (MAE) at 0.0061; readout training time is 12.4 s, full pipeline time (including reservoir simulation) is approximately 58 s. The recurrent network achieves RMSE at 0.0071 and MAE at 0.0052 with a total training time of 47.8 s. Reservoir activation sparsity is 9.3%. The optimal spectral radius ρ = 0.9 is selected by grid search over ρ ∈ {0.5; 0.7; 0.9; 1.0; 1.2} using minimum RMSE on the validation set as the selection criterion (Table 4). Statistical significance by Welch’s t-test (p < 0.05) should be considered preliminary given the limited number of runs (n = 5). The LSM underperforms the recurrent network in accuracy by no more than 17 % while training 34 times fewer parameters (501 versus 17 217). Although the full pipeline time of the LSM (~58 s) slightly exceeds the total training time of the recurrent network (47.8 s), in scenarios requiring repeated readout retraining on new data without re-simulating the reservoir, the adaptation time is reduced to 12.4 s versus 47.8 s, making the LSM a practically viable alternative when the number of trainable readout parameters does not exceed 10³ and the model re-adaptation time must not exceed 15 s on a dataset of 2 000 points.
The authors declare that there are no conflicts of interest present.