procyberВестник кибернетикиProceedings in Cybernetics1999-7604Бюджетное учреждение высшего образования Ханты-Мансийского автономного округа – Югры «Сургутский государственный университет»10.34822/1999-7604-2022-2-75-84procyber-438Research ArticleФИЗИКО-МАТЕМАТИЧЕСКИЕ НАУКИPhysics and MathematicsВАРИАЦИОННЫЕ АЛГОРИТМЫ ОБУЧЕНИЯ И ОПРОСА ДИНАМИЧЕСКИХ БАЙЕСОВСКИХ СЕТЕЙ В УСЛОВИЯХ ЧАСТИЧНОЙ НАБЛЮДАЕМОСТИ ПАРАМЕТРОВVARIATIONAL LEARNING AND SURVEY ALGORITHMS OF DYNAMIC BAYESIAN NETWORKS IN PARTIAL OBSERVABILITY OF PARAMETERShttps://orcid.org/0000-0001-5645-6312ПолухинП. В.PolukhinP. V.

кандидат технических наук

E-mail:  alfa_force@bk.ru

Candidate of Sciences (Engineering)

E-mail: alfa_force@bk.ru

Воронежский государственный университет, ВоронежРоссияVoronezh State University, VoronezhRussian Federation20222906202202 (46)7584Copyright © Полухин П.В., 20222022Полухин П.В.Polukhin P.V.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.vestcyber.ru/jour/article/view/438

Использование вероятностных моделей на основе байесовских сетей является распространенным механизмом для описания процессов, протекающих в условиях неопределенности. Одним из актуальных направлений, связанных с оптимизацией расчета вероятностных характеристик динамических байесовских сетей, является оптимизация решения задач факторизации, распространения свидетельств и вычисления полного совместного распределения каждой из вершин графа байесовской сети. В исследовании рассматривается возможность представления байесовских сетей в виде гиперграфов. Исследование данного вопроса связано с необходимостью разработки оптимальных алгоритмов обучения байесовских сетей и определением основных подходов к реализации процедур опроса сети. Рассмотрены особенности использования вариационного вывода при формировании моделей перехода для нескольких смежных временных срезов с учетом семантики динамических байесовских сетей. Представлены алгоритмы для дискретных и непрерывных моделей динамических байесовских сетей. Предложенные подходы позволяют оптимизировать процедуру расчета априорных распределений динамической байесовской сети, упростить ее топологическую структуру, а так-же оптимизировать процедуру опроса сети в момент получения новых свидетельств и определения распределения вероятностей для скрытых переменных с учетом данных свидетельств.

Probabilistic models based on Bayesian networks are used as a common mechanism to describe processes occurring in uncertainty. The optimization of solving factorization problems, distributing evidence, and calculating the complete joint distribution of each vertices of the Bayesian network graph repre-sents a current direction associated with optimizing the calculation of dynamic Bayesian networks’ variational features. The study considers the possibility of presenting Bayesian networks as hypergraphs resulting from the need to develop optimal learning algorithms of Bayesian networks and determine the main approaches to implementation of the network’s survey. Specifics of variational inference in forming transition models applied to certain adjacent time samplings are studied, with semantics of dynamic Bayesian networks considered. Algorithms for discrete and continuous models of dynamic Bayesian networks are presented. The proposed approaches make it possible to optimize the procedure for calculating a priori distributions of a dynamic Bayesian network, simplify its topological structure, as well as optimize the network’s survey when obtaining new evidence and determining the probability distribution for hidden variables according to evidence data.

динамическая байесовская сетьвариационный выводцепь Марковамарковское покрытиемодель переходадистанция Кульбака – Лейблераметод Монте-Карлологарифм правдоподобиянеравенство Йенсенаdynamic Bayesian networkvariational inferenceMarkov chainMarkov blankettransition modelKullbak-Leibler divergenceMonte Carlo methodlikelihood logarithmJensen inequalityReferencesPearl J. Causality: Models, Reasoning and Inference. Cambridge University Press, 2009. 484 p.Pearl J. Causality: Models, Reasoning and Inference. Cambridge University Press, 2009. 484 p.Тихонов В. И., Миронов М. А. Марковские процессы. М. : Сов. радио, 1977. 488 с.Тихонов В. И., Миронов М. А. Марковские процессы. М. : Сов. радио, 1977. 488 с.Jensen F. V., Nielsen T. D. Bayesian Networks and Decision Graphs. New York : Springer, 2007. 441 p.Jensen F. V., Nielsen T. D. Bayesian Networks and Decision Graphs. New York : Springer, 2007. 441 p.Рассел С., Норвиг П. Искусственный интеллект: современный подход. М. : Вильямс, 2006. 1408 с.Рассел С., Норвиг П. Искусственный интеллект: современный подход. М. : Вильямс, 2006. 1408 с.Zacks S. Introduction to Reliability Analyses: Probability Models and Statistical Models. New York : Springer-Verlag, 1992. 212 p.Zacks S. Introduction to Reliability Analyses: Probability Models and Statistical Models. New York : Springer-Verlag, 1992. 212 p.Murphy K. P. Machine Learning: A Probabilistic Perspective.Murphy K. P. Machine Learning: A Probabilistic Perspective.Massachusetts : MIT Press, 2012. 1067 p.Massachusetts : MIT Press, 2012. 1067 p.MacKay D. J. C. A Practical Bayesian Framework for Backpropagation Networks // Neural Computation. 1992. Vol. 4, No. 3. P. 448‒472.MacKay D. J. C. A Practical Bayesian Framework for Backpropagation Networks // Neural Computation. 1992. Vol. 4, No. 3. P. 448‒472.Kullbak S., Leibler R. A. Information and Sufficiency // Ann Math Statist. 1951. Vol. 22, No 1. P. 79–86.Kullbak S., Leibler R. A. Information and Sufficiency // Ann Math Statist. 1951. Vol. 22, No 1. P. 79–86.Bardenet R., Doucet A., Holmes C. Towards Scaling up Markov Chain Monte Carlo: An Adaptive Subsampling Approach // PMLR. 2014. Vol. 32, Is. 1. P. 405‒413.Bardenet R., Doucet A., Holmes C. Towards Scaling up Markov Chain Monte Carlo: An Adaptive Subsampling Approach // PMLR. 2014. Vol. 32, Is. 1. P. 405‒413.Полухин П. В. Инструменты оптимизации многочастичного фильтра для вероятностных моделей динамических систем // Системы управления и информ. технологии. 2021. № 4 (86). С. 4–10.Полухин П. В. Инструменты оптимизации многочастичного фильтра для вероятностных моделей динамических систем // Системы управления и информ. технологии. 2021. № 4 (86). С. 4–10.Del Moral P., Doucet A., Jasra A. On Adaptive Resampling Procedures for Sequential Monte Carlo Methods // Bernoulli. 2012. Vol. 18, No. 1. P. 252‒278.Del Moral P., Doucet A., Jasra A. On Adaptive Resampling Procedures for Sequential Monte Carlo Methods // Bernoulli. 2012. Vol. 18, No. 1. P. 252‒278.Ross S. M. Stochastic Processes. 2nd edition. New York: Wiley, 1996. 510 p.Ross S. M. Stochastic Processes. 2nd edition. New York: Wiley, 1996. 510 p.Del Moral P. Nonlinear Filtering: Interacting Particle Resolution // Markov Processing and Related Fields. 1996. Vol. 2, No. 4. P. 555‒580.Del Moral P. Nonlinear Filtering: Interacting Particle Resolution // Markov Processing and Related Fields. 1996. Vol. 2, No. 4. P. 555‒580.Zaharia M., Chowdhury M., Das T. Resilent Distributed Datasets: A Fault-Tolerant Abstraction for In-Memory Cluster Computing // 9th USENIX Symposium on Networked Systems Design and Implementation, April 25‒27, 2012, San Jose. P. 1‒15.Zaharia M., Chowdhury M., Das T. Resilent Distributed Datasets: A Fault-Tolerant Abstraction for In-Memory Cluster Computing // 9th USENIX Symposium on Networked Systems Design and Implementation, April 25‒27, 2012, San Jose. P. 1‒15.

The authors declare that there are no conflicts of interest present.