Дослідження ефективності алгоритмів навчання модифікованої нейронної мережі Елмана

Abstract

Обґрунтовано використання рекурентної нейронної мережі для реалізації адаптивного керування в нелінійних замкнених динамічних системах. Проведено аналіз методів, що реалізують різні типи алгоритмів для налаштування ваг та зміщень нейронів. З метою оцінювання ефективності використання проведено навчання рекурентної НМ із застосуванням кількох видів алгоритмів з різними способами навчання, що відрізняються за швидкодією та мінімальним значенням помилки навчання. Запропоновано спосіб визначення ефективного алгоритму для навчання рекурентної НМ Елмана із додатковими зворотними зв’язками, який включає навчання НМ на тестовій траєкторії і перевірку її роботи для вхідних значень, що не входили в навчаючу послідовність. Порівняльний аналіз ефективності використання алгоритму для навчання рекурентної НМ дає змогу оцінити результативність роботи регулятора на стадії виконання навчання НМ. Отримані результати досліджень показали доцільність використання алгоритму навчання, що використовує метод регуляризації як найефективніший за точністю навчання.

The fundamental property of neural networks (NN) is their ability to the learning, that allows to use them successfully in control system by difficult dynamic object. The use of recurrent neural network is reasonable for an implementation of the adaptive control in the nonlinear closed dynamical system. However, the efficiency of the use of this structure needs the learning of the created NN and the choice of the effective algorithm diminishes time that is spent for the selection of NN coefficients and makes the error between an initial signal and a target vector minimal. Some types of algorithms which include methods for the learning of the recurrent NN have been created and each of them is characterized by fast-acting, minimum value of error of learning, but for the specific task the analysis of the efficiency of the application of these algorithms should be conducted. The analysis of methods that realize different types of algorithms to arrange scales and displacements of neurons has been conducted. As the quality of NN work will not depend on speed of learning, and after learning the error will not reach a set value. The method of determination of the effective algorithm is proposed to the learning of Elman recurrent NN with the additional reverse copulas that includes the learning of NN on a test trajectory and verification of its work for the entrance values that weren’t in a teaching sequence. In the research process the time of realization of the learning was taken into account and the control of the error of the initial signal recreation was conducted too. The received values are shown in the comparative table and are also depicted in the charts of dependence of an error, which appears after testing of studied NN with the use of the offered algorithms. The comparative analysis of the efficiency of the use of algorithm for the learning of recurrent NN gives us an opportunity to estimate the effectiveness of the work of regulator of the stage of an implementation of NN learning. The received result of the research testifies reasonable use of the normalization method as the most effective.