NAU Harvester System
Структурно-параметричний синтез ансамблів гібридних нейронних мереж
Наукові журнали Національного Авіаційного Університету
View Archive Info| Field | Value | |
| Title |
Структурно-параметричний синтез ансамблів гібридних нейронних мереж
STRUCTURAL-PARAMETRIC SYNTHESIS OF HYBRID NEURAL NETWORKS ENSEMBLES Структурно-параметрический синтез ансамблей гибридных нейронных сетей |
|
| Creator |
Chumachenko, O. I.; Національний технічний університет України «Київський політехнічний інститут ім. Ігоря Сікорського», Київ
Kot, A. T.; Національний технічний університет України «Київський політехнічний інститут ім. Ігоря Сікорського», Київ |
|
| Subject |
Нейронні мережі; ансамбль; навчання; оптимізація; топологія
УДК 681.327.12 (045) Neural networks; ensemble; training; optimization; topology UDC 681.327.12 (045) Нейронные сети; ансамбль; обучение; оптимизация; топология УДК 681.327.12 (045) |
|
| Description |
У статті розглянуто підхід до дизайну ансамблю нейронних мереж як колекції кінцевого числа нейронних мереж для вирішення однієї і тієї ж задачі, а потім об'єднання результатів їх роботи. Запропоновано алгоритм оптимального вибору топологій нейронних мереж і їх кількості для включення в ансамбль. Подальше уточнення складу ансамблю здійснюється за допомогою операції обрізання. Вихід ансамблю є середньозваженим значенням виходів кожної мережі, при цьому сукупні ваги визначаються як функція відносної похибки кожної мережі, визначеної при навчанні. Представлено новий підхід до динамічного визначення ансамблевих ваг в рамках алгоритму навчання. Ваги пропорційні визначеності відповідних виходів.
It is considered the approach to the design of the ensemble of neural networks, where a collection of a finite number of neural networks is trained for the same task, then their results of the given task solution are combined. It is proposed an algorithm of optimal choice of neural networks topologies and their quantity for their inclusion as a member in ensemble. The further refinement of ensemble composition is done with help pruning operation. The output of an ensemble is a weighted average of the outputs of each network, with the ensemble weights determined as a function of the relative error of each network determined in training. It is presented a novel approach to determine the ensemble weights dynamically as part of the training algorithm. The weights are proportional to the certainty of the respective outputs. В статье рассмотрен подход к дизайну ансамбля нейронных сетей как коллекции конечного числа нейронных сетей для решения одной и той же задачи, а затем объединения результатов их работы. Предложен алгоритм оптимального выбора топологий нейронных сетей и их количества для включения в ансамбль. Дальнейшее уточнение состава ансамбля осуществляется с помощью операции обрезки. Выход ансамбля представляет собой средневзвешенное значение выходов каждой сети, при этом совокупные веса определяются как функция относительной погрешности каждой сети, определенной при обучении. Представлен новый подход к динамическому определению ансамблевых весов в рамках алгоритма обучения. Веса пропорциональны определенности соответствующих выходов. |
|
| Publisher |
National Aviation University
|
|
| Contributor |
—
— — |
|
| Date |
2017-12-15
|
|
| Type |
—
— |
|
| Format |
application/pdf
|
|
| Identifier |
http://jrnl.nau.edu.ua/index.php/ESU/article/view/12323
10.18372/1990-5548.54.12323 |
|
| Source |
Electronics and Control Systems; Том 4, № 54 (2017); 81-88
Электроника и системы управления; Том 4, № 54 (2017); 81-88 Електроніка та системи управління; Том 4, № 54 (2017); 81-88 |
|
| Language |
en
|
|
| Rights |
Authors who publish with this journal agree to the following terms:Authors retain copyright and grant the journal right of first publication with the work simultaneously licensed under a Creative Commons Attribution License that allows others to share the work with an acknowledgement of the work's authorship and initial publication in this journal.Authors are able to enter into separate, additional contractual arrangements for the non-exclusive distribution of the journal's published version of the work (e.g., post it to an institutional repository or publish it in a book), with an acknowledgement of its initial publication in this journal.Authors are permitted and encouraged to post their work online (e.g., in institutional repositories or on their website) prior to and during the submission process, as it can lead to productive exchanges, as well as earlier and greater citation of published work (See The Effect of Open Access).
|
|