GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (1)   Поиск:  
 Автор Тема: обратное распространение
dimson
Сообщений: 6
обратное распространение
Добавлено: 12 апр 07 16:08
при обучении нейросети с помощью алгоритма обратного распространения входной слой не обучается?Ведь формула подстройки весов n слоя основана на выходах слоя n-1? разве не так?
[Ответ][Цитата]
daner
Сообщений: 4593
На: обратное распространение
Добавлено: 12 апр 07 16:22
Цитата:
Автор: dimson

при обучении нейросети с помощью алгоритма обратного распространения входной слой не обучается?Ведь формула подстройки весов n слоя основана на выходах слоя n-1? разве не так?


обучаются не слои а связи между слоями. поэтому - ДА.
[Ответ][Цитата]
dimson
Сообщений: 6
На: обратное распространение
Добавлено: 12 апр 07 16:24
да-всмысле связи обучаются?
и как же тогда расщитывать изменения весов?
[Ответ][Цитата]
daner
Сообщений: 4593
На: обратное распространение
Добавлено: 12 апр 07 17:22
Цитата:
Автор: dimson

да-всмысле связи обучаются?
и как же тогда расщитывать изменения весов?


точно так же как вы и раньше это делали.
формулу BP не сложно в интернете найти с кучей примеров.
[Ответ][Цитата]
dimson
Сообщений: 6
На: обратное распространение
Добавлено: 12 апр 07 18:11
формулу я конечно знаю. я имею ввиду обучение связей между входами всей сети(входной образ, в моем случае он бинарен) и первым слоем нейронов.или эти связи так и остаются со случайными значениями?
[Ответ][Цитата]
daner
Сообщений: 4593
На: обратное распространение
Добавлено: 12 апр 07 18:24
Цитата:
Автор: dimson

формулу я конечно знаю. я имею ввиду обучение связей между входами всей сети(входной образ, в моем случае он бинарен) и первым слоем нейронов.или эти связи так и остаются со случайными значениями?


никакие связи не остаются со случ.значением.
Я что то не до конца понимаю, в чем у вас проблема? Делайте просто по формуле и ВСЕ.
[Ответ][Цитата]
dimson
Сообщений: 6
На: обратное распространение
Добавлено: 12 апр 07 21:17
имеется формула:
изменение весов связи между i-ым нейроном слоя n-1 и j-ым нейроном слоя n = -коэф. скорости обучения * дельту этого нейрона * выход i-ого нейрона слоя n-1

как применить эту формулу для первого(входного) слоя на входы нейронов которого подается непосредственно сам образ.
может я что то не понимаю, это единственная формула
[Ответ][Цитата]
daner
Сообщений: 4593
На: обратное распространение
Добавлено: 12 апр 07 23:45
Цитата:
Автор: dimson

имеется формула:
изменение весов связи между i-ым нейроном слоя n-1 и j-ым нейроном слоя n = -коэф. скорости обучения * дельту этого нейрона * выход i-ого нейрона слоя n-1

как применить эту формулу для первого(входного) слоя на входы нейронов которого подается непосредственно сам образ.
может я что то не понимаю, это единственная формула


Ну во-первых, я формулу наизусть не помню, но то что вы написали, не может быть верным, так как обязательно производную самой функции нейрона надо использовать.
смотрите здесь:
http://www.inf.uos.de/papers_html/wtc_95_frank/node9.html
http://en.wikipedia.org/wiki/Backpropagation
http://www.tek271.com/articles/neuralNet/IntoToNeuralNets.html
http://galaxy.agh.edu.pl/~vlsi/AI/backp_t_en/backprop.html

особенно последняя ссылка, хорошо иллюстрированна.

но в любом случае для перцептрона с 3-мя слоями, вначале исправляются веса межу 3-им и 2-ым слоями (соответственно n=3, n-1=2), а после этого, между первым и вторым слоем (т.е. n=2, n-1=1). Первый слой, это входной слой, поэтому здесь все и заканчивается.
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: обратное распространение
Добавлено: 13 апр 07 10:22
Цитата:
Автор: dimson

изменение весов связи между i-ым нейроном слоя n-1 и j-ым нейроном слоя n = -коэф. скорости обучения * дельту этого нейрона * выход i-ого нейрона слоя n-1

как применить эту формулу для первого(входного) слоя на входы нейронов которого подается непосредственно сам образ.

выход i-ого нейрона слоя n-1 - это как раз сам образ вернее его i-я компонента. Подавайте её и всё будет тип-топ


-----------------------------------------------------------
нейронные сети, анализ данных, прогнозирование

[Ответ][Цитата]
aleph - ХЛО
Сообщений: 1391
На: обратное распространение
Добавлено: 23 янв 15 1:24

изменение весов связи между i-ым нейроном слоя n-1 и j-ым нейроном слоя n = -коэф. скорости обучения * дельту этого нейрона * выход i-ого нейрона слоя n-1

как применить эту формулу для первого(входного) слоя на входы нейронов которого подается непосредственно сам образ.
[Ответ][Цитата]
 Стр.1 (1)