GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (1)   Поиск:  
 Автор Тема: Нейросети+ГА - новое или старое?
MadGod
Сообщений: 413
Нейросети+ГА - новое или старое?
Добавлено: 28 янв 09 15:58
Хочу спросить, является ли новой моя идея включить в нейросеть (кроме изменения весов между связанными друг с другом нейронами) механизм комутации между нейронами и группами нейронов новой или старой.

Так как нейрон (вернее его эмуляция) является форматом данных, задающий адреса (номера) связанных нейронов относительно общего количества всех нейронов и конкретно номера входов-выходов нейрона относительно общего количества всех входов-выходов в конкретном нейроне, потребуется разработать механизм, который будет определять, к какому входу какого нейрона присоединять данный выход данного нейрона.

Зачем это нужно? Группы скомутированных между собой нейронов (предположительно) могут решать определённую задачу или класс задач, наперёд неизвестно, каких.
Исходя из повышенной активности на выходе (проходимости сигналов) сквозь группу нейронов, можно сделать вывод, что эта группа используется (хотя бы для переноса сигналов без их модификации).
Становится возможным заменить одну группу на другую, не изменяя источник сигналов и приёмник (устройство), и оценить полезность данной замены, найти наиболее эффективную замену.
Также возможно создать цепочку взаимосвязанных через аргументы и промежуточные результаты групп нейронов, способных решать задачи или классы задач более эффективно в группах групп, чем по-отдельности.
Также возможно собрать базу групп нейронов, успешно решающие конкретные задачи или классы задач, вместо того, чтобы заново обучать сеть.

Нейрон передаёт и принимает информацию. Но также перемещается и сам и изменяет свои связи. Значит, он хранит в себе, своём устройстве фильтр, при помощи которого может "погасить" электрический импульс, переместиться как вещество и вновь "зажечь" электрический импульс.
Таким образом, нужно рассматривать совокупность нейронов как адресуемый массив
нейронов
их входов-выходов
внутренних значений
флага активности

ну и конечно же функция, которая связывает входящий электрический импульс с (внутренним "механическим")фильтром нейрона, путём сравнения импульса и фильтра и в зависимости от равенства или неравенства - активации или неактивации выхода(ов), значением, которое можно брать откуда-то ещё (из другого входа или из самого фильтра).

Причём, мне кажется, только что прошедший импульс может либо изменить внутренний фильтр, либо нет, от чего это может зависеть можно увидеть на эмуляции, которую нужно построить.

Нейроны, сравнивающие с эталоном и содержащие в себе это эталонное значение (или берущие его откуда-то) соответствуют долговременной (эталоны) памяти, кратковременной (проходящие по кругу импульсы) памяти и гибридной (циклично переходящей из кратковременной в долговременную в зависимости от количества обращений) и по-моему хорошо предназначены для подбора и хранения пар вопрос-ответ, воздействие-отклик, иерархического поиска и составления иерархий, подбора вариантов решений на воздействие, составления последовательности действий, интерпретации паттернов,субпатернов и метапаттернов в последовательности индексов и обратно, выработка эффективного поведения в сложных ситуациях, создание всё более сложных управляющих последовательностей и т.д.
[Ответ][Цитата]
daner
Сообщений: 4593
На: Нейросети+ГА - новое или старое?
Добавлено: 29 янв 09 2:18
алгоритм в студию. подозреваю, что в конце концов, это будет точно тоже самое, что "играть" только весами. Ну сами подумайте. Стандартный нейрон определяется ТОЛЬКО весовыми коэффициентами ко всем остальным нейронам (там где связей нет, можно считать что вес равен нулю) и функцией активации. Так как (опять же в стандартном случае) функция активации у всех нейронов одна и та же, то остается только менять коэффициенты. Вот и все.
[Ответ][Цитата]
tac
Сообщений: 2601
На: Нейросети+ГА - новое или старое?
Добавлено: 29 янв 09 8:34
Ну, на самом деле нейрон еще определяется порогом, который может быть разным ...
[Ответ][Цитата]
3d6
Сообщений: 325
На: Нейросети+ГА - новое или старое?
Добавлено: 29 янв 09 10:36
Цитата:
Автор: tac

Ну, на самом деле нейрон еще определяется порогом, который может быть разным ...

Порог - это вес к дополнительному входу, на котором всегда 1
[Ответ][Цитата]
3d6
Сообщений: 325
На: Нейросети+ГА - новое или старое?
Добавлено: 29 янв 09 10:38
Вообще, с такого рода вещами вроде много кто экспериментировал, упоминания, правда весьма расплывчатые, встречались часто, но о существенных результатах, которые не получаются отдельно ИНС и отдельно ГА я не слышал.
[Ответ][Цитата]
MadGod
Сообщений: 413
На: Нейросети+ГА - новое или старое?
Добавлено: 29 янв 09 14:40
Стандартный нейрон определяется ТОЛЬКО весовыми коэффициентами ко всем остальным нейронам.

То есть нейрон как бы соединён со всеми нейронами сразу (кроме себя), только большинство связей нулевые?

А за счёт чего связь становится больше нуля с каким-то нейроном и почему именно с этим?
[Ответ][Цитата]
tac
Сообщений: 2601
На: Нейросети+ГА - новое или старое?
Добавлено: 29 янв 09 15:51
Цитата:
Автор: гость 195.93.160.*
А за счёт чего связь становится больше нуля с каким-то нейроном и почему именно с этим?


Вопрос правильный Только точнее отличным от нуля, т.к. вес связи может быть и меньше нуля.

И тут нужно различать как минимум два случая: 1. в первом слое и 2. во втором слое ... Для MLP&BP - там бардак и нет отличий, для перцептрона приницпиально.

Первый слой трасформирует задачу к линейному представлению. А второй находит правило линейной разделимости. Соответственно задачи слоев разные и вес связи становится отличным от нуля по разным причинам.

В первом случае нужно добится как можно более нелинейной функции отображения - случайность с этой задачей справляется, но хотелось бы понимать как этого можно добится и без случайности ... тут не очень понятно как влияет число связей, по сути достаточно 10 произвольных с 5 положительными и 5 отрицательными связями ... может стоять задача лишь сформировать их по определенному правилу с определенными ограничениями, которые по сути сводятся к тому, чтобы небыло повторяющихся ...

Во втором случае все определяется обучением, т.е. то что в первом случае мы разнесли в пространстве теперь нужно согласовать с требуемыми выходами ...

Итого, прямо управлять что с чем соединить совершенно не серьезно. Нет конечно можно синтезировать сети со специальной архитектурой - это направление прослеживается Питсс-фон Нейман-Мкртчян - там полностью без какого либо обучения синтезирую сеть, которая бы выполнял определенную функцию - но это сложно математически (задача оптимизации с ограничениями) и теряется вся прелесть иттерационного обучения, которое сойдется используя простейший алгоритм (конечно, это относится только к перцептрону )

[Ответ][Цитата]
Virtual_Graph
Сообщений: 594
На: Нейросети+ГА - новое или старое?
Добавлено: 29 янв 09 17:47
Цитата:
Автор: гость 195.93.160.*
А за счёт чего связь становится больше нуля с каким-то нейроном и почему именно с этим?

Правильный вопрос Только его, имхо, надо ставить шире. Звучит он так: за счет чего параметры того или иного нейрона принимают те или иные значения? Поэтому структура НС - дело вторичное. Первично же - настройка параметров. Если мы умеем это делать, тогда сможем настраивать и структуру
[Ответ][Цитата]
гость
92.39.137.*
На: Нейросети+ГА - новое или старое?
Добавлено: 30 янв 09 19:36
Хочу спросить, является ли новой моя идея включить в нейросеть (кроме изменения весов между связанными друг с другом нейронами) механизм комутации между нейронами и группами нейронов новой или старой.
_____________________________________________________________________________________
Нейросеть созданная с таким дополнением станет в большей степени похожа на нейросеть живых существ, а это значит, что модифированные таким образом искусственные нейросети станут следующим этапом развития искусственных нейросетей.
Но для этого нужно составит соответствующий алгоритм. А то, что Вы описываете, мягко говоря, не совсем то, что нужно.
Однако следует отметить, что конечный результат который возможно достичь такой модификацией нейросетей можно получить иным и более простым способом.
[Ответ][Цитата]
MadGod
Сообщений: 413
На: Нейросети+ГА - новое или старое?
Добавлено: 30 янв 09 20:02
каким? Соц-опросом?
[Ответ][Цитата]
гость
92.39.137.*
На: Нейросети+ГА - новое или старое?
Добавлено: 03 фев 09 19:58
Вы не отвлекайтесь на то, что Вам пока не понятно. Доведите свою модификацию НС до логического конца - получите реальный результат. На данном этапе неважно каким методом будет достигнут нужный результат.
[Ответ][Цитата]
 Стр.1 (1)