GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.3 (5)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Поиск алгоритма
tac
Сообщений: 2601
На: Поиск алгоритма
Добавлено: 16 сен 14 10:11
Цитата:
Автор: гость

***MLP Румельхарда...

Впервые вижу. Я за однослойник ратую.



Ан, нет значит просвещение еще не вошло в нужную стадию - перцептрон Розенблата не однослойный
[Ответ][Цитата]
гость
31.181.87.*
На: Поиск алгоритма
Добавлено: 16 сен 14 11:06
Каноны говорят - однослойный. А ты отправляйся матчасть изучать.
[Ответ][Цитата]
leonid-grigorev
Сообщений: 13
На: Поиск алгоритма
Добавлено: 16 сен 14 11:22
Изменено: 16 сен 14 11:24
Цитата:
Автор: гость
*** моей оценки их приспособленности...
Ты и есть среда. Смирись.

Да я и не против
Цитата:
Автор: гость
***может только одну арифметическую операцию выполнять (сложение)...
Складываются сигналы прошедшие по связям, сами связи, само наличие у них веса, их начало и конец, всё это характеризует запомненную информацию, а сумма это вычисляемое сходство известного нейрону с тем что на входе. Это не очевидно, по тому, что каноничный перцептрон бинарен.

Ещё я забыл про надуманность топологии нейросети. Может не те книжки читал, но нигде не встречал ответ на вопросы: а почему именно столько узлов? а почему именно такие связи? Про "наличие у них веса" тоже не понятно почему? И почему только веса? Разве преобразовать какое-либо значение (и кто это выдумал - преобразовывать?) можно только такой простой операцией как умножение? Такое впечатление, что нейронные сети придумал какой-то странный математик, не владеющий ни логикой, ни алгеброй,ни какой-либо другой частью математики кроме арифметики. А сигма-функция это вообще мрак! Ну, надо было как-то всё в одно корыто соскрести - вставили это убожество. И, тем не менее, благодаря тому, что подсмотренная у биологии идея оказалась довольно жизнеспособная, эти ублюдочные конструкции ещё и работают. А на выдумавании новых конфигураций люди дисеры защищают. Флаг им в руки...
Цитата:
Автор: гость
***Хочу чтобы оно само-собой писалось...
Не учёл нюанс - популяция вымерла и забыта, а ведь именно она должна была развиться в И.

Это кто ж ей позволит вымереть? Нет, батенька! Процесс управляемый! Обычно довольно быстрый результат я получал за 50 поколений на популяции 200 особей. Были случаи, когда процесс не приближался к цели и за 200 поколений. Тогда я прекращал убивать малоприспособленные особи и доводил популяцию до 1000 особей, после чего цель начинала приближаться и я снова уменьшал популяцию до 200 особей. Другим действенным средством выхода из тупика было увеличение числа мутаций. И чем больше вариативность мутаций, тем быстрее достигалась приемлимая приспособленность.
[Ответ][Цитата]
tac
Сообщений: 2601
На: Поиск алгоритма
Добавлено: 16 сен 14 12:18
Цитата:
Автор: гость

Каноны говорят - однослойный. А ты отправляйся матчасть изучать.


Почитай что ли хотя бы мою статью в Википедии
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Поиск алгоритма
Добавлено: 16 сен 14 21:57
Цитата:
Автор: leonid-grigorev
Совсем не хочу. Просто использую этот язык для экспериментов.
...
А вот когда я наконец пойму, как можно сделать самообучающийся регулятор (а вовсе не СИИ равную мозгу), то буду...

1. Ну тоды приношу свои извинения, как всегда хотел малость поерничать.
2. Еще раз (извиняюсь за назойливость, но что-то пока подталкивает меня не оставлять Вас в покое), прошу обратить внимание на подумать об отказе хотя бы иногда и на время от целевого подхода. "Регулятор" - подразумевает цель. Все остальное из "генетического алгоритма" применяемого для отдельных "монстриков", на мой не просвещенный взгляд можно, переносить на мозг (СИИ).
Когда я говорю СИИ равный мозгу, я не имею ввиду человека и его мозг. Достаточно мозг пчелки, но имеющий то же "адаптивное ядро" работающее по тем же принципам, что и у человека. Дело не в масштабе, а в принципах закладываемых для обеспечения функционирования.
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Поиск алгоритма
Добавлено: 17 сен 14 7:36
Цитата:
Автор: leonid-grigorev
Ещё я забыл про надуманность топологии нейросети. Может не те книжки читал, но нигде не встречал ответ на вопросы: а почему именно столько узлов? а почему именно такие связи? Про "наличие у них веса" тоже не понятно почему? И почему только веса? Разве преобразовать какое-либо значение (и кто это выдумал - преобразовывать?) можно только такой простой операцией как умножение? А сигма-функция это вообще мрак!

Не нравится какая-то регулярная топология - см в сторону растущих сетей (куда-нибудь подальше от алгоритма каскадной корреляции - чтобы нерегулярности в сети в итоге оказалось побольше).
Сколько надо узлов - определяется в ходе экспериментов, путём последовательного перебора сеток разных размеров и сравнения их точностей. "Правильный размер" - соответствует моменту выхода на экстремум или на асимптоту некоторого графика (ошибки обучения, ошибки обобщения).
Не нравятся простые веса в виде умножений - см в сторону полиномиальных сумматоров. Там сигнал не только умножается на вес, но и на другой сигнал тоже может быть домножен. Классика, в двухтомнике 1986г Румельхарта-Хинтона-Уильямса полиномиальные сумматоры/нейроны во второй главе рассматривались среди "стандартных" нейронов для искусственных нейросеток, а в главе 8 для них были в качестве примера расписаны и формулы обратного распространения (после того, как то же самое было проделано для менее сложного обычного взвешивающего сумматора).
Не нравятся сигма-функции - см, например, в сторону Паде-нейронов. У них 2 сумматора и нелинейный элемент затем делит выход одного на выход другого. Естественно, на веса синапсов наложены ограничения, дабы делитель не стал нулём. Рациональные аппроксиматоры (аппроксимации Паде) являются универсальными, т.е. нейронка на базе таких нейронов при нужном числе нейронов может аппроксимировать любую функцию на компакте. И тут тоже никто не мешает вместо линейных сумматоров взять полиномиальные.
[Ответ][Цитата]
leonid-grigorev
Сообщений: 13
На: Поиск алгоритма
Добавлено: 17 сен 14 9:09
Цитата:
Автор: Victor G. Tsaregorodtsev
Не нравится какая-то регулярная топология - см в сторону...

Что-то мне не нравится направление обсуждения моей проблемы. Я совсем не против тех, кому нравятся нейронные сети. Мне они не нравятся, ну и что? Я же о другом!
Я хочу чтобы программа самообучалась. Так сказать "в темпе вальса", в онлайн-режиме. И вот алгоритм этого самообучения я и хочу понять. Не до того, как программу выпускают "в поле", а после того, как она попала в реальную жизнь. Хочу, чтобы у неё (программы) можно было вырабатывать условный рефлекс - как Павлов у своих собачек вырабатывал. И если у нейронной сети можно в процессе её функционирования, эксплуатации, использования (а не в процессе обучения) можно выработать условный рефлекс на то, чему её еще не обучали, то и нейронные сети сгодятся! Только не встречал я таких.
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Поиск алгоритма
Добавлено: 17 сен 14 9:19
Цитата:
Автор: leonid-grigorev
Только не встречал я таких.

На мой не просвещенный взгляд, Нечто-Когнитрон относится как раз к таким...
[Ответ][Цитата]
гость
5.138.195.*
На: Поиск алгоритма
Добавлено: 17 сен 14 11:21
***Почитай что ли хотя бы...

Ссылки мне на статью и на авторство, ато я дурак.
[Ответ][Цитата]
гость
5.138.195.*
На: Поиск алгоритма
Добавлено: 17 сен 14 11:36
***но нигде не встречал ответ на вопросы:
***а почему именно столько узлов?
Нет ответа по тому что количество узлов выбираеш сам. Для каждой распознаваемой ситуации свой узел.

***а почему именно такие связи?

Двунаправленная связь создаст коллизию, не верную интерпритацию, ассоциативность. Ты же видиш что А-Б != Б-А, иная связь может сделать например А-Б = Б-А и тогда, например, перцептрону не понять, что за букву он видит И или N.

***И почему только веса?

По тому, что связь, её направление и вес это характеристики информации, где направление это координаты - какой пиксель, в каком узле запомнен, а вес - значение.

***Это кто ж ей позволит вымереть?

Главная проблема в любом деле - человеческий фактор. Ты не есть абсолют, абсолют это автоматический брутфорс вариантов.

[Ответ][Цитата]
гость
31.130.4.*
На: Поиск алгоритма
Добавлено: 17 сен 14 13:38
Цитата:
Автор: leonid-grigorev

Я хочу чтобы программа самообучалась. Так сказать "в темпе вальса", в онлайн-режиме. И вот алгоритм этого самообучения я и хочу понять. Не до того, как программу выпускают "в поле", а после того, как она попала в реальную жизнь. Хочу, чтобы у неё (программы) можно было вырабатывать условный рефлекс - как Павлов у своих собачек вырабатывал.

А как, по вашему, можно заставить саморазвивающуюся программу совершать полезную работу, то есть делать то, что нужно нам?
[Ответ][Цитата]
ЭСГТР
Сообщений: 8449
На: Поиск алгоритма
Добавлено: 17 сен 14 13:58
Цитата:
Автор: гость


А как, по вашему, можно заставить саморазвивающуюся программу совершать полезную работу, то есть делать то, что нужно нам?
Очень просто... нужно что бы саморазвивающейся программе это нравилось.
[Ответ][Цитата]
NO.
Сообщений: 10700
На: Поиск алгоритма
Добавлено: 17 сен 14 15:39
Цитата:
Автор: leonid-grigorev
Что-то мне не нравится направление обсуждения моей проблемы. Я совсем не против тех, кому нравятся нейронные сети. Мне они не нравятся, ну и что? Я же о другом!
Я хочу чтобы программа самообучалась.

Тут обычно такое не понимают. Обычно под обучением понимают умение провести черту через множество точек. Это называется "машинное обучение".

А в нормальном обучении другие задачи и проблемы. Нейросети годятся чтобы перевести картинку в понятия. Откуда эти понятия берутся нейросетевики не задумываются, там у системы вообще ни интеллект ни даже мозг не предполагаются.
Когда всё видится в понятиях нужно планировать действия и анализировать результаты. Похоже на сборку пазла, когда он сложится будет образ действий.
Наверно не трудно сделать простую модель. Потом постепенно усложнять окружающий мир и соотвественно будет усложняться поведение.
Вообще в ИИ это скорее тематика планирования, а не обучения-распознавания.
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Поиск алгоритма
Добавлено: 17 сен 14 22:25
Цитата:
Автор: Victor G. Tsaregorodtsev
Не нравится какая-то регулярная топология - см в сторону...

На мой не просвещенный взгляд, дело не в этом (какие, например, "сумматоры" лучше или хуже), а большей частью в том, что в системы закладываются общие(!) (единые для всей системы), довольно детерминированные(!) правила ее преобразования (только пороги/связи, как правило), которые в свою очередь зависимы (исходят) от представлений исследователя(!) о "внешней среде" и "эффективности" тех или иных проявлений системы. К этим "эффективностям", чаще всего, и подгоняется (!) система. На мой взгляд, все это направление пока напоминает создание искусственных "костылей", не имеющих ничего общего с элементарным СИИ.
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Поиск алгоритма
Добавлено: 17 сен 14 22:43
Цитата:
Автор: leonid-grigorev
... Я совсем не против тех, кому нравятся нейронные сети. Мне они не нравятся, ну и что? Я же о другом!
Я хочу чтобы программа самообучалась....

На мой не просвещенный взгляд:
1. Я бы не стал говорить против или за кого-либо. Мне ближе говорить против или за чего-либо.
2. Т.к. я не программер, то и про самообучающуюся программу не стал бы говорить, а говорил бы про систему.
3. Я полностью согласен, что дело не в том кому, что нравится, а в том, как это реализовано в природе и как это же может быть реализовано человеком, например в "обычных" компах.
4. Так вот система, так или иначе должна состоять из элементов, а элементы должны как-то взаимодействовать. Так вот наиболее наглядным представлением о таких системах, на мой взгляд являются так называемые "нейросетки". Так уж сложилось, что такое представление систем в данной области принято так называть, хотя часть "нейро" не несет в себе никакой необходимой конкретики, так... пустышка. Представлять себе подобную систему в виде некоего кода (программы) и мысленно с кодом экспериментировать, анализируя те или иные характеристики закладываемые в систему, на мой не просвещенный взгляд, равносильно надеванию штанов через голову, ну... или, если помягче, все равно, что исследовать свойства ("логику") или работоспособность тех или иных программ только в виде их кодов на ассемблере (вместо языков высокого уровня или блок-схем, к примеру).
[Ответ][Цитата]
 Стр.3 (5)1  2  [3]  4  5<< < Пред. | След. > >>