GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.2 (2)<< < Пред.   Поиск:  
 Автор Тема: На: Распознование образов в одномерном пространстве - от простого к сложному
Nikolay
Сообщений: 26
На: Распознование образов в одномерном пространстве - от простого к сложному
Добавлено: 04 янв 08 17:27
Цитата:
Автор: daner

Nikolay, я не большой специалист по ИНС. Но в последнее время на форумах стали много говорить об осцелирующих нейронах.
Можете в двух словах, описать разницу между обычными нейронами (Розенблата, Хеба и т.д.) и вот этими осцилирующими.

Термин осцилляторный нейрон мне как-то не попадался. Обычно рассматривают осцилляторные нейронные сети (ОНС) основной функциональной единицей которых является осциллятор. Осциллятор - это множество совместно функционирующих элементов (нейронов или нейронных ансамблей, биологический аналог - колонка в коре мозга), способных работать в колебательном режиме. Отличительной особенностью некоторых осцилляторов является наличие в их структуре возбуждающих и тормозных нейронов (нейронных популяций), различающихся по характеру воздействия: возбуждающие нейроны увеличивают, а тормозные уменьшают активность других элементов сети, отличие других осцилляторов – наличие временной задержки в обратных связях.
В зависимости от архитектуры связей между осцилляторами рассматривают ОНС двух типов: полносвязные сети осцилляторов - каждый из осцилляторов связан со всеми другими осцилляторами, сети с локальными связями - каждый осциллятор связан только с осцилляторами из своей окрестности фиксированного радиуса.
Динамику осциллятора представляют как движение вдоль траектории в фазовом пространстве. Регулярным колебаниям соответствуют предельные циклы, квазипериодическим - торы, стохастическим - странные (стохастический) аттракторы. При изменении параметров сети могут происходить бифуркации (фазовые переходы), в результате которых появляются и исчезают аттракторы системы.
В отличие от других парадигм, при изучении ОНС основной интерес сосредоточен на динамических, колебательных аспектах функционирования нейронных сетей. В соответствии с этим выбирается такая конструкция отдельного элемента и такая архитектура сети, при которых наблюдаются регулярные, квазипериодические или стохастические колебания. При этом представляют интерес условия возникновения колебаний и условия их синхронизации.
Изучение ОНС стимулируется результатами нейрофизиологических экспериментов, указывающих на существенную, а возможно и центральную роль колебательных процессов в работе нервной системы. Одна из центральных гипотез состоит в том, что процесс обработки информации в нервной системе может описываться в терминах синхронизации активности различных нейронных структур (по Борисюку).

Если кратко и в самых общих чертах.
[Ответ][Цитата]
Следопыт
Сообщений: 35
На: Распознование образов в одномерном пространстве - от простого к сложному
Добавлено: 04 янв 08 20:35

В данный момент как-раз читаю статью где выдвигается предположение что ИИ вообще невозможно построить на основе дискретных вычесляющих машин.
ОНС - это надстройка для цифровых машин, а значит как и любая программа как вычеслительный процесс может представленн любым другим по тем же характиристикам.
Смысл в том, что любое решение будь оно НС и ОНС - это не сделает машину умнее, это некая программа которая обобщает некоторые знания в программировании и облегчает решение задач человеком. К примеру ассемблер уступает языку выкокого уровня ООП, однако не значит то что на ассемблере не возможно написать тоже самое.
[Ответ][Цитата]
Buggy
Сообщений: 28
На: Распознование образов в одномерном пространстве - от простого к сложному
Добавлено: 04 янв 08 21:13
Цитата:
Автор: Следопыт


В данный момент как-раз читаю статью где выдвигается предположение что ИИ вообще невозможно построить на основе дискретных вычесляющих машин.
ОНС - это надстройка для цифровых машин, а значит как и любая программа как вычеслительный процесс может представленн любым другим по тем же характиристикам.
Смысл в том, что любое решение будь оно НС и ОНС - это не сделает машину умнее, это некая программа которая обобщает некоторые знания в программировании и облегчает решение задач человеком. К примеру ассемблер уступает языку выкокого уровня ООП, однако не значит то что на ассемблере не возможно написать тоже самое.


Нельзя так думать. Откуда ты знаешь что нашь мозг это тоже не машина? Просто мы ограничены в возможностях. Объемы и скорость вычислений. Не обладаем еще алгоритмами которые бы структурировали задачи и цели находя в них взаимосвязи и выводили бы "что-то" меньшее но объеденяющее все это воедино. Может мы тотже самый компьютер просто у нас богатый набор знаний и опыта и множество-подмножеств-множеств запомненных знаний и практического опыта.
[Ответ][Цитата]
Следопыт
Сообщений: 35
На: Распознование образов в одномерном пространстве - от простого к сложному
Добавлено: 04 янв 08 21:42
"множество-подмножеств-множеств"

Для обработки информации именно такой структуры требует большого количества последовательных операций. Т.е. решаем одно подмножество, выход данных в другое подмножество, и т.д. распаралелить ну ни как нельзя. Скорость распространения сигнала по нервной системе очень низка в сравнении с современной элекроникой, поэтому он просто не в состоянии пройти за приемлимое время множество-подмножеств-множеств.

Вот мои доводы:
Время прохождения одного нервного импульса около 1 мс. Время реакции водителем на аварийную ситуацию когда водитель начал предпринимать действия по выходу из критической ситуации пройдет не менее 0,5-1сек

получается что естественная НС примерно в 500-1000 слоев, или вложений. Это примерная оценка.
[Ответ][Цитата]
daner
Сообщений: 4593
На: Распознование образов в одномерном пространстве - от простого к сложному
Добавлено: 04 янв 08 22:30
Николай, что-то я не совсем догнал.
Т.е. получается, нейроны обыкновенные, так?
И где тогда колебательность в сетях из простых нейронов?
И вот еще не понял. А с каких пор странные аттракторы получаются от осцилляторов? В них периодичности нет, т.е. никаких колебаний.
Что-то я не понимаю... И вообще, тот факт что скажем сеть колеблется (ну скажем это сеть типа хопфильда, так как колебаний в сети розенблата я вообще не вижу), что это даёт? Это даёт новый алгоритм обучения? или может еще какие свойства? я что-то не понимаю что с чем едят.
[Ответ][Цитата]
гость
85.235.51.*
На: Распознование образов в одномерном пространстве - от простого к сложному
Добавлено: 05 янв 08 4:21
Цитата:
Автор: daner

Николай, что-то я не совсем догнал.
Т.е. получается, нейроны обыкновенные, так?
И где тогда колебательность в сетях из простых нейронов?
И вот еще не понял. А с каких пор странные аттракторы получаются от осцилляторов? В них периодичности нет, т.е. никаких колебаний.
Что-то я не понимаю... И вообще, тот факт что скажем сеть колеблется (ну скажем это сеть типа хопфильда, так как колебаний в сети розенблата я вообще не вижу), что это даёт? Это даёт новый алгоритм обучения? или может еще какие свойства? я что-то не понимаю что с чем едят.
[Ответ][Цитата]
гость
85.235.51.*
На: Распознование образов в одномерном пространстве - от простого к сложному
Добавлено: 05 янв 08 4:27
QUOTE]Автор: daner

Николай, что-то я не совсем догнал.
Т.е. получается, нейроны обыкновенные, так?
И где тогда колебательность в сетях из простых нейронов?
[/QUOTE]

Теория ОНС напрямую неприменима к отдельно взятому нейрону!
Она рассматривает ансамбли нейронов, и только те ансамбли, в которых возможны колебательные режимы. ОНС существуют в основном на уровне мат моделей, описываемых диф. уравнениями или разностными уравнениями (точечными отображениями), в виде машинных программ. По большому счету, здесь вид конкретного нейрона не имеет большого значения, лишь бы уравнение, описывающее ансамбль нейронов имело решение в форме предельного цикла (колебания). Например, модель Ван дер Поля.

Цитата:
Автор: daner
А с каких пор странные аттракторы получаются от осцилляторов? В них периодичности нет, т.е. никаких колебаний.


Да, периодичности нет, а колебания есть - хаотические. Сценарий поведения в системах связанных осцилляторов: стационарное состояние -квазипериодические колебания - каскад бифуркаций удвоения периода - хаос.

Цитата:
Автор: daner

И вообще, тот факт что скажем сеть колеблется (ну скажем это сеть типа хопфильда, так как колебаний в сети розенблата я вообще не вижу), что это даёт? Это даёт новый алгоритм обучения? или может еще какие свойства? я что-то не понимаю что с чем едят.


Проще рассмотреть на распознавании образов. Грубо, есть образ, который необходимо распознавать. Подбором весов группу осцилляторов (ОНС) обучают распознавать этот образ. Когда она обучена, то и в сильных шумах способна распознать образ, которому обучили. Регистрация факта правильного распознавания - установление регулярных (синхронных)колебаний осцилляторов. Хаотическое поведение осцилляторов способно ускорить распознавание. Говорят, что так наши мозги и работают. Это все изучается в нелинейной динамике или иначе синергетике - теории самоорганизации систем. При распознавании используется элементарный акт самоорганизации, существующий в живой и неживой природе (а так же, и в технике), -синхронизация.

Николай.Прошу прщения, какиет о глюки с ответами.
[Ответ][Цитата]
Эгг (остерегайтесь подделок, у меня > 5907 сообщений)
Сообщений: 508
На: Распознование образов в одномерном пространстве - от простого к сложному
Добавлено: 24 янв 15 23:45
195.3.245.*

я щедр на подобные высказывания. было бы неплохо, если бы кто то их в кучу собрал. получился бы бесцеллер страниц на 20 с этого форума.
вообще, это заслуга админа, конечно. Но многое стер, падло.
[Ответ][Цитата]
гость
89.45.226.*
На: Распознование образов в одномерном пространстве - от простого к сложному
Добавлено: 19 фев 17 13:40
Цитата:
Автор: Следопыт


Недавно появился топик о проблеме распознования дискретного изображения квадратика на двумерном поле с помощью НС. При смещении изображения на один пиксел в любую сторону, НС неизбежно начинает понижать степень узнаваемости. Проблема решается разными алгоритмами предварительной корректировки. Однако это не решает 100% данную проблему.
Я предлагаю для упрощения задачи перейти от двухмерного массива данных к одномерному, что позволить "отработать" методы распознования.

Пример:
дан дискретный массив:
00000001010111001100000
распознать три идущих подряд еденицы (111)

Метод скользящего окна не предлагать!


Нужно свернуть со смещением со всеми образами и выбрать максимум
[Ответ][Цитата]
 Стр.2 (2)1  [2]<< < Пред.