новости  материалы  справочник  форум  гостевая  ссылки Поиск с Яндексом  
Новости
Материалы
  Логические подходы
  Нейронные сети
  Генетические алгоритмы
  Разное
  Публикации
  Алгоритмы
  Применение
Справочник
Форум
Гостевая книга
Ссылки
О сайте
 

Искусственные нейронные сети в попытке приблизится к биологической нейронной среде.


Автор: Артем Пинчук,
Дата: Октябрь 2007


Краткое содержание:
  1. Направление работы.
  2. Функциональные части нейронной сети.
  3. Форма представления информации в нейронной сети.
  4. Описание требований анализа.
  5. Элемент воспринимающего интерфейса – датчик.
  6. Анализ.
  7. Логика работы нейрона.
  8. Логика работы системы.
  9. Моментальные понятия.
  10. Понятия протяженные во времени.
  11. Внимание.

Направление работы.

В данной статье делается попытка дать логическое объяснение вычислений в искусственных нейронах и построить нейронную сеть на новых принципах.

Искусственные нейронные сети основаны на биологии, так как они состоят из элементов, функциональные возможности которых копируют большинство функций биологического нейрона. Эти элементы затем организуются по способу, который может соответствовать (или не соответствовать) анатомии мозга. Несмотря на такое поверхностное сходство, искусственные нейронные сети демонстрируют удивительное число свойств присущих мозгу.


Функциональные части нейронной сети.

Разделим нейронную сеть на три составные части. Рассмотрим функциональную нагрузку на каждую составную часть.

  1. Аналитическая часть собственно является чистой нейронной сетью из искусственных нейронов. Принимает входящую информацию от интерфейса восприятия. При необходимости подает информацию на воздействующий интерфейс.
  2. Интерфейс восприятия. Занимается переводом информации от требуемых видов восприятия (сенсоры зрения, осязания, слуха, температурных датчиков, датчиков ускорения, дальномерных датчиков и любых других видов восприятия) в форму информации, используемую нейронами сети.
  3. Интерфейс воздействия. Занимается переводом информации из формы, используемой нейронами, в форму сигналов управления органов воздействия (эффекторов) на окружающую среду.

Форма представления информации в нейронной сети.

Нейроны используют одну форму представления для любой информации. Рассмотрим, какие возможности это дает, и попытаемся найти логически ясное описание такой формы.

Прежде всего, возможность перевода в форму, понятную для нейронной сети, любого вида информации дает универсальность. При анализе в такой универсальной форме можно сравнивать все со всем, не обращая внимания на смысловую нагрузку каждого элемента информации.

Для определения универсальной формы представления информации будем исходить из предположения, что нейронная сеть может запомнить столько элементов информации, сколько нейронов входит в саму сеть. Каждый нейрон отвечает за один элемент. Что бы их не путать в математической модели нейронной сети каждому дадим уникальный идентификатор. Этот идентификатор будет отражать смысловую нагрузку элемента информации. Очень легко вообразить смысловую нагрузку как образ, понятие. В дальнейшем для большей ясности элемент информации представленный одним нейроном будем называть понятием.

Итак, вся информация принадлежит к одному множеству, к множеству «понятий», где они различаются по смыслу. Параметром, отвечающим за смысловую нагрузку, является уникальный идентификатор для каждого понятия. Теперь мы не сможем их перепутать. Но это не дает нам пока возможности их сравнивать относительно друг друга. В принципе уникальный идентификатор как раз и реализует взаимное отношение понятий, упорядоченность взаимного расположения нейронов. Про эту функцию и форму, какую будет принимать параметр уникальный идентификатор понятия, будет оговорено позже.

Для возможности сравнивать любые понятия должен быть еще один общий, но уже простой параметр. Любое понятие в каждый момент времени может быть верным или неверным для нейронной сети в не зависимости от смысла. Собственно по этому свойству мы и будем сравнивать понятия. Введем параметр «активности» понятия с двумя возможными значениями: «активно» и «не активно».


Описание требований анализа.

Легко видеть, что каждый нейрон представляет собой какое либо конкретное понятие. Параметр «уникальный идентификатор» идентифицирует нейрон, который отвечает за данное понятие. Параметр «активности» отвечает за верность понятия в каждый такт системы, а значение «активно» для нейрона является логическим соответствием выдаче сигнала.

В анализе участвуют только активные понятия в каждый данный момент времени. Результатом анализа может быть как получение нового понятия, так и распознавание известного понятия. Полученные новые и распознанные известные понятия становятся активными в данный момент. Все понятия из персонального множества «понятий» образуют опыт сети. У сети должен быть набор первичных понятий, принадлежащих персональному множеству «понятий» заранее и на анализе которых строится весь дальнейший опыт сети. Первичные понятия являются выходами интерфейса восприятия.


Элемент воспринимающего интерфейса – датчик.

Воспринимающий интерфейс формирует первичный набор понятий сети. Нам надо перевести результат измерений в универсальную форму представления информации. Рассмотрим принцип прямого связывания сети с окружающей средой.

Легко видеть, что датчик должен определять активность понятия в каждый момент работы сети. Так как биологический нейрон выдает импульсы, и мы предполагаем, что импульс соответствует активности понятия, мы не сможем кодировать величину измеряемой величины частотой выдачи сигнала. Нейрон не держит активность на протяжении всего времени активности понятия, а выдает импульсы, отсюда делаем предположение о синхронной работе сети. Получается, что сеть проводит одно синхронное вычисление, которое отвечает промежутку реального времени, такту работы сети.

Варианты перевода значения измеряемой величины в универсальную форму представления приведены ниже:

  1. Пусть будет несколько участков в диапазоне, какой то измеряемой величины. Если значение измеряемой величины находится в одном четко определенном участке диапазона, то датчик, отвечающий за этот участок, сигнализирует: «понятие верно и активно» в данный момент. Понятие будет иметь смысл «Событие происходит сейчас - воспринимаемая измерителем величина находится в заданном участке диапазона». На одну измеряемую величину придется делать столько датчиков, сколько мы сами сочтем достаточным. Выходов первичных понятий от одного датчика одной величины получается слишком много. Если смотреть еще и с логической точки зрения, применяя такой датчик, мы фактически научили нашу сеть тому, что существует такой диапазон, и научили различать (анализировать) величину саму по себе. Нежелательно выполнять эту задачу вместо самой сети, хотя такая возможность существует. Составлением относительных шкал сеть может заниматься сама.
  2. Можно, четко охарактеризовать изменение переменной во времени. Смысл понятия будет такой «Переменная величина изменила свое значение за время между тактами». Мы из полученной информации не сможем сделать вывод, на сколько сильное это изменение. Но человеческое измерение в численной форме, не что иное, как относительный анализ переменной. Дадим возможность сети самой выбирать, относительно чего она будет анализировать, сравнивать. Также очень легко будут наблюдаться чувствительность датчика и зоны его слепоты.
  3. Смысл понятия «Переменная величина изменила свое значение за время между тактами» можно конкретизировать еще более четко. Для характеристики измеряемой величины будут использоваться два более четких понятия «Переменная величина изменила свое значение в сторону возрастания за такт» и «Переменная величина изменила свое значение в сторону спадания за такт».

Анализ.

Как должен проходить процесс анализа? Опишем свойства для самого простого процесса анализа, которые нам уже известны:

  • результатом анализа должно быть либо создание нового понятия, либо распознание уже существующего.
  • распознавание существующего понятия является использованием опыта.
  • под анализ попадают понятия, полученные как от интерфейса восприятия, так и полученные новые или распознанные в результате анализа.
  • одно и тоже понятие может принимать участие в анализе с разными комбинациями других понятий.

Легко видеть, что в результате анализа мы так же получаем понятие в универсальной ферме представления. Попытаемся понять возможную логику анализа. Возьмем самый простой случай для попытки построения анализа: будем анализировать два понятия. Анализ проводится каждый такт, можно сказать, что мы их анализируем одновременно. Если два понятия «активны и верны» одновременно, то мы можем сказать, что два одновременных события это два проявления одного события.

Операция анализа для двух активных понятий будет иметь вид, приведенный в таблице.

A B A * B
+ + +
+ - -
- + -
- - -

Логика работы нейрона.

Выше был описан принцип логики анализа, используемой в работе искусственного нейрона. Здесь же попытаемся описать функционирование и свойства искусственного нейрона в целом, повторяя известные свойства биологического нейрона.

Механизм работы нейрона является распознаванием своего понятия. Каждый нейрон представляет в нашей системе одно понятие. Все входящие связи нейрона являются уникальным идентификатором для понятия. В начальном состоянии понятие нейрона пустое по своему смыслу. Входящие связи нейрона являются набором всех возможных логических зависимостей понятия нейрона с остальными понятиями, но не все эти логические зависимости будут отвечать действительности. Поэтому в начальном состоянии у каждого нейрона все связи не участвуют в анализе, они неэффективны. В результате обучения нейрон определит, какие входящие связи станут участвовать в анализе. Связи, ставшие эффективными, будут указывать логическое «положение» понятия нейрона относительно других понятий. Набор нейронов с эффективными связями будет шаблоном образующих понятий для понятия нашего нейрона.

Основная задача нейрона состоит в том, что бы определить и дать знать всем нейронам, с которыми он связан выходами, что понятие, за которое он отвечает «активно». «Активность» своего понятия нейрон определяет по сигналу от набора образующих нейронов. Если весь набор образующих понятий сигнализирует о «активности» своих понятий, то понятие нашего нейрона становится тоже «активным».

В начальном состоянии нейрон представляет собой пустое по смыслу понятие до тех пор, пока понятие не получит набор образующих понятий. Фактически, создание нового понятия является формированием опыта сети в общем, и обучением данного пустого нейрона в отдельности.

Обучение нейрона можно реализовать двумя методами. Первый заключается в наследовании свойств «натурального нейрона». Нейрон начинает самопроизвольную выдачу сигнала, до тех пор, пока выдача сигнала не совпадает с приемом сигнала от каких либо неэффективных входных связей. Далее эти входящие связи становятся образующими и эффективными. Самопроизвольная выдача сигнала прекращается, и сигнал выдается только при сигнале от уже эффективных входных образующих связей. Второй метод заключается в том, что после стабилизации нейрон ждет, когда одновременно не будут активны две или более неэффективные связи. Эти связи становятся образующими, и нейрон выдает сигнал только уже при одновременной активности всех эффективных связей.

Процесс последующего добавления эффективных связей не происходит, так как изменение шаблона образующих понятий приведет к изменению смысла понятия нейрона.

Главная функция нейрона заключается в том, что распознавание понятия происходит только при «активности» всех образующих понятий одновременно, то есть при одновременном сигнале от всех эффективных входных связей.

Метод самопроизвольной выдачи сигнала стабилизировавшимся нейроном применять предпочтительней, так как он основан на наблюдениях за работой натуральных нейронов. Методика самообучения нашего искусственного нейрона подобна принципам обучения натурального нейрона, но сильно упрощена.

В принципе нейрон занимается логическим умножением булевой алгебры, а также является пороговым элементом для набора входов от образующих нейронов.


Логика работы системы.

Сеть состоит из множества нейронов, датчиков и эффекторов. Схема соединения всех элементов должна обладать определенной структурой с непротиворечивой логикой работы. В данном разделе будет сделана попытка описать логику работы сети в целом. Попытка понять возможности, которые дают различные схемы соединения нейронов.

Учитывая, что наша сеть синхронная легко видеть, что она должна самообучаться распознавать всего два вида понятий. Это понятия, происходящие за время меньшее и большее чем время такта сети. Первый вид понятий будем называть моментальным, второй вид – протяженным во времени.

Следующее свойство сети состоит в том, что все протяженные во времени понятия состоят из моментальных понятий. Легко видеть, что механизм образования протяженных во времени понятий не является свойством, вытекающим из свойств описанных выше искусственных нейронов. Однако, необходимость в анализе протяженных во времени понятий существует, и нам придется найти и реализовать такой механизм. Он будет описан далее.


Моментальные понятия.

Остановимся на самом смысле понятия. Самым наглядным его примером является первичное понятие на выходе датчика.

Понятие от датчика можно вообразить как постоянный по смыслу в данный момент времени и определенный своей уникальностью элемент неизвестности. Уникальность, то есть выделение понятия из неизвестности, переносится от уникальности выхода датчика в нейронную сеть. Для внешнего наблюдателя смысл понятия определяется датчиком. Понятие является неизвестным по смыслу для нейронной сети, так как смысл в сети можно определить только относительно других понятий, а в нашем случае речь идет только об одном понятии. Постоянство по смыслу является каким либо видом смысловой стабильности элемента неизвестности на время одного такта и является параметром «активности» для понятия в данный момент времени. Эта постоянность будет нашей точкой смыслового отсчета для дальнейших логических построений. Видно, что единственный возможный доступный смысл для нашей сети, это смысл взаимной относительной стабильности понятий и именно на этом строится анализ. Этот смысл является опытом и он заключается в отношениях между понятиями, то есть в образующих связях между нейронами. Возможность дальнейших логических построений основана на принадлежности всех понятий от датчиков к одному персональному множеству «понятий» и их взаимном отношении.

С определением понятия более менее разобрались. Теперь перечислим его свойства. Легко видеть, что любое количество любых понятий может сформировать новое понятие. Набор образующих понятий после формирования не меняется, иначе изменится его смысл и смысл всех порожденных им понятий. Существуют первичные понятия, не сформированные другими понятиями. Количество понятий может неограниченно расти. Понятия тем ближе по своему смыслу, чем больше у них одинаковых образующих понятий. Близость по смыслу первичных по смыслу понятий переносится разработчиком из смысловой близости датчиков и эффекторов для внешнего наблюдателя.

Займемся структурой соединения нейронов. Если принять что вычисление в нейроне происходит моментально, одноразово за такт и используются только вычисления, полученные в данный такт работы сети, то легко видеть, что вычисления начинаются с первичных нейронов и распространяются далее по структуре. Но отсюда вытекает ограничение на структуру сети. Структура не должна обладать закольцованными соединениями. Разобьем структуру на уровни, где последовательность вычислений нейронов не влияет на результат вычислений всего уровня и может производится параллельно. Уровень нейрона определяется как наибольшее количество нейронов лежащих на пути сигнала от первичного уровня к нашему нейрону плюс единица. Первичный уровень состоит только из первичных понятий. Вычисления производятся последовательным вычислением всех уровней по возрастанию. Вычисления на уровнях можно проводить в любой последовательности, то есть параллельно.

Так в нашей структуре будет использоваться последовательное распространение вычислений по возрастанию уровней, но с параллельным вычислениями на каждом уровне. Понятия с образующими понятиями из разных уровней в принципе нежелательны, но не противоречат логике распространения вычислений.

Займемся ограничением количества возможных связей для нейрона. Соответствие количества связей количеству первичных понятий дает простое дублирование понятий второго уровня для самообучающейся сети. Значит, число связей должно быть меньше числа первичных понятий. На сколько? Исследования показывают, что естественные нейроны второго уровня зрительной системы человека являются детекторами самых простых возможных понятий «точки» и «малой линии». Для этого не надо задействовать весь первичный уровень. Нужна группа очень близко расположенных датчиков, а следственно и понятий первичного уровня. Надо разобраться с отношениями первичных понятий.

Утверждалось, что понятия тем ближе по смыслу, чем больше у них одинаковых образующих понятий. Как решить отношения между первичными понятиями? Это определяется по ряду свойств датчика. Главное что бы датчики были для одного и того же вида измерений. Датчики разных видов абсолютно разные по смыслу. Осталось определить взаимоотношения понятий датчиков одного вида. Легко видеть, что взаимное расположение датчиков как раз и играет роль смыслового взаимоотношения первичных понятий.

Можно сделать вывод, что при физической реализации расположение нейронов образующих понятий играет большую роль. Тогда можно устанавливать связи по принципу минимальной сумы их длин для каждого нейрона. Зона входящих связей с нижележащего уровня примет форму круга, а для понятия в центре круга смысловое подобие к соседним понятиям уменьшается в зависимости от расстояния. То есть геометрическое расположение в такой структуре равносильно смысловому подобию. Чем ближе два нейрона в такой структуре уровня, тем более схожи по смыслу их понятия.

Теперь можно найти наиболее удобную структуру расположения нейронов на уровне. Эта структура должна давать наибольшее количество нейронов расположенных на одном расстоянии от центрального и давать возможность такого же расположения для любого нейрона структуры.

 

Легко видеть, что для повторяющейся плоской структуры максимальное количество ближайших точек на одинаковом расстоянии дает правильный шестиугольник. Предпочтение, какую структуру зоны связи использовать, остается за разработчиком.

Разберемся с первичным уровнем. Взаимное относительное расположение выходов первичных понятий должно соответствовать взаимному относительному расположению их датчиков. Выходы понятий первичного уровня формируют плоскость, к которой присоединяются связями нейроны понятий второго уровня. Так как понятия разных видов датчиков имеют минимальное смысловую похожесть, то первичных уровней должно быть столько, сколько их видов датчиков. Образованные понятия от разных видов первичных уровней в последствии могут пересекаться.

Итак, мы приходим к выводу, что зона связей для нейронов второго уровня нейронной сети должна ограничиваться либо пятью, либо, семью связями в зависимости от выбранной структуры. При чем зоны связей должны очень сильно пересекаться. Желательно что бы для каждого центрального нейрона первичного уровня находилось более одного нейрона следующего уровня.


Протяженные во времени понятия.

По нашим требованиям сеть должна создавать понятия протяженные во времени. Очень просто такие понятия можно представить как события или же последовательность событий. Легко видеть, что такое требование подразумевает создание понятий состоящих из понятий активных в разные моменты времени (разные такты). Это означает, что некоторые понятия должны быть «активны» при не активности образующего их шаблона понятий. Так как образующие понятия активны в разные такты, точное распознавание происходит только в конечном участке времени протяженного понятия, когда активируется последнее по времени понятие образующего шаблона при оставшихся активными остальных образующих понятиях.

Для создания понятия протяженного во времени нам требуется активность понятия уже после его распознавания. Будем называть такой эффект «пост-активностью». Если использовать активность понятия до его распознавания, то так же открывается множество замечательных возможностей. Этот эффект будем называть «пред-активность». В любом случае надо наложить четкие смысловые ограничения на использование обоих эффектов. Создать четкий механизм работы этих эффектов.

Сигнал активности понятия, когда шаблон образующих понятий не активен, будем называть сигналом «аналогии активности».

При наличии эффектов «пост-активности» и «пред-активности» работа нейрона получает ряд ограничений, которые не дают нарушить логику работы нейронной сети. Естественный нейрон после стабилизации своего положения и установки зоны связей начинает самопроизвольно выдавать сигнал. Мы повторим его деятельность. Нейрон не дает создать эффективные связи на своем выходе, пока полностью не перейдет на управление от образующего шаблона. Это логически соответствует определению нового понятия, а потом уже это понятие сможет влиять на остальные понятия и порождать новые.

Введем также новое свойство нейрона. Вводим задержку времени на проведение вычислений в нейроне между приходом сигнала на входы и выдачей сигнала «активности» нашего понятия. При чем данная задержка равна такту системы. Нейрон устанавливает эффективные связи с шаблоном образующих понятий в момент одновременной активности, после перехода на управление шаблоном, нейрон подает сигнал на выход на такт позже приема активности образующего шаблона. Собственно все связи, активность которых совпадает с выдачей сигнала нейроном, в дальнейшем становятся эффективными. Влияние эффективных не образующих понятий на выдачу сигнала нейроном будет описана ниже.

При задержке распознавания понятия нейроном равной такту сети, работа всей сети получает новые возможности и свойства. Собственно отсюда выводим уровневое разделение нейронной сети. Каждый уровень сети вычисляет определенный «такт времени». Первичный уровень вычисляет такт настоящего времени, второй уровень в это же время проводит вычисления для предыдущего времени, и так далее. Вычисление каждого «такта времени» распространяется последовательно уровнями по возрастанию их номера. Вычисления «такта времени» поднимаются за каждый общий «такт вычислений» сети на один уровень. Все вычисления, проходящие на всех уровнях в настоящий момент, берут результаты вычислений предыдущего общего «такта вычислений». Это снимает ограничения на соединения нейронов разных уровней. Можно соединять все нейроны с любым нейроном любого уровня. Уровень нейрона определяется как наибольшее количество нейронов лежащих на пути сигнала от первичного уровня к нашему нейрону плюс единица. Путь прокладывается только через образующие понятия. Объясняется началом распознавания протяженного во времени понятия.

Нейроны имеют еще множество потенциальных неэффективных не образующих связей. Так как шаблон образующих понятий неизменный, попытаемся, как либо использовать остальные потенциальные связи.

Итак, нейрон распознал «активность» своего понятия по шаблону образующих понятий. В следствии эффекта «пост-активности» нейрон будет продолжать выдавать сигнал после распознавания постоянно. Когда сигнал выдается в следствии распознавании, то мы будем иметь в виду выдачу «истинная активность». Когда сигнал выдается в результате эффекта «пост-активонсти», то мы будем иметь в виду выдачу «аналогия активности». Физической разницы между данными сигналами не существует, и нейроны не различают на своих входах эти сигналы.

Легко видеть, что должен существовать механизм прекращения выдачи сигнала «аналогия активности». Есть три предложения. Механизм уставания нейрона. То есть ограничение на количество сигналов после окончания распознавания. Механизм связей гасящих пост-активность. А так же просто механизм специального режима сети, гасящего все пост-активности, обоснованием данного механизма является аналогия с известными функциями сна.

Механизм уставания нейрона. Собственно по своей реализации наиболее простой механизм. Нейрон обладает запасом энергии и тратит часть ее на выдачу сигнала. После израсходования всей энергии пост-активность прекращается. Нейрону постоянно поставляется энергия для функционирования и поэтому со временем он полностью восстанавливает свой запас энергии (но уже не тратит ее, она может понадобится, если что либо возбудит нейрон). Возможен механизм управления количеством подаваемой энергии на нейрон. Собственно это может отражать механизм внимания, кровоснабжение зоны внимания наибольшее. В зону внимания подача энергии достаточна для постоянной пост-активности, когда зона внимания перемещается, подача энергии в зону, откуда ушло внимание, понижается, и запас энергии нейрона может иссякнуть, прекращая пост-активность нейрона. Но после перехода внимания в эту зону пост-активность может быть вызвана в нейроне снова, то есть когда поставляемой энергии снова становится достаточно, пост-активность возможна постоянно.

Механизм отрицательных связей гасящих пост-активность нейрона. При наблюдении биологических нейронных сетей утверждалось, что при совпадении активности нейрона и входящего сигнала, проводящая данный сигнал связь становится эффективной. По нашей логике после установления постоянного шаблона образующих понятий новые образующие не добавляются. Следственно новая эффективная связь ни коим образом не должна влиять на распознавание понятия, но можно предположить, что может влиять на эффекты «пост-активность» и «пред-активность». Итак, если после установления эффективной связи активность связи не совпадает по такту с приходом образующего шаблона после молчания нейрона, данная связь становится отрицательной и гасит «пост-активность» понятия нейрона. Случай, когда приходит одновременно с образующим шаблоном будет рассмотрен ниже. Логика такого механизма установления гасящей связи заключается в том, что понятия, обязательно распознанные на один такт после нашего понятия, являются элементами четкой повторяющейся последовательности. И это собственно является механизмом запоминания данной последовательности понятий. Понятие, следующее по времени за выбранным, может образовываться выбранным и гасит его пост-активность. Два одновременных понятия будут взаимно гасить пост-активность друг друга.

Рис. Работа одноуровневых одновременно активируемых нейронов

На рисунке представлена последовательность работы механизма установления и работы обратной связи для двух одновременных и одноуровневых понятий. Горизонтальная линия разделяет общие такты системы. Не закрашенный круг - неактивное понятие, черный круг – «истинная верность», перечеркнутый круг – «аналогия активности». Входы на нейроны поступают от предыдущего такта вычислений. Нейроны уже имеют образующие шаблоны, а их зоны выходящих и входящих связей пересекаются так, что они включают друг друга в свои зоны выходящих связей и больше ни кого. После подачи образующих понятий для каждого нейрона на следующем такте они выдают сигнал «активности». В результате эффекта «пост-активности» они посылают каждый такт сигналы друг другу. Так как активность понятий совпадает с приходом сигнала, взаимные связи становятся эффективными. Со временем нейроны устают, и выдача сигналов прекращается. В следующий раз эти понятия вновь распознаются и одновременно выдают друг другу сигнал. В результате условия, что если эффективная, но не образующая связь дает сигнал не в один такт с образующими, а после, то такая связь становится гасящей пост-активность. Нейроны в результате распознавания выдают друг другу сигнал активности, а так как связь стала в обоих случаях гасящей, то нейроны больше не дают сигнал пост-активности.

Теперь рассмотрим смысл такого механизма. Сеть впервые распознает два понятия, они одновременные. Эффект «пост-активности» говорит, что это абсолютно новые понятия, и их надо принять в рассмотрение, как они относятся друг к другу. Поэтому становятся эффективными связи между одновременно активными понятиями. При следующем одновременном распознавании (два раза одновременно это уже не случайность, а закономерность) эффективные связи отношений становятся гасящими пост-активность. Смысл этого в том, что такая ситуация уже встречалась, а следовательно она не является новой. Для каждого выбранного понятия все окружающие его активные понятия являются фоном, если фон абсолютно новый, то он не гасит пост-активность выбранного понятия. Если же фон обычен для данного понятия, то с прекращением распознавания мы сразу забываем про выбранное понятие. Собственно эффект пост-активности с механизмом гасящих связей можно назвать аналогом «детектора нового» у естественного интеллекта (человека). Гасящая связь не может погасить «истинную верность» при распознавании шаблона образующих понятий.

На рисунке приведена работа уже трех нейронов. Третий нейрон выше на уровень чем два одновременных и одноуровневых нейрона, являющихся образующими нейронами для третьего. Так уже после обучения третий нейрон при своей активности будет гасить пост-активность любого образующего понятия в новом фоне. Легко видеть, что в детекторе нового, отдается предпочтение общим (старшим) понятиям. Разница уровней в сочетании с разницей вычисляемых тактов дает возможность запоминать четкие повторяющиеся последовательности понятий и объединять их в одно понятие.

Рис. Группа нейронов из двух уровней

Механизм сна. Сон просто гасит все пост-активности. Надо только перевести всю сеть в режим сна и вывести обратно.

Остается вопрос, что делать, когда активность не образующего эффективного входа постоянно совпадает с активностью образующих понятий. Как говорилось, шаблон образующих должен быть неизменным. Можно заставить в случае, когда приходит такое понятие без образующего шаблона выдавать соответственно «аналогия активности» нейроном. Здесь мы упираемся в эффект включения «пред-активности». В новом свете эффект лучше назвать активацией по аналогии.

Рассмотрим вопрос включения активности понятия не образующим понятием. Мы должны создать механизм, который бы запоминал, какой фон не предполагает распознавание в будущем выбранного понятия, а какой предполагает. Так же здесь скрыт механизм возбуждения (воспоминания) понятия по аналогии, но без распознавания, то есть без непосредственного наблюдения.

Как говорилось, нейрон не видит разницы между логически разными сигналами «истинная активность» и «аналогия активности». Эффект «активации по аналогии» допускает по своей сути возникновение неверных и неадекватных реальности выводов, возникших в сети при анализе понятий и их последовательностей активируемых по аналогии. Следственно каждая активность связи по аналогии должна вызывать соответственно одноразовую активность нейрона. Механизм установления активирующей (позитивной) связи заключается в том, что если активность новой эффективной связи совпадает с активностью образующего шаблона, то эта связь с этого момента будет вызывать сигнал нейрона каждый раз, когда приходит. Связь станет «активирующей по аналогии».

Видно, что все не образующие связи, которые смогут стать эффективными, со временем станут либо гасящими пост-активность, либо возбуждающими активность по аналогии. Выдача или не выдача сигнала «аналогия активности» определяется преобладанием либо «активирующих по аналогии» или гасящих активных связей. Собственно наблюдаемое свойство у естественного нейрона - свойство порогового элемента.

Легко видеть, что из-за постоянства образующего шаблона активность не полного шаблона образующих понятий не вызывает сигнал «аналогия активности». Гасить пост-активность и заставлять выдавать нейрон одноразовый сигнал могут только связи не входящие в шаблон образующих. Будем называть эти связи – связями аналогий. И они могут меняться со временем в отличие от образующих. Это решает проблему стабильности-пластичности сети.

Легко видеть, что «активирующие по аналогии» связи являются механизмом опережающего возбуждения, существующего в естественном интеллекте. Если зона связей после формирования образующего шаблона со временем разрастается и распространяется на все большее количество нейронов, то возникает все больше связей «аналогий». Что повышает сообразительность сети и не противоречит логике.

Можно теперь поговорить и о самом установлении шаблона образующих понятий. Шаблон должен образовываться из постоянно активных на протяжении долгого участка времени активных нейронов, а такие сигналы возникают только в результате непосредственного восприятия-распознавания постоянного окружения, активности детектора нового и постоянного внимания.


Внимание.

Возможно, для анализа понятий без их непосредственного наблюдения и распознавания необходим эффект «пост-активности» без распознавания. Сделаю предположение, что такое возможно только в отдельной части сети, в которой находится внимание, то есть в которой повышена подача энергии на нейроны. Эффект пост-активности понятия работает в зоне внимания даже после активации нейрона связью аналогии, а не только шаблоном образующих связей.