GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.8 (8)<< < Пред.   Поиск:  
 Автор Тема: На: Решение проблемы ИИ - Общая теория интеллекта (ОТИ)
Вятка PR
Сообщений: 57
На: Решение проблемы ИИ - Общая теория интеллекта (ОТИ)
Добавлено: 24 мар 19 10:09
…Написал письмо члену-корр. Росс. академии образования Т. Черниговской. Поскольку вероятность его прочтения моим адресатом крайне мала, публикую его здесь, дабы хоть кто-то мог его прочесть.

***
...Уважаемая Татьяна Владимировна! Я знаю Вас по ярким выступлениям в телепередачах, меня же не знает НИКТО. Мою "Общую теорию интеллекта" прочитали, вероятно, несколько десятков человек в Интернете, и именно она, а не моя скромная персона, заслуживает внимания.

...ОТИ, будучи общей теорией для ИИ и био-мозга, многое может объяснить и в строении, и в функционировании мозга (в осн. кортекса и мозжечка) вплоть до функций отдельных нейронов, она проста в своих основах (символьно-иерархический подход). С другой стороны, ОТИ, нацеленная в большей мере на создание сильного "ИИ", нуждается в одобрении специалистов по био-мозгу, к коим я Вас причисляю.

...
(далее "резюме", так сказать, и далее):


...Коротко об "Общей (для ИИ и био-мозга) теории интеллекта": ОТИ рассматривает "универсальный (в том числе естественный) интеллект" как физическую систему реагирования с "процессингами" (базовыми алгоритмами или их нейросетевыми аналогами), которые обеспечивают такую оптимизацию её (многофакторной) "целевой функции" в достаточно разнообразных ситуациях (конфигурациях носителя интеллекта и окружения), которая основана на нахождении (описании), обобщении и использовании иерархических систем инвариантов - сенсорных ("объектов" и т.п.) и "моторных и алгоритмических" ("действий") (пока "алгоритмические" (в т. числе "аналитические") действия введены по аналогии с моторными, простейшее аналитическое действие можно представить как мысленное моторное). Т.о., уровень интеллекта во многом зависит от разнообразия (и "интеллектуальности") конфигураций носителя интеллекта и его окружения (при этом, согласно одной "гипотезе", для любого интеллекта можно подобрать такое "окружение", в котором его "процессинги" будут неэффективны). "Процессинги" определяются "априорно" (генетически в био-мозге) и проходят "эволюционный отбор" на эффективность, при этом они могут содержать в себе элементы адаптации и изменений ("саморазвития"), обычные для био-систем и особенно важные на этапах формирования носителя интеллекта (био-мозга и др.).

...В первом приближении основная (двигательная) иерархия действий подчиняется целевой функции. Дополнительные иерархии действий (общего и сенсорного анализа и др.), а также иерархия объектов, подчиняются "основной" иерархии действий. "Подчинение" основано на опыте в достижении каких-л. целей, опыт приобретается методом проб и ошибок, а также заимствуется при обучении с учителем и т.д.. Опыт делится на кластерный, обобщающий каждую сущность через множество "опорных векторов" (в новом понимании) её признаков, и "некластерный" (единичный либо выражающий различные проявления сущностей и их комбинаций..). Опыт приобретается через "сильную пластичность" (новые "опорные векторы" и некластерные описания) и "слабую пластичность" (оптимизация по "принципу полезности").

...Символьные и "микро-векторные" представления интеллекта (и мозга) отражают организацию реального мира, - символы отражают существование сущностей в реальном мире (сущности характеризуются некоторыми свойствами, важными для субъекта - носителя интеллекта; допускаются и рациональные псевдо-символы), а микро-векторы описывают элементарные свойства и отношения в реальном мире. ОТИ полагает, что общие способы описания любых объектов и "действий" (мира сего) одинаковы на любом смысловом уровне - для "иерархии объектов" это микро-векторы свойств объектов и отношений объектов. И т.д..
*** (конец письма)

P.S. "Формулу интеллекта" каждый может понять, как говорится, "в меру своей тупости". За каждым символом или словом формул (даже у Эйнштейна) стоят определённые сущности (постигнутые и до Эйнштейна, и до "Вятки"), которые не всеми понимаются одинаково..

***
…Обычно когда говорят о "жизни во Вселенной", считают вероятности её возникновения и т.д., имеют в виду какую-нибудь плесень - странный подход?, - ведь настоящая "жизнь" подразумевает, вроде бы, достаточно высокий уровень интеллекта? - способность не только к элементарным "рефлексам", но к отражению в своём сознании (интеллекте) достаточно сложных сущностей окружающего мира? (кстати, тот факт, что Человеку, точнее, отдельным его индивидам, оказались по зубам весьма "скрытые" сущности мира сего, косвенно указывает на общую символьную природу всего окружающего нас мира; впрочем, всегда можно подозревать наличие также "скрытых", недоступных нам и УИИ (СИИ) сущностей). Почему именно Человек? - ведь по просторам Земли бегали и плавали в течение десятков и сотен миллионов лет существа бОльших размеров и даже с бОльшим мозгом? Ответ в том, что различных "конфигураций", в которых действовал человеческий мозг уже на ранних стадиях его эволюции, было намного больше, чем у любых других животных:
а) Стайность. б) Наличие сложных конечностей. в) Наличие сложной среды (Африка!). г) Активный образ жизни.
…Понятно почему интеллект не может превзойти определённый уровень у дельфинов, спрутов, птиц, слонов и т.д.

…У человека интеллект в среднем тоже "не блещет", можно привести прорву примеров ужасающей тупости Человечества (один пример: миллионы английских моряков умерли от цинги, прежде чем ихнее Адмиралтейство догадалось в чём дело). В течение миллиона лет среднее число людей колебалось вокруг примерно 100 тысяч. - если собрать в кучу их мозги, будет примерно вагон "серого вещества", - ничтожно мало даже для нашей благодатной и огромной, вроде бы, Земли? Но если учесть, что, в сущности, "ради нас" (ибо без сознания нет материи) миллиарды лет светило Солнце, взрывались сверхновые и даже вся Вселенная (она настолько велика, что если сжать лишь её видимую часть до размеров Земли, то наше Солнце станет размером с атом гелия), то.. то не верится, что "венцы" нашей Цивилизации - шоу Петросяна или даже летучий "Авангард".

***
…Ещё "по существу", - "СХ-конструкции", о которых много уже говорилось, могут иметь место только в "перезаписываемой" рабочей памяти (такая, несомненно, есть в первичных сенсорных зонах кортекса) и не могут - в "связной" К- и Д-памяти кортекса. Здесь есть о чём подумать.. нейрофизиологам, я уже устал думать за них..
[Ответ][Цитата]
mss
Сообщений: 1528
На: Решение проблемы ИИ - Общая теория интеллекта (ОТИ)
Добавлено: 24 мар 19 11:08
Не думаю что она ответит. Тяжеловато написано.

Не скажу что я всё понял. Не скажу что с тем что понял абс согласен. Но по кр мере с основным тэзисом вынесенным в заголовок я солидарен полностью - символьно иерархической природой интеллекта.

Хотя бы и определения сути символов и микровекторов как то механистичны.

За не имением лучшего - принимаю что есть.
[Ответ][Цитата]
Вятка PR
Сообщений: 57
На: Решение проблемы ИИ - Общая теория интеллекта (ОТИ)
Добавлено: 26 мар 19 6:36
Изменено: 30 мар 19 10:49
для mss
...Жаль, что те, кто не понял, ни о чём не спрашивают (видимо, им это не нужно для работы ?). Жаль, что не подсказывают, как что-то можно сделать лучше или исправить, - видимо, с ОТИ никто ничего не связывает. Обычно практики получают финансирование и практики же презирают теоретиков, но если даже самолёты и ракеты можно строить без всяких там теорий (с помощью моделирования), то СИИ - нельзя, у вас просто "шарики за ролики" закатятся (как это случилось при попытке понять некоторые экспериментальные результаты исследований мозга). Колумб был не только мореплавателем, но и учёным - он наблюдал за системой ветров, умел предсказывать ураганы, и т.д..

..."Механистичность" определений - всего лишь следствие формализма всякой теории. Формализм может вводить в заблуждения, поэтому неплохо проиллюстрировать примерами? Попробую "сходу", что получится.
***

...Прежде всего исправлю - не пседо-символы, а псевдо-сущности, т.е. кластеры, не обладающие "сущностными" свойствами, тоже должны быть представлены символами (в том числе врЕменными, или там.. "хешами" и т.п.).

...Суть сущностей (?), а, значит, и их символьного представления, заключается в их "инвариантности", для псевдо-сущностей инвариантность только предполагается (инвариантом может быть не только сущность). Свойства сущностей делятся на сущностные и признаковые, все они могут быть "качественными" (зелёный и т.п.) и количественными (столько-то "зелёного"). Символьное представление возможно также для "количеств", возможно также смешанное символьное представление (например, моноаксонное в мозге) качественно-количественных категорий. Я обычно под "символами" имею в виду символы сущностей и качественных свойств (которые тоже суть сущности), а "числа" (для количеств) выделяю в иную категорию (подход очень спорный).

...В то же время инвариантами могут быть не только сущности, но и описания (представления, Х-конструкции), которые в этом случае могут образовывать сущности более высокого порядка (а могут и не образовывать, как координатные описания произвольного окружения). Примеры инвариантов объектов: пёс Барбос останется таковым, под каким бы "углом" его не рассматривать; собака останется собакой, будь она мопсом или бульдогом, и т.д. Примеры инвариантов действий: вы сумеете встать со стула, как бы вы на нём не сидели, вы сможете перейти улицу, где бы вы ни находились, и т.д. Пример "координатных" инвариантов: пол всегда остаётся внизу, даже если вы "ходите на голове". Смысл текста и т.п. при переводе должен быть инвариантом. Всем известен и инвариант восприятия цветов вне зависимости от освещения (т.е. цвет воспринимается обычно "в контексте", инвариант может нарушаться при "неестественном" освещении).
...(Примеч.: В конечном итоге все инварианты связаны ради главного "инварианта" - нашего стремления к счастью. Иногда мне кажется, что наплевательское отношение к новаторам в России - тоже инвариант, который никогда не изменится )

...Символы могут представлять также "условные сущности" и количественные свойства в "шаблонах". Сущности высокого уровня абстракций представляют собой также "условные сущности", если используются для анализа сущности "низшего уровня"...

..."Микро-векторные представления" с участием абстракцией (условно - символов и чисел) не исчерпывают все "представления" мозга - так, в зрении есть, безусловно, и "растровые" (в первичной обработке), и "символьно-растровые" (уровнем повыше) представления, а сами "микро-векторные представления" группируются в Х-конструкции (см. выше).. Но для "высоких уровней абстракций" (подавляющая часть кортекса) основу составляют "микро-векторные представления". Как известно, "глубокое обучение" вообще игнорирует "представления", потому и находится в глубокой Чёрной Дыре (в прямом смысле - обрабатывающее устройство представляет собой Чёрный Ящик, непонятный самим разработчикам), откуда уже никогда не сможет выбраться..
[Ответ][Цитата]
Вятка PR
Сообщений: 57
На: Решение проблемы ИИ - Общая теория интеллекта (ОТИ)
Добавлено: 30 мар 19 10:50
Изменено: 01 апр 19 5:29
…Поговорим ещё о "системе интерпретаций". К слову, у меня она не очень "мощная" - я часто смотрю худ. фильмы, но с трудом "врубаюсь" - простые и понятные фильмы публика почему-то не любит. Это как у Пушкина:
Под голубыми небесами…. (Чего там ниже небес ?)
Великолепными коврами.. (Ну ЧЕГО там, похожее на ковры-то ?)
Блестя на солнце… (Хм.. может.. чего-чего ??)
СНЕГ лежит (Ну, наконец-то!, - я так и знал !!).

…Я уже писал о том, что смысл должен передаваться через Х-конструкции, собираемые из микро-векторов "свойств" и "отношений", попробую разложить эту фразу Пушкина в такую "конструкцию" (в микро-векторе здесь 2-3 элемента, один из вариантов):
1. НЕЧТО "а" - (расположено под) - НЕЧТО "б"
2. НЕЧТО "б" = небеса - голубые
3. НЕЧТО "а" - похоже на - НЕЧТО "в"
4. НЕЧТО "в" = ковры - великолепные
5. НЕЧТО "а" - блестит
6. Солнце - причина - блестит
7. Снег = НЕЧТО "а"
8. Снег - лежит.

…Далее наш интеллект избавляется от лишних НЕЧТО и, как правило, упрощает смыслы, тогда получается такая лингво-конструкция:
1. Снег - расположен под - небом (Примеч.: Сцена вне помещений, свежий воздух - хорошее настроение)
2. Небо - голубое (Примеч.: Вероятно, нет облаков, хорошее настроение)
3. Снег - похож на - половики (Примеч.: Снег покрывает землю, см. ткж. "снег лежит")
4. Половики - красивые (Примеч.: Следовательно, снег красив - хорошее настроение)
5. Снег - блестит (Примеч.: Т.е. ярко отражает солнечный свет, см. далее, усиливает хорошее настроение)
6. Солнце - причина - блестит (Примеч.: Солнечный день, хорошее настроение)
7. Снег - лежит (Примеч.: Отсутствует движущийся снег (пурга и т.п.) - хорошее настроение).
ДОПОЛНЕНИЯ: Оценка "метрики" стиха и наличие гипербол и т.п. ("голубой" вместо обычного "синий", "небеса" вместо "небо", "великолепный" вместо "красивый", "ковёр" вместо "половик") говорит о благостном и даже экзальтированном настроении автора. Отмечены рифмы "небесами--коврами" и запомнено окончание в "блестит" в качестве первого элемента рифмы..
ПРИМЕЧАНИЯ (анализ): Примечания в "конструкции" (см.) привносятся "смысловым анализом", который может иметь как "общий" характер, так и "специальный", вызванный задачами текущих "действий" (например, в данном случае определялись факторы, влияющие на настроение автора).

…Такие "лингво-Х-конструкции" уже напрямую могут переводиться на внутренний язык мозга, т.е. в Х-конструкции "объектов" и "действий" (к слову сказать, обратный перевод намного труднее хотя бы из-за его многовариантности). Х-конструкции "объектов" являются чисто "описательными" (т.к. берут начало с "сенсорики"), а Х-конструкции "действий" сочетают описательные и "моторные" (ткж. аналитические) элементы - они описывают обстановку начала и конца действий (через "процессинг объектов"), а также "характер действий".
…Возьмём для примера разведение костра. "Процессинг объектов" опишет простую последовательность объектов и сцен - собирание и складывание хвороста, поджигание, и т.п., он может собрать некоторую "статистику" походов за хворостом, кластеризовать описания подходящего хвороста, и т.д. Т.е. "процессинг объектов" интерпретирует явления как "неуправляемые", и для того, чтобы воспроизводить эти "явления" (при возможности), необходима их дополнительная "интерпретация" (осмысление).
…"Процессинг действий", напротив, интерпретирует явления как следствие целенаправленных усилий - движений, действий. Он разбивает деятельность объекта наблюдения на сходные "циклы" - "действия" (походы за хворостом, складывание хвороста, и т.д.), как правило на достаточно высоком уровне "иерархии действий", если сам субъект (мозг) уже имеет достаточный опыт в таких действиях и кластеризует эти действия по указанным "обстановкам". В этом случае опыт наблюдения за любым субъектом, осуществляющим (сложные) "действия", может использоваться субъектом наблюдения без дополнительных интерпретаций. Стремление интерпретировать движения иных живых существ "процессингом действий" является врождённым "инстинктом" (и т.п.), оно проявляется у всех животных с очень раннего возраста..

…Ну и наконец - с чего начали. Интерпретация "сложных явлений" (таких как ХФ-мы ?) имеет несколько иной смысл - это попытки построения непротиворечивых Х-конструкций по разрозненным фактам, - нечто вроде собирания пазлов (к тому же нарочито "затёртых", искажённых, неоднозначных, и т.д.) - вот, собственно, чем ежедневно заняты миллиарды людей на Земле. ОТИ тоже в каком-то смысле "пазл", при том увлекательный и супер-полезный, но его, похоже, собирает пока только один чудак.. (?)
[Ответ][Цитата]
Вятка PR
Сообщений: 57
На: Решение проблемы ИИ - Общая теория интеллекта (ОТИ)
Добавлено: 12 апр 19 14:12
Изменено: 14 апр 19 17:17
...С Днём космонавтики! – всё-таки ОНА кое-чего добилась, чего не скажешь об андроидах, "аватарах" и "СИИ". В ХФ "Кабинетный гарнитур" (США-1957) работницы боялись, что ЭВМ с подобием интеллекта лишит их работы, – прошло 62 года, сменилось не одно поколение "работниц", а воз и ныне там.. Даёшь "День СИИ" ?! Ни дня без строчки !!

P.S. 12 апр. 2019
...Черниговская не ответила.. Отослал ещё приглашение к сотрудничеству в "Институт высшей нервной деятельности и нейрофизиологии" РАН.
…Отослал в Минобрнауки напоминание о необходимости разработки ОТИ в рамках "Национальной программы по развитию ИИ" в РФ, – уже в мае, возможно, увидим, учли ли они моё пожелание (как всегда, я не требую взамен ни рубля, но.. хорошо представляю себе тяжкий вздох чиновника, вынужденного отвечать на "всякую ерунду", впрочем, я так и не получил уведомление о регистрации письма – чтобы заставить чиновника ответить, нужно либо сразу писать в Канцелярию Президента, либо обращаться в суд). А хорошо бы.. в рамках проекта построить нам НИИ "СИИ" где-нибудь.. на тропических островах ?.. (на худой конец, согласен и на Анапу).

...В творческой работе и др. полезны перерывы. Всякая деятельность образует некую "гипер-Х-конструкцию", которая постепенно становится слишком "тяжеловесной" для того, чтобы в ней что-то менять (тут дай Бог удержать в памяти и то, что уже есть ?). После отдыха высвобождается память, Х-конструкции отчасти строятся заново, меняются "настройки возбуждений" (а вот необходимость в "отдыхе" (бездеятельности) у нервных клеток – под вопросом)..

ЗРИТЕЛЬНАЯ ОБРАБОТКА КОРТЕКСА
Предисловие
…Поискал по теме в Интернете, нашёл труды ныне покойного акад. И. А. Шевелева, из них наиболее популярно изложено в www.ihna.ru/news/Shevelev80.pdf (стр. 11). Интересный феномен – рецептивные поля "нейронов-детекторов" могут сильно изменяться, – например, отрезки (линий) "округляются" при недостаточном освещении, а в каких-то случаях (к сожалению, тут трудно понять) в течение до 200 мс происходит поворот рецептивного поля нейрона где-то до 90 градусов. Всех этих интересные сведений нет на разных "студ. сайтах" (вообще Интернет кишит "анахронизмами"). ОТИ "элементарно" объясняет изменчивость рецептивных полей наличием у нейронов-детекторов множества L-дендритов, имеющих разные рецептивные поля (вполне может быть более сотни таких полей), – например, при "затемнении" площадь рецептивных полей, необходимых для возбуждения нейронов-детекторов, должна возрастать – и сигналы "обратной связи" включают дополнительные рецептивные поля нейрона так, что вместо "отрезка" получается (почти?) круг. ОТИ допускает и намного более сложные "манипуляции" с рецептивными полями.

...Из теории L-дендритов (ОТИ) и общих соображений о сложности нейронов (тем более в зрительной коре), а также результатов экспериментов (см. выше) следует, что нейроны-детекторы должны иметь множество (возможно, более 100) управляемых рецептивных полей, каждое из которых связано со своим L-дендритом. Управление суммарным рецептивным полем (параллельное по многим нейронам) осуществляется через управление возбудимостью L-дендритов, которое может менять (с разными целями) как набор "подключённых" частных рецептивных полей, так и их возбудимость (а, возможно, и "размеры", если в их центрах синаптические связи сильнее, чем на периферии).
...Возможные цели управления суммарным рецептивным полем нейрона-детектора:
а) Компенсация изменений яркости.
б) Обработка с "настройками", зависящими от сигналов обработки (контекстный режим) либо "режима обработки" (текстур, линий, динамики и т.д., в том числе их последовательная смена (вариант)).
в) Реализация функций параллельных растровых (и иных ?) преобразователей координат (один из вариантов, см. далее).
г) Сглаживание "отрезков" (линий), "линейных полей, "потоков" через взаимодействие нейронов-детекторов (см. далее).
д) (Гипотезы): Разложение по базисным функциям и т.п. в окрестности пикселя (расширенная "волновая" текстура, "волновое представление" (?), см. далее).

...В статье по механизмам зрения (В. Кроль "Психологические механизмы зрительного восприятия: интегральная модель" (1997), см. http://www.voppsy.ru/issues/1998/986/986044.htm) экспериментально показан процесс идентификации через параллельно-последовательную интеграцию признаков. Впечатляет короткое время экспозиции (с последующей "маской") для узнавания несложных объектов с возможностью их "детального описания" – всего 50 мс (чуть больше стандартного времени кинокадра), реальное время обработки должно быть больше, поскольку после подачи "маски" обработка может продолжаться на более высоких уровнях. При периоде следования спайков 10 мс при последовательной свёртке за 50 мс можно "свернуть" лишь 5 "микро-векторов", – этого кажется мало, но в действительности это число может быть выше за счёт:
а) Более высоких частот спайков (в некоторых областях мозга превышают 1000 Гц);
б) Одновременной подачи и обработки нескольких микро-векторов с некоторой вероятностью ошибки распознавания (пример – при "быстрочтении" обработка букв внутри слов происходит без учёта порядка их следования, т.е., вероятно, одновременно; тот факт, что мы не "спотыкаемся" при этом на словах, в которых порядок букв внутри слова имеет значение, можно объяснить тем, что в мозге имеются два или более параллельных пути распознавания слов – не сумев однозначно идентифицировать слово методом "быстрочтения", мозг ждёт окончания более надёжного способа обработки, другое объяснение состоит в учёте контекста).
в) Параллельности первичной обработки зрения (см. далее)).

***
...Загадка "полноты зрительного восприятия" (когда кажется, что мы видим одновременно все из примерно 1 млн. пикселей зрительного поля) решается в ОТИ довольно просто – в действительности это "полнота выбора наблюдения" всех этих пикселей, а также многочисленных (их раз в 100 больше, чем самих пикселей, только в первичном зрительном поле V1) "нейронов-детекторов", конкурирующих за наше внимание и указывающих на определённую область зрительного поля (в виде, условно, ОДНОГО пикселя, в окрестностях которого произошло детектирование признака). Прежде всего "бросаются в глаза" необычные скорость, мерцание, яркость, цвет, текстура; другой вариант привлечения внимания происходит при поиске заданных "действиями" локальных характеристик изображения (в обоих случаях – с учётом предустановленного поля внимания (его центра, угловой площади от пикселя до всего зрительного поля, и др.)), текущее внимание (сознательное и подсознательное) выборочно скользит по полю зрения в соотв. с процессингами зрения и алгоритмами действий (вслед за вниманием могут поворачиваться глаза и т.д.). В сознании фиксируются лишь "медленные" саккады глаз и переходы внимания (время порядка 30 мс и более), последовательность операций процессингов (дискретность 5-10 мс, многие операции выполняются параллельно) происходит подсознательно (зрительных действий – почти подсознательно ?), создавая ощущение (часто обманчивое) необычайной мощи, полноты нашего зрительного восприятия (более конкретно см. далее).

***
...Далее будут изложены концепции формализованного "символьного" подхода (противоположного коннекционизму "глубокого обучения") к решению проблем зрения (они пока не исчерпывают всех механизмов зрительной обработки). "Символизм" обосновывается в ОТИ "символьной рациональностью" окружающего мира (целое состоит из самостоятельных частей, образующих микро-векторы отношений и свойств), при этом допускаются "нечёткие" символы (примеры – слова, отчасти "произвольно" выделяемые части целого, и т.д.). "Коннекционизм" в рамах "символизма" рассматривается как способ выуживания закономерностей окружающей реальности, основанный на переборе вариантов и поиске "корреляций". Без "символизма" коннекционизм быстро заходит в логический и комбинаторный тупик..

…Содержание того, что вскоре последует:
1. Растровые (ткж. волновые), векторно-растровые и векторные описания (представления).
2. Гипотезы: Фрактальная обработка, параллельные координатные преобразователи ("точечные" уже рассмотрены выше).
3. "Локальная обработка" (обобщённая текстурная и др.) нейронами-детекторами, морфология и морфометрия линий.
[Ответ][Цитата]
Вятка PR
Сообщений: 57
На: Решение проблемы ИИ - Общая теория интеллекта (ОТИ)
Добавлено: 14 апр 19 17:22
Изменено: 14 апр 19 17:26
...Выражаю признательность участникам форума. Ваше молчание – золото.. ))

P.S. 15 апр. 2019

ЗРИТЕЛЬНАЯ ОБРАБОТКА КОРТЕКСА
Введение
...Излагаемая далее "теория" очень проста, хотя бы по той причине, что я занимаюсь ей месяцы, а не годы и десятилетия, как некоторые. У меня, однако, есть сильная сторона – аналитическое мышление, которое стандартной "учёностью" не заменишь. Всё-таки я настаиваю, что школьникам доступно, картинок только не хватает..
***
...(Примеч.: Далее под "свойствами" имеются в виду внутренние (и т.п.) свойства "объектов-признаков", в любом случае не "пиксельные" (не положений в пространстве), формально сами "объекты-признаки" можно представить как "объектные свойства").

...Нейрофизиологи (в отл. от "гениев" глубокого обучения) исповедуют "символьный" подход, в том числе к зрению, что нашло отражение в теории "нейронов-детекторов", согласно которой функции этих нейронов имеют простой и однозначный (символьный) смысл, востребованный при обработке более высокого уровня (нет "перемешивание смыслов", как в сетях "глубокого обучения", – так, обнаружено, что распознавание каждого класса объектов "высокого уровня" сосредоточено в специализированных на этом колонках). В то же время мне показалось, что в этой теории нет важного "постулата" ОТИ о том, что "нейроны-детекторы" распознают раздельно "объекты-признаки" и их свойства (пример: объект-признак – "область" (с определённым центром), его свойства – величина, степень вытянутости, "ориентация", "обобщённая текстура" (включая цвет, мерцание и т.д.), скорость и др.), различные "свойства" считаются принадлежащими объекту-признаку, если нейроны, представляющие эти "свойства", расположены в (условной) "пиксельной области" близко к нейрону, представляющему "объект-признак". Включение свойств объекта в сам "объект-признак" привело бы к "комбинаторному взрыву" числа таких объектов и потери общности описания (следствием явится, в частности, недопустимое увеличение длительности обучения, как в "глубоком обучении").
...Итак, нейроны-детекторы передают символы объектов-признаков и (отдельно) свойства (условно – объектов-признаков), причём те и другие связаны в моноаксонных (или параллельных, см. далее) кодах с их условными "пикселями" (или пиксельными областями).

..."Классическая" теория "нейронов-детекторов" говорит об их простых, сложных и "сверхсложных" рецептивных полях, но "рецептивные поля" она определяет как области, специфические (избирательные) зрительные стимулы в которых могут вызвать возбуждение соответствующих нейронов, и такой подход не является продуктивным. Далее будем считать, что:
а) "Нейроны-детекторы" – это нейроны "параллельной обработки", т.е. имеющие непосредственные (индивидуальные) связи с входными зрительными сигналами (ткж. с сигналами после гипотетических параллельных координатных преобразователей, см. далее) и/или другими такими нейронами (имеются и иные "нейроны обработки", см. далее);
б) "Рецептивные поля" – это поля связей нейронов-детекторов с нейронами предыдущих уровней обработки, выраженные в условно-пиксельном виде, – это означает (в несколько упрощённой трактовке), что на всех уровнях обработки каждый зрительный нейрон условно привязан к определённому пикселю первичного (входного, либо после гипотетических параллельных координатных преобразователей) зрительного поля.

..."Рецептивные поля" имеют "растровый" (при первичной обработке) или "символьно-растровый" (см. далее) вид при последующих обработках. Применение термина "рецептивные поля" (и в некоторых случаях "нейроны-детекторы" ?) может быть расширено с СЗ-координат до также "вторичных" координат (см. выше). В СЗ-координатах рецептивные поля нейронов первичной обработки могут быть только "отрезками" (линейными или "волновыми", различной длины, ориентации и локализации) ввиду требований к инвариантности представлений к сдвигам, поворотам и масштабам при их обработке, – это опять следует из элементарных "комбинаторных" подсчётов (за это открытие дали Нобелевскую премию, поскольку эксперимент всегда ставится выше элементарной логики, – когда-то и Эйнштейну не хотели давать премию, потому что он был "всего лишь" теоретик), – следовательно, их легко задать "априорно" и затем произвести их согласованную "калибровку". Символьно-растровые рецептивные поля нейронов (условно) "вторичной обработки", в тех же СЗ-координатах, образуют инвариантные, разных типов, элементарные сочетания растровых через множество L-дендритов каждого такого нейрона (сложные рецептивные поля)..
...И лишь во вторичных координатах, инвариантных к сдвигам, поворотам и масштабам, возможно появление "сверхсложных рецептивных полей" (например, букв, или 2D-проекций 3D-объектов в ограниченных пиксельных полях), предел "сложности" обусловлен неспособностью слишком сложных описаний к обобщению (в кластерах), поэтому мозг заменяет их иерархическими или иными описаниями с множеством К-баз (пример – гибкие объекты или кривые удобно описывать последовательным положением их "сегментов" друг относительно друга).
...(Примеч.: В опытах на кошках уже в первичной зрительной коре обнаружены детекторы углов и ветвлений (У и Х -типов), однако эти детекторы срабатывали с весьма существенной для зрительной обработки задержкой ≈ 20 мс по сравнению со срабатыванием детекторов простых "отрезков", – это ясно указывает на вторичность таких "детекторов" (вторичная обработка), хотя сами экспериментаторы трактуют вроде бы иначе. Менее вероятна последовательная обработка разных типов уже в первичной зрительной коре..).

...В СЗ-координатах и иных (?), в которых объекты, в общем случае, представлены в "не- или слабо- инвариантном" виде, нейроны-детекторы (и их аналоги) годятся для обнаружения (и представления) лишь ограниченного числа объектов-признаков и (их) свойств (первичного и вторичного уровней обработки (?)). "Недостатком" нейронов-детекторов (и их аналогов в любых координатах) является (возможно) необходимость в поиске (индивидуальных) связей с нейронами-детекторами и иными нейронами предыдущих уровней обработки при обучении (там, где такое обучение имеет место, в био-мозге не исключено установление таких связей и без обучения по неким генетическим программам).

Описания (растровые и др.)
...Нейроны-детекторы (обычно при "первичной" обработке зрения) образуют растровые описания (сигналов зрения), а при "вторичной" обработке – (условно) символьно-растровые описания (символы представляют собой результаты обработки и др.). В этих описаниях (представлениях) яркость либо произвольные "символы" связаны с их пиксельным расположением – либо "параллельно" (одновременно) в единых (связанных) моноаксонных кодах условных "пиксельных колонок" (нейронов, условно связанных с одинаковыми пикселями), либо (и) последовательно во времени, а также квазипараллельно для символов в некоторых пиксельных областях в раздельных М-шинах пикселей и "символов". Соответственно, обработка может быть полностью параллельной (в СЗ-координатах – нейронами-детекторами, независимо или зависимо друг от друга в рамках "локальной обработки", см. далее, в инвариантных координатах – нейронами параллельной обработки СХ-конструкций), либо параллельной по символам в некоторой "пиксельной области" и последовательной во времени для отдельных "областей", а зрительная память делится на память "пиксельных колонок" и универсальную, соединённую с колонками через М-шины пикселей и символов (каждый нейрон "пиксельной колонки", помимо "моноаксонного" параллельного выхода, имеет (по крайней мере "прямое", без "обратного") соединение с этими М-шинами).

... Совокупность символьно-растровых представлений объекта (и т.п.) условно назовём векторно-растровым описанием (представлением). Будем считать, для простоты, что каждый символ связан с определённым пикселем, и символы могут быть представлены "разрежённо", т.е. различные объекты и (условно ИХ) свойства могут быть представлены не в каждой пиксельной колонке и при "сравнении" с опорными векторами могут "собираться" в некоторой "пиксельной" области. Векторно-растровые (как и векторные, см.) описания во вторичных О-координатах должны содержать также описание К-баз этих координат.

...Параллельные символьно-векторные представления нейронов-детекторов имеют существенное ограничение на одновременно высокую "точность локализации" и большое число символов (оно как бы преодолевается, если в "пиксельные колонки" включаются нейроны, условно представляющие символы "высокого уровня", но такое представление не будет уже параллельным "по заполнению"). Это ограничение очевидно при небольшом (порядка 100) числе нейронов-детекторов в каждой "пиксельной колонке", при большем числе таких нейронов возникают трудности с установлением "прямых связей" между нейронами-детекторами, с объёмом неэффективной, в данном случае, "памяти пиксельных колонок" (каждый объект-признак представлен множеством его "пиксельных" локализаций), и с раздельным, в данном случае, обучением нейронов "более высокого уровня"..
...(Примеч.: Число различных объектов-признаков и их свойств без потери пространственной точности может быть увеличено за счёт изменения рецептивных полей нейронов-детекторов, см. выше).

...Для обнаружения значительно большего числа объектов более "высокого" уровня используются следующие представления:
а) (Параллельные) представления (обычно фрагментов СЗ-поля) в "достаточно инвариантных" вторичных координатах (после гипотетических растровых (или символьных низкого уровня ?) параллельных координатных преобразователей), их обработка носит преимущественно (?) растровый характер.
б) Раздельные представления "пикселей" и символов по М-шинам (общая, нелокальная обработка, производимая нейронами "универсальной памяти"; без "точечных" последовательных координатных преобразований возможна (в том числе параллельная) обработка "редуцированных представлений", см. далее).
в) Раздельные представления "пикселей" и символов по М-шинам с "переносом" символов в "инвариантные" системы координат с помощью последовательных во времени "координатных преобразователей" (см. выше). Запоминание и узнавание (а также образование СХ-конструкций) происходят в наиболее "инвариантных" системах координат (О- или Т-координаты, см. выше).

...Количественные значения (от 0 до 1) моноаксонных кодов для объектов-признаков имеют смысл вероятности обнаружения объекта-признака, а для "свойств" – смысл (нормированной) величины, "силы" свойства. Из необходимой компактности количественных представлений в зрении следует, что они могут быть представлены здесь (а, возможно, и везде в кортексе) только через фазовую задержку спайков относительно "синхроимпульсов". Это делает невозможным производить сравнение векторов с "опорными векторами", если они содержат количественные значения, методом свёрток как в случае представления количественных значений в символьном виде (см. выше и более подробно – далее). Поэтому под "свёртками" здесь имеются в виду и иные способы определения "меры сходства" объектов, абсолютные или относительные (хотя "метрика" относится скорее к "мере различия" ?).

...Био-мозг использует также векторные описания, для зрения – здесь (в отл. от векторно-растровых описаний) объекты-признаки и их свойства "сцеплены" в микро-векторах (параллельно через возбуждения соответствующих М-линий, см. выше; аналогично "сцеплены" пространственные отношения объектов, пример микро-вектора: (ссылка на определённую ранее К-базу; координаты (возможны и моноаксонные) объекта-признака в К-базе; объект-признак)). Недостатком векторных описаний (в отл. от векторно-растровых) является последовательное во времени представление, за исключением СХ-конструкций (собираемых также последовательно). Векторные описания быстрее отвечают на вопросы о свойствах "объектов-признаков", но главным их преимуществом является универсальность в описании "отношений" и "свойств" (оторванных от связей с пикселями, хотя пространственные отношения могут и здесь выражаться через пиксели и "воксели"), вот "теорема от Вятки": "Векторные описания обладают абсолютной универсальностью", в частности, их можно использовать для 3D, динамических, пространственно-временных и "смысловых" описаний...
...В отл. от творений нынешних "гениев", зациклившихся на растровых сетях (не дойдя даже до векторно-растровых представлений как промежуточных между растровыми и конечными векторными представлениями в мозге, см.), уже примитивные био-мозги были "векторными", – без этого свойства не было бы эволюции Разума и возникновения "Хомо Сапиенс".

...В зрении векторные описания получаются из векторно-растровых через "сцепление" объектов-признаков и их свойств, а также через различную "обработку" (например, через связь зрительного объекта со слуховым и т.д.)..

Далее о возможностях обобщений в описаниях
...Растровые описания (монохромные) имеют минимальные возможности "пространственных обобщений" (при свёртках) относительно одного "опорного вектора", роль которого здесь играет "опорная матрица". Прежде всего это обобщения путём представления изображения в виде, инвариантном (в какой-то мере) к масштабам, поворотам и сдвигам, а также, возможно, "проекционным" и иным искажениям. "Обобщение" в свёртке (матрица которой имеет, вероятно, минимальное число "ненулевых пикселей") достигается также путём расширения "зон возбуждения" вокруг (возбуждённых) пикселей изображения, – при этом достигается возможность увеличения вариаций правильно распознаваемого изображения, однако возрастает также и вероятность ошибок (для уменьшения такой вероятности необходима оптимальная модуляция указанных зон возбуждения (...)).
...(Примеч. 1: Для возможности обобщений по нескольким "опорным векторам" необходима возможность обобщения "вокруг" каждого опорного вектора. "Представление изображения в "инвариантном" виде" обеспечивают координатные преобразователи, не без помощи, как правило, "механических" адаптаций – наклона головы, сдвигов центра зрения и т.д.).
...(Примеч. 2: При добавлении "цветов" или иных "свойств" и, наконец, "объектов-признаков" растровые свёртки "плавно превращаются" в векторно-растровые).

...Векторно-растровые описания имеют больше возможностей для обобщений (при свёртках). 1-х, это обобщения за счёт относительного уменьшения весовых коэффициентов в свёртках различных признаков и символов, и здесь очевидны 3 основных группы "обобщений" (вплоть до редукции отдельных признаков) – по пространственному положению (в том числе наиболее вероятные "квадрантная" или "гексагональная" редукции), по (непространственным) признакам объектов-признаков, и по самим "объектам-признакам" (одно из "предельных" обобщений получается, если из признаков оставить только "символьные", оно будет инвариантно к положению, масштабу и угловой ориентации). 2-х, если в описаниях много различающихся "символов", становится возможным существенно расширять "зоны возбуждения" символьных элементов одного вида вокруг пикселей, в которых эти символьные элементы возбуждаются от изображения, без взаимного перекрытия этих (расширенных) зон (для био-мозга это связано с раздельным модулированием зон возбуждения в "символьных" нейронах "пиксельных колонок" различного типа).

..."Сцепление" пространственных ("метрических"), "объектных" (например, топологических) и иных "свойств" в единых моноаксонных кодах способствует "затруднениям" в возможностях пространственных (и иных) обобщений в сетях "глубокого обучения". В то же время в био-мозге таких затруднений нет (как и для векторного представления), поскольку имеется иерархичность обработки (выделение объектов-признаков) и механизм обобщений пространственных свойств через расширение зон возбуждения вокруг пикселей, представляющих положение объектов-признаков) – таким образом степень обобщения может регулироваться.
...(Примеч. 1: Возможности "метрических обобщений" био-мозга видны на таких примерах, неподвластных "глубокому обучению", как карикатуры (усиление характерных черт, характерное для юмора), "мультяшки" (гротескная метрика) и кривые зеркала).
...(Примеч. 2: Инвариантность "свёрточных сетей" достигается не за счёт обобщающих способностей, а за счёт гигантского объёма данных. Слабость "глубоких сетей" в "обобщениях" (которые возникают в них в осн. через операции "подвыборки") является их фундаментальным свойством ("глубины" вместо иерархичности)).

...Часто используется редукция векторно-растровых описаний по "свойствам", по "объектам-признакам" и по пространственным отношениям, – так, выделив в описании лишь определённый класс объектов-признаков, можно получить их параллельное растровое представление. (Возможно) более важный тип редукции – параллельное представление символов в отдельных "пиксельных полях", число полей может варьировать от одного ("простая" редукция) до 4-х (см. "квадрантные описания") и более. Теоретически редуцированное представление можно получать и таким, например, образом – сначала выделить определённое свойство (признак) или их (произвольную) "группу" или (обобщённый) "класс", затем получить пиксели, соответствующие этим свойствам и расширить (обобщить) их до "пиксельных зон", и затем найти объекты-признаки в этих "зонах" (так, например, можно найти только объекты одного цвета, или двигающиеся в одном направлении, и т.д.).
...Редуцированные описания позволяют проводить быструю обработку, их преимуществом является инвариантность к сдвигам, масштабам и (хотя бы отчасти) поворотам объекта, а недостатком – неполнота описания (она часто не важна, если необходимо выделить из окружения уже известный объект).

...Рассмотрим для примера "квадрантные" описания, – в них, последовательно во времени (через "квадрантные" маски торможения или возбуждения), описываются символы, лежащие в каждом "квадранте" (в пределах некоторой "зоны внимания", которая может "модулироваться"), полученные описания инвариантны к положению и величине "объекта"; для инвариантности к угловой ориентации "объекта" маска должна уметь поворачиваться (вероятно, с дискретностью порядка 90° ?); дополнительные возможности может дать "пятое" пиксельное поле в центре "маски", также модулируемое по величине. Итак, смысл "квадрантных" и т.п. описаний – в преобразовании 2D СЗ-координат в О-координаты с пространственным "обобщением" за счёт редукции. Получение "квадрантных (и т.п.) описаний" – вероятно, врождённое свойство.
...(Примеч.: Если считывать "метки квадрантов" и т.п. при последовательном считывании символов, то получится аналог последовательного преобразователя координат, хотя и несовершенный (этот подход неинтересен для создателей ИИ)).

...По возможностям пространственных и иных обобщений (при свёртках) векторные описания для зрения примерно эквивалентны векторно-растровым (так, в частности, для обоих описаний нужны ссылки на К-базы, в которых описываются объекты и т.п.).
[Ответ][Цитата]
 Стр.8 (8)1  ...  4  5  6  7  [8]<< < Пред.