GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.14 (15)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Создадим профессиональный форум ?
covax
Сообщений: 1609
На: Создадим профессиональный форум ?
Добавлено: 10 фев 12 9:48
Цитата:
Автор: tac2
Теперь давайте распознавать. Появляется v1 и v3, или v2 и v3. Дельта v от них также равна 3-м единицам. Неужели будет сложно сделать вывод, что это один и тот же класс ?


Человеку вывод сделать несложно. Нужно просто ассоциировать v1, v2, v3. А для сети можно задать второй уровень абстракции, где первичные классы группируются во вторичные по ИЛИ. Никакой параметр времени для этого не нужен. Весь функционал сети сводится к Y = f(X). Зачем вам обучение, если вопрос решается автоматически без обучения в вашем статическом случае?

Цитата:
Автор: tac2
Давайте сделаем проще, вы запрограммируете такую сеть, которая не затирает старые данные, выращивает под неё участок структуры.


Я как раз занимаюсь реализацией, мат основы уже есть. Полон уверенности в том, что можно не торопиться, никто не допрёт до сути еще лет 10. Классика прочно укоренилась в умах ИИшников. Фиг выбьешь!

Цитата:
Автор: tac2
Определение 12 . Передающие функции связей в перцептроне зависят от двух параметров: времени передачи импульса по каналам связи τij и коэффициента, или веса, связи υij. Передающая функция связи cij от элемента ui к элементу uj имеет вид: cij = f[υij(t),ui(t − τij)]

Этот расклад я забыл еще в прошлом столетии, потому что он ни в какие ворота не лезет.
Это жирнючий крест на любого вида адаптации, на качестве устойчивого обучения и на обучении вообще. Вы получите что-то работающее, если вам повезёт априорно построить подходящую структуру. Структуру! а не просто веса подогнать...
На текущий момент НИ ОДНА сеть с таким "временем" не даёт ожидаемых результатов. Они не обучаемы в принципе. Метрики времени у них нет!

Цитата:
Автор: tac2
"обеспечить решениями всё входное разнообразие" - очень мутная фраза. Что это значит ?


задача сети давать решения на определённый входной поток. Если вы будете затирать (переобучением) старый функционал, часть решений у вас выпадет, т.е область определения сети ,как функции, изменится. Выч. мощность останется прежней, а выч. функционал будет дрейфовать по структуре и не увеличиваясь, а растворяясь. Чтобы заложить в сеть новый (дополнительный) функционал нужно заставить её расти в нужных местах и не забывать основы заложенные ранее. Вообще, решением всему этому служит полный отказ от параметрической адаптации и переход к структурной.

Цитата:
Автор: tac2
Я сети предоставлю объем всех мои жестких дисков, будет мало просто будет не столь умна, разбогатею куплю еще


Вы должны знать, что обращение к HDD требует времени. Наступит такой момент, когда ваша сеть выйдет из масштаба реального времени. Хуже всего, когда из реального времени будут выпадать отдельные куски/узлы и наступит десинхронизация и ппц вашему всему.

Цитата:
Автор: tac2
А вы знаете что обучение - это постоянное ДОобучение, т.е. забывание ранее запомненного не очень правильно и запоминание правильнее, учитывая больший контекст, большое число примеров. Поэтому сеть, которая не забывает информацию - только растет - это сеть по определению БЕЗобучения.


Согласен. Обучение - это дообучение, если сеть к дообучению предрасположена. А когда некуда уже обучаться, наступает переобучение (затирание). Догадайтесь, какая информация начнёт затираться раньше всего? Ответ - вся информация! Так вот, в случае BP, куда конкретно вы будете дозаписывать инфу? Перезапустите полное обучение?

Далее, непонятно, как сеть "БЕЗ обучения" может расти? За счёт чего?
Я вам еще не сказал, что динамическая сеть должна уметь правильно забывать информацию, чтобы функционал на следующих уровнях обработки не начинал смещаться и перестраиваться непонятным образом.

В общем, наступает новая эра динамических сетей со структурной адаптацией. Буду нести в массы новые знания.
[Ответ][Цитата]
tac2
Сообщений: 332
На: Создадим профессиональный форум ?
Добавлено: 10 фев 12 12:55
Цитата:
Автор: covax

В общем, наступает новая эра динамических сетей со структурной адаптацией. Буду нести в массы новые знания.


Напишите статью, дайте почитать. Тогда будет о чем говорить.
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Создадим профессиональный форум ?
Добавлено: 10 фев 12 17:08
Цитата:
Автор: covax
Мозг умеет выращивать структуру, а НТМ и Розенблат не умеют. Поэтому я и говорю, что ваши сети - это статика.

Так есть и другие сети. Сети адаптивного резонанса, например. Растущий нейронный газ. И др.
[Ответ][Цитата]
covax
Сообщений: 1609
На: Создадим профессиональный форум ?
Добавлено: 10 фев 12 19:42
Цитата:
Автор: Victor G. Tsaregorodtsev
Так есть и другие сети. Сети адаптивного резонанса, например. Растущий нейронный газ. И др.


Формально они вроде, как бы, есть, но вот что б они где-то как-то использовались, так этого и нет нигде. Это как фейерверк - шумит, светится, вертится, а смысл только в эстетическом удовлетворении от созерцания и не более того.
[Ответ][Цитата]
covax
Сообщений: 1609
На: Создадим профессиональный форум ?
Добавлено: 10 фев 12 19:49
Цитата:
Автор: tac2
Напишите статью, дайте почитать. Тогда будет о чем говорить.


В этом то самая основная проблема. Проще запрограммировать, чем расписать. Склад ума не писательский. Но я постараюсь родить хотя бы презентацию.
[Ответ][Цитата]
NO.
Сообщений: 10700
На: Создадим профессиональный форум ?
Добавлено: 10 фев 12 20:35
Нейросети нейромогут нейровсё. Я знаю одного специалиста по нейросетям, который руководит отделом сбыта на химзаводе. Другой нейроводитель нейрогазели, возит нейропассажиров по нейромаршрутам. Парикмахерша нейроножницами нейрострижёт. Есть и совсем выдающиеся вещи. Нейромолот, нейрогвоздь. Нейродиван в нейроклубе. Нейромент в нейрошлеме подавляет нейробунт. Нейровор на нейрозоне нейротянет нейросрок. Нейроповар нейрокрошит нейросвёклу в нейроборщ.
[Ответ][Цитата]
covax
Сообщений: 1609
На: Создадим профессиональный форум ?
Добавлено: 10 фев 12 20:40
Цитата:
Автор: NO.
Нейросети нейромогут нейровсё.


Ник NO, походу, тоже происходит от Neuro?
[Ответ][Цитата]
NO.
Сообщений: 10700
На: Создадим профессиональный форум ?
Добавлено: 10 фев 12 21:40
ато
[Ответ][Цитата]
tac2
Сообщений: 332
На: Создадим профессиональный форум ?
Добавлено: 10 фев 12 22:00
Цитата:
Автор: covax



В этом то самая основная проблема. Проще запрограммировать, чем расписать. Склад ума не писательский. Но я постараюсь родить хотя бы презентацию.


Если нужно - обращайтесь помогу ... а так будем ждать.
[Ответ][Цитата]
tac2
Сообщений: 332
На: Создадим профессиональный форум ?
Добавлено: 11 фев 12 17:57
Цитата:
Автор: covax


Я вам еще не сказал, что динамическая сеть должна уметь правильно забывать информацию, чтобы функционал на следующих уровнях обработки не начинал смещаться и перестраиваться непонятным образом.



Вот и расскажите, что значит правильно и как это измерить.
[Ответ][Цитата]
tac2
Сообщений: 332
На: Создадим профессиональный форум ?
Добавлено: 11 фев 12 18:03
Цитата:
Автор: covax


На текущий момент НИ ОДНА сеть с таким "временем" не даёт ожидаемых результатов. Они не обучаемы в принципе. Метрики времени у них нет!



Чем вам такое время не нравится ? Какое время вам нравится ?
[Ответ][Цитата]
covax
Сообщений: 1609
На: Создадим профессиональный форум ?
Добавлено: 11 фев 12 20:39
Цитата:
Автор: tac2
Чем вам такое время не нравится ? Какое время вам нравится ?


Чтобы анализировать непрерывный поток, сеть должна постоянно поглощать контекст определённой длинны. HТМ это делает, перцептроны и прочие псевдодинамические сети - нет.

Например, разбираем сетью команду "включить свет". Решение должно быть принято на момент, когда закончится последний звук команды. Все предыдущие фонемы должны стать контекстом. Т.е поток как бы последовательно загружается в "регистр" достаточной для команды длинны и потом анализируется одновременно. Чтобы разделить все фонемы в "регистре" по локальным решениям нужен чёткий хронометраж (метрика времени). Локальные решения потом просто абстрагируются по ИЛИ в результирующий выход. Без метрики времени нельзя позиционировать локальные решения на характерные места в фонемах, нельзя подобрать длину "регистра" и тп. Но это всё фигня. Создать для конкретной команды конкретную структуру с метрикой времени это не сетевое, а обычное алгоритмическое решение. Весь ужас наступает, когда нужно чтобы у девайса проявились адаптивные функции (обучение, дообучение на базе предыдущего опыта, ассоциирование и тп ), но они не появятся, т.к нет структурно-адаптивного механизма относительно времени или динамики входного потока. То есть, интеллектуальных функций из такого устройства никогда не выжать. Как раз, структурно адаптивный механизм сети должен позволять обучать сеть последовательностями (деформализованными\несимвольными) во времени, точно так, как это классически представляется.

Сравнение с "регистром" не следует воспринимать конкретно, на самом деле механизм немного другой. Контекст можно загружать не только вглубь структуры, но и вширь. Всё зависит от абстрагирующей (обобщающей) функции узла (нейрона). В реальной био-НС функция узла может быть неоднородна по структуре, отсюда может проистекать разнообразие выч. функционала.
[Ответ][Цитата]
tac2
Сообщений: 332
На: Создадим профессиональный форум ?
Добавлено: 11 фев 12 20:55
Цитата:
Автор: covax



Чтобы анализировать непрерывный поток, сеть должна постоянно поглощать контекст определённой длинны. HТМ это делает, перцептроны и прочие псевдодинамические сети - нет.

Например, разбираем сетью команду "включить свет". Решение должно быть принято на момент, когда закончится последний звук команды. Все предыдущие фонемы должны стать контекстом. Т.е поток как бы последовательно загружается в "регистр" достаточной для команды длинны и потом анализируется одновременно. Чтобы разделить все фонемы в "регистре" по локальным решениям нужен чёткий хронометраж (метрика времени). Локальные решения потом просто абстрагируются по ИЛИ в результирующий выход. Без метрики времени нельзя позиционировать локальные решения на характерные места в фонемах, нельзя подобрать длину "регистра" и тп.


Я как раз и говорю, что есть виды перцептронов, которые "поглащают контекст определенной длины". И указанного определения времени для этого достаточно. Поэтому вы просто заблуждаетесь.
[Ответ][Цитата]
covax
Сообщений: 1609
На: Создадим профессиональный форум ?
Добавлено: 11 фев 12 21:33
Цитата:
Автор: tac2
Вот и расскажите, что значит правильно и как это измерить.


Забывание основывается на разрушении связей. И однозначно не ясно сколько времени проходит, пока пассивная связь в био-сети достигнет границы невозврата при разрушении. В старшем возрасте тенденция образования связей ослабевает и её догоняет тенденция разрушения. То есть, динамика неоднозначна в онтогенезе.
Видимо в ИНС стоит основываться на общем адаптивном потенциале устройства, предельных размерах и скоростях роста структуры нейросети, да и вообще на ресурсных ограничениях. Но забывать о забывании не стоит, т.к. сложно в последствии адаптивно переассоциировать некорректные связи. То есть, долго устройство будет переучиваться, чтобы поменять какие-то, глубоко закопанные в структуре, локальные решения. Ну это, как раз и сводится к общему адаптивному потенциалу (скорости адаптации).

О! Вспомнил, что нужно ввести аббревиатуру для нового класса сетей - САИНС (Структурно-Адаптивные ИНС). Они полностью попадают в класс динамических. Думаю очевидно, что структурно-адаптивные не могут быть статическими по определению.

[Ответ][Цитата]
covax
Сообщений: 1609
На: Создадим профессиональный форум ?
Добавлено: 11 фев 12 21:36
Цитата:
Автор: tac2



Я как раз и говорю, что есть виды перцептронов, которые "поглащают контекст определенной длины". И указанного определения времени для этого достаточно. Поэтому вы просто заблуждаетесь.


Они сводятся к алгоритмическим решениям на априорной структуре и не имеют адаптивной функции, тк нет глобальной метрики времени. Про запоминание последовательностей сетями я знаю. Но на большее эти сети не способны. Стоит ли это обсуждать?!
[Ответ][Цитата]
 Стр.14 (15)1  ...  10  11  12  13  [14]  15<< < Пред. | След. > >>