GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (6)След. > >>   Поиск:  
 Автор Тема: Что после перцептрона?
NewPoisk
Сообщений: 3745
Что после перцептрона?
Добавлено: 29 сен 06 8:57
Принцип перцептрона: программа (можно и механическое устройство) оказывает псевдослучайное воздействие на внешнюю среду. Затем собирается информация о результате воздействия. Если воздействие привело к улучшению некого произвольно выбранного критерия, оно считается удачным. В противном случае - неудачным. В любом случае информация "воздействие - ответ среды" записывается в память и используется при формировании дальнейших воздействий.

Все современные наработки в области ИИ отличаются ровно тем, что предлагают разные версии описанного принципа, отличающиеся быстродействием и эффективностью запоминания. Даже эволюционные методики ИИ - ни что иное как все тот же перцептрон, только так сказать распределенный (критерием служит численность вида, памятью - ДНК).

Внимание вопрос: а может быть что-то есть лучше перцептрона (на самом деле есть: деятельность человека, особенно интеллектуальная, перцептроном необъяснима)? Я имею в виду изменение самого ПРИНЦИПА работы, а не просто частных улучшений.
[Ответ][Цитата]
гость
213.156.202.*
На: Что после перцептрона?
Добавлено: 09 окт 06 11:27
Есть понятие теоретического осмысления, но в данном случае оно ничего нового не приносит, т.к. разница всего лишь в том, что при теоретическом осмыслении вместо "получения результатов" из внешней среды результат воздействия "вычисляется" по внутренней модели. Тот же принцип.
[Ответ][Цитата]
NewPoisk
Сообщений: 3745
На: Что после перцептрона?
Добавлено: 10 окт 06 13:05
Глобально - да. Но мы пока еще на уровне способов "вычислений". И на этом уровне кроме перцептрона ничего пока нет, а должно быть.
[Ответ][Цитата]
Львович
Сообщений: 303
На: Что после перцептрона?
Добавлено: 31 окт 06 18:37
Хороший вопрос! Поэтому и решил поднять (в прямом и переносном смысле ) заброшенную тему. Перцептроном, на мой взгляд, называется немного другое устройство, но это вопрос терминологии. Фундаментальный принцип обучения NewPoisk сформулировал правильно.
Я придерживаюсь точки зрения, что других принципов не существует в принципе А вся сложность человеческого интеллекта произростает из иерархичности и многократности применения этого принципа. При этом между моментом анализа ситуации и воздействием на среду у сложных интеллектов происходит довольно много схожное иерархичекое взаимодейсвие вложенных элементарных интеллектов (или элементарных актов обучения). При этом обучающие петли обратной связи часто замкнуты самым причудливым образом, интерферируя между собой, создавая видимость непредсказуемости, "свободы воли" и черт знает чего еще.
Скорее всего, в реальности, мы никогда не сможем выделить чистую петлю обучения, более того, никогда не сможем учесть всех петель! Это всегда будет в той или иной степени приближение. Парадокс в том, что для создания ИИ этого и не требуется! Однако необходим механизм, позволяющий наращивать эту "перецептронную сложность" до необходимого уровня. И не только, и не столько увеличивая количество нейронов в слоях, а прежде всего создавая ансамбли и иерархии перцептронов со взаимным обучением!
[Ответ][Цитата]
daner
Сообщений: 4593
На: Что после перцептрона?
Добавлено: 19 ноя 06 14:51
Я лично, наиболее согласен со Львовичем. Я тоже думаю что принципиально нового в обучении не будет. Кстати, интересным фактом, можно считать то, что нет доказательств, что современными методами, в частности нейронными сетями, нельзя создать ИИ. Я не оговорился и сей час поясню, что я имел в виду. На данном этапе основной выигрыш производительности чел. мозга заключается в его огромной параллелизации, в то время как современные компьютеры весьма отстают в данном плане но имеют огромную частоту последовательных операций.
Нет, ну конечно можно и параллельность промоделировать, но вот только количество процессов все равно будет не достаточным. просто элементарно вдумайтесь в цифры : у человека 10xЕ11 параллельно работающих нейронов, даже у кошки их 10xЕ9 (если правильно помню). Сомневаюсь, что мы пока можем создать, что-то подобное. Но, даже представив ситуацию, что мы смогли промоделировать такое количество параллельных процессов, что мы получим?
НЕ ДЕЕСПОСОБНЫИ МОЗГ. Кому он нужен? Даже обучение ребенка занимает годы, я уже не говорю о том, что мы рождаемся уже с какими то необходимыми "обученными весами синапсов". Это то, что мы получили в результате эволюции. Кстати, хочу заметить, что эволюция работает не так примитивно как "генетические алгоритмы" (проверил, отсеял, проверил, отсеял ...), а сложнее (обучил, проверил, отсеял, обучил, проверил, отсеял ...).
В общем к чему я это? а к тому что даже имея полную модель "чел. мозга" мы не поймем что это ИИ, или такое ИИ будет просто не нужно. Уж очень долго его надо будет обучать, что бы хоть какие то результаты получить. Очень часто нас не устраивает обучение, которое длится часами, я уже не говорю о годах. Вы где-нибудь читали в серьезных изданиях об алгоритмах обучения, которые (в лучшем случае) займут месяцы, а то и десятилетия?
Так что лично для себя, я вижу проблему ИИ не только в теории ее создания (вполне возможно, что теоретически современными методами, его вполне можно создать), а в практическом его применение. Пусть он будет не такой "умный" как человеческий и даже не такой "изобретательный", но зато пусть он будет "управляемым" (т.е. что бы можно было предать ему определенны качества, как например : скоростное обучение, целеустремленность, психическая устойчивость, быстрое реагирование и т.д.)
[Ответ][Цитата]
NewPoisk
Сообщений: 3745
На: Что после перцептрона?
Добавлено: 20 ноя 06 11:32
Количество, быстродействие, время - это все количественные характеристики. Но должно быть еще и качественное отличие. Пример: открытие планеты Нептун. Тогда были уже известны законы Кеплера и была точно вычислена орбита планеты Уран, но оказалось что вычисленная траектория не совпадает с наблюдаемой. Возникло несоответствие теория-практика. Как бы поступил в этом случае ИИ-перцептрон? Он просто ввел бы новые правила игры - добавил бы к известным законам "уточнение" - типа для Урана законы Кеплера работают немного не так как для остальных небесных тел. Он сделал бы это потому что таков принцип его работы - см. мое первое сообщение в этой теме. И никогда в жизни такому ИИ и в "голову" не придет что на самом деле виной всему - еще один газовый планетогигант. Т.е. для перцептрона существует столько законов природы, сколько существенно различных явлений он запомнил. В этом фундаментальная слабость перцептронного подхода.

Принципиально другое обучение? Оно есть!
1. Необходимо ИЗНАЧАЛЬНО заложить в ИИ общую картину мира и тогда перцептрон будет искать пути выхода из тупика, не противоречащие этой картине.
2. Как искать? Уж конечно не классическим методом псевдоперебора. К вашим услугам распад/синтез логических доменов - синтез ряда Тейлора.
[Ответ][Цитата]
Андрей
Сообщений: 3943
На: Что после перцептрона?
Добавлено: 20 ноя 06 13:07
>> К вашим услугам распад/синтез логических доменов

Похоже НьюПоиск Батькович решил наконец излагать свои взгляды более лаконично, что не может не радовать. Можно согласиться с тем, что образы (абстракции, сущности, объекты) проходят эволюцию в пределах интеллекта с созданием новых абстракций по мере необходимости. Именно для контроля над этим процессом Оккам придумал своё лезвие.
При чём тут Тейлор - совершенно неясно.
[Ответ][Цитата]
daner
Сообщений: 4593
На: Что после перцептрона?
Добавлено: 20 ноя 06 14:32
Цитата:
Автор: NewPoisk ( http://newpoisk.narod.ru )
Как бы поступил в этом случае ИИ-перцептрон? Он просто ввел бы новые правила игры - добавил бы к известным законам "уточнение" - типа для Урана законы Кеплера работают немного не так как для остальных небесных тел. Он сделал бы это потому что таков принцип его работы - см. мое первое сообщение в этой теме. И никогда в жизни такому ИИ и в "голову" не придет что на самом деле виной всему - еще один газовый планетогигант.

Возможно, персептрону не придет, и вообще любой обучаемой системе!!! Но это и есть "критический подход" к своим знаниям и тем моделям, которые были придуманы. Без этого нет обучения в принципе. Но это всего лишь проблема использования обучаемых систем. Если взять экспертную систему (ЭС), основанную, скажем, на правилах. Скорее всего, по тем же Кеплеровским законам ЭС определила бы наличие какого то большого тела, если бы ее спросили "В чем причина отклонения?". ЭС делая выводы, основывается в первую очередь на том, что ее база знаний правильна. И так как она может (в отличии от нейронных сетей) объяснять свои выводы, то скорее всего она столкнется с противоречием, а из него как раз и будет следовать что (1)либо не хватает планеты (2)либо измеряли не правильно (ну и проценты уверенности подставит). Если научиться получать объяснение с нейронов, то и персептрон будет делать подобные вещи! Вот, пожалуйста, сами пришли к одному из (известных) направлений в исследовании нейронных сетей.
[Ответ][Цитата]
NewPoisk
Сообщений: 3745
На: Что после перцептрона?
Добавлено: 21 ноя 06 15:58
>При чём тут Тейлор - совершенно неясно.

Читайте ИТ.

>Если научиться получать объяснение с нейронов, то и персептрон будет делать подобные вещи! Вот, пожалуйста, сами пришли к одному из (известных) направлений в исследовании нейронных сетей.

Премного рад, только вот "научиться получать объяснение с нейронов" - это черная дыра. Нейроны ведь не какие-нибудь там зеленые человечки, которые разговаривают на непонятном нам языке. Нейрон представляет собой обыкновенный сумматор, имеющий матмодель, описываемую довольно простой функцией вида y=f(x1,x2,...). И потому нейрон не может ничего ни объяснить ни не объяснить. Вообще бы я предпочел впредь вообще не упоминать таких понятий как "объяснение", "выводы", "противоречие", "если бы ее спросили", ну и т.д.. Потому что НИ ОДНО из этих понятий не имеет строгой математической трактовки. А без этой трактовки, увы, никак невозможно не только что-либо построить физически, но даже запрограммировать. Да вы и сами можете легко в этом убедиться: попробуйте создать какой-нибудь простейший алгоритм который будет работать с данными понятиями. Шыш у вас что получится: кроме названий переменных ничего похожего на "объяснения" и "выводы" в компьютерной программе нет. Только числа, строки и элементарные операции над ними. Вот и всё. А все эти умные слова на самом деле не более чем выводимые на экран монитора заданные вами же строковые константы (или формируемые динамически из набора символов по заданным же вами формулам, что в принципе одно и то же). Короче всё это дурь и чушь, годами морочающая головы исследователям ИИ. Никакого интеллекта на этом пути нет и никогда не будет. Придирки? Так посмотрите еще раз на уже весьма и весьма немолодую историю ИИ-исследований. Ведь немало денег и сил вбухали в ИИ-программирование. Где результат?

Кстати, Андрей, к сожалению к вашей теории эти невеселые выводы относиться сполна. По крайней мере я там у вас не увидел ни одного математически строго определенного фундаментального понятия. Опять та же песня: балансы, дисбалансы, абстракции, уровни восприятия и аналогичное. В металле-то как все это воплощать будете, об этом подумали?
[Ответ][Цитата]
Львович
Сообщений: 303
На: Что после перцептрона?
Добавлено: 21 ноя 06 16:46
Здравствуйте, NewPoisk!
Прежде хочу поблагодарить Вас за интегральную теорию! Хотя я с ней и... не согласен. И прежде всего с базовыми понятиями объектов, а следовательно и с последующими выводами. Но главное, в ней Вы великолепно продемонстрировали, КАК надо подходить к этой проблеме, а именно начать с элементарных, атомарных понятий, построить простейшие обучающиеся объекты, и только затем ПОСТЕПЕННО переходить к более сложным. К сожалению все остальные исследователи пытаются объединить до кучи толпу нейронов, клеток, ячеек, сфер (Андрей, нечего личного!) и ждать от нее чуда, т.е. интеллекта. Как говорил Рабинович, "не дождетесь!"
Я не зря отметил, что перцептрон это "немного другое". В теории НС доказывается, что любая многослойная сеть эквивалентна двухслойной сети с необучаемым первым слоем. Фактически же она эквивалентна логической матрице. Проблема в том, что такие перцептроны:
1. не учитывают взаимовлияния входных паттернов (предыдущих на последующие);
2. не способны "думать" автономно (без входных паттернов).
Мне удалось преодолеть первое ограничение. Сейчас работаю над вторым. Причем все это уже "в металле". Эх где бы найти время... Кто там писал, что человек свободен...?

К сожалению нам приходится использовать в отношении ИИ бытовую терминологию "думает", "если бы его спросили", за неимением другой. Это, конечно, очень плохо, потому что каждый понимает под ними свое и получается Вавилонская башня. Тем не менее, если эти понятия преварительно строго определены, но ничего страшного нет.
[Ответ][Цитата]
гость
132.70.50.*
На: Что после перцептрона?
Добавлено: 21 ноя 06 18:28
К сожалению форум глючит и не получилос войти под своим ником (daner)

NewPoisk это не придирки, ето глупост с вашей стороны. Explanation (объяснение) широко используется в эксперных системах. Conclusions ("выводы") и contradictions ("противоречия") вообще стандартные понятия любой логики!!!! да почитайте хотя бы метод резолюции, куда уж более математически а все это там пресудствует? Кстати, с нейронов иногда получается получать "обяснения", я даже несколько работ подобных видел.

Для меня способность перцептрона объяснять это умение анализировать его веса.
[Ответ][Цитата]
Андрей
Сообщений: 3943
На: Что после перцептрона?
Добавлено: 22 ноя 06 1:40
NewPoisk >> В металле-то как все это воплощать будете, об этом подумали?

Читайте мою тему на этом форуме начиная с: http://www.gotai.net/forum/Default.aspx?postid=1152#1152
Слепая вера в математику уже много раз обсуждалась, повторять всё заново не вижу смысла. Повторю только суть: истина не в мнимой строгости математики, а в совпадении теории и практики. Вдумайтесь.


Львович >> все остальные исследователи пытаются объединить до кучи толпу нейронов, клеток, ячеек, сфер

Львович, я нигде не писал, что все сферы должны бать задействованы одновременно в любом акте активности механизма ИИ, и что процесс их самоорганизации не будет похож на развёртывание механизма абстрактного мышления от малых союзов сфер ко всё бОльшим. Просто, видимо, Вы меня превратно поняли (ничего личного)
[Ответ][Цитата]
NewPoisk
Сообщений: 3745
На: Что после перцептрона?
Добавлено: 22 ноя 06 9:13
Львович

>Хотя я с ней и... не согласен. И прежде всего с базовыми понятиями объектов, а следовательно и с последующими выводами.

Почему?

>Мне удалось преодолеть первое ограничение.

Простой метод: пустите выход НС на ее же вход. Причем этот метод применим не только глоьально, но и к подсетям.

daner
>Explanation (объяснение) широко используется в эксперных системах. Conclusions ("выводы") и contradictions ("противоречия") вообще стандартные понятия любой логики!!!! да почитайте хотя бы метод резолюции, куда уж более математически а все это там пресудствует?

Вот вот. И вы попались на удочку умных слов. Взять хотя бы упомянутый вами метод резолюций. http://ai-center.botik.ru/planning/index.php?ptl=materials/aboutTheoremProving.htm там пример, начинающийся с фраз:
"Рассмотрим пример доказательства методом резолюций. Пусть у нас есть следующие утверждения:

"Яблоко красное и ароматное."
"Если яблоко красное, то яблоко вкусное.""

Затем словесные утверждения ПЕРЕВОДЯТСЯ в МАТЕМАТИЧЕСКУЮ форму (0/1 + набор бинарных/унарных операций) и уже только ПОСЛЕ этого начинает что-то доказываться. После доказательства имеет место обратный процесс: перевод в словесную форму. Так вот, переводы "туда" и "обратно" осуществляет человек. В них, в этих переводах, и закопана суть интеллекта: какое явление за какую переменную обозначить, формализация и деформализация реальной жизненной задачи и составляет творческую суть мышления. Это в случае если процесс решения заранее оговорен, т.е. идет по заранее расписанному алгоритму. Если такого алгоритма нет, то и само решение - также творческий процесс. Поэтому когда вы пишете что "с нейронов иногда получается получать "обяснения", я даже несколько работ подобных видел" я в это не верю, поскольку такого просто не может быть. В принципе. Это человек-исследователь интерпретирует состояние нейронов и это он и только он что-то "объясняет", деформализует. Сам нейрон, повторяю, "объяснить" свои действия не в состоянии, как и любой алгоритм.

Андрей
>Читайте мою тему на этом форуме начиная с: http://www.gotai.net/forum/Default.aspx?postid=1152#1152
Слепая вера в математику уже много раз обсуждалась, повторять всё заново не вижу смысла. Повторю только суть: истина не в мнимой строгости математики, а в совпадении теории и практики. Вдумайтесь.

Много там больно понаписано. Надо вдуматься. Позже отвечу. А насчет математики все же повторюсь. Строгость и тем более слепая вера тут совершенно не причем. Математика нужна для следующего. Конечная цель всех исследователей ИИ - создать ИИ в реальности. Т.е. либо это физическое устройство, либо программа. В первом случае для того чтобы сделать нужны инженеры, во втором - программисты. Характерно то, что ни первые ни вторые в ИИ ничего не смыслят - они могут работать ТОЛЬКО по готовым чертежа и алгоритмам. Поэтому чтобы объяснить инженерам и программистам что делать им надо представить чертеж и алгоритм соответственно. Но и чертеж и алгоритм - это матмодель устройства (физического или виртуального). Т.о. математика нужна вовсе не для того чтобы что-то там строго доказать - это посредник между вашими умствованиями (понятными только вам) и физикой реального мира. Без математики вы просто не сможете никому ничего объяснить что и как делать.
[Ответ][Цитата]
Андрей
Сообщений: 3943
На: Что после перцептрона?
Добавлено: 22 ноя 06 12:09
NewPoisk >> математика нужна вовсе не для того чтобы что-то там строго доказать - это посредник между вашими умствованиями (понятными только вам) и физикой реального мира. Без математики вы просто не сможете никому ничего объяснить что и как делать.

NewPoisk, допустим я Вам говорю: "Возьмите на полке пирожок" - Вы сможете успешно выполнить это действие? Конечно! ГДЕ ЗДЕСЬ МАТЕМАТИКА?! У Вас в голове? Если так, то вот это и есть Ваша вера! Вера в математику в основе мышления или мира.
Если математика для Вас содержится во всём, то зачем тогда использовать столь расплывчатый термин. Давайте тогда так и говорить - всё!
[Ответ][Цитата]
daner
Сообщений: 4593
На: Что после перцептрона?
Добавлено: 22 ноя 06 13:50
Абсолютно согласен с NewPoisk-ом по поводу необходимости "математики". Математика не наука, а язык формализации. "Взять пирожок с полки" простейший акт действия. Причем даже он, интерпретируется поразному разными людьми. Математика нужно что бы убрать противоречия в понимании. 2+2 понимается только одним способом и никак иначе! Как следствие того что противоречия убираются, обычно, сразу становятся видны логические ошибки и т.д.

Абсолютно не согласен с NewPosik-ом по поводу "умных слов".
Я не утверждал что нейронные сети на сегодня и в том виде в котором они сей час, способны понять, что они, что то , там объясняют. Для этого у системы должно быть свойство "самосознания", чего в сетях пока нет (а вот в других системах над этим работают, видел какую-то статью под названием "Мелос", по-моему. Но, к сожалению, времени вчитаться не было). Уверен, что большая часть человеческого мозга , тоже не особо понимает что там в ней происходит. Но от этого весь мозг в целом не становится менее интеллектуальным. Что касается НС... посмотрим, возможно, появятся "сети интерпретаторы" или "сети самосознания" которые сами по себе никакой творческой деятельности кроме как интерпретации существующих закономерностей ничего делать не смогут. А вот творческую работу по нахождению закономерностей, будут делать другие сети. Кстати, вы не правы что НС не делает ни какой творческой работы? Еще какую делает!!! Умудряется находить закономерности в таких последовательностях, в которых даже человеку не всегда под силу, не то что объяснить как он это делает!!! Сомневаюсь что при всем вашем интеллекте, вы сможете объяснить, как вы различаете животных, даже на картинах экспрессионистов.
[Ответ][Цитата]
 Стр.1 (6): [1]  2  3  4  5  6След. > >>