GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.25 (112)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Об одном подходе к решению задачи создания СИИ
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 15 апр 17 8:15
Цитата:
Автор: гость
вы сверхупрощаете


Естественно. А иначе - никак, надо же с чего-то начинать. Используемое мной "сверх-упрощение" хорошо тем, что оно позволяет создавать реально работающие модели, т.е. сделать шаг от бесконечного отвлеченного мудроствования и диванной философии к практическим разработкам. Которые любой человек может пощупать руками и погонять в разных режимах. Адекватность же именно такого упрощения может быть объяснена тем, что получившиеся модели демонстрируют поведение внешне сходное с поведением живых существ. Что может означать то, что нам удалось ухватить нечто действительно важное.

Цитата:
Автор: гость
решается дилемма большого вознаграждения с большой неопределенностью и меньшего с меньшей, общая проблематика выбора в условиях неопределенности и риска


При решении задачи максимизации одной-единственной скалярной величины такой дилеммы не возникает. Все сводится к сравнению величин математических ожиданий.

Цитата:
Автор: гость
нет, даже собственно внутреннее подкрепление имеет разную ценность в разных внутренних контекстах. Удовольствие от каждой новой рюмки водки зависит от текущей компании (даже если пока не зависит от уже выпитого)..


Похоже, этот момент Вы не до конца понимаете. Будучи уже сгенерированной положительная эмоция всегда имеет одинаковый вес и одинаково воспринимается. Но вот сгенерироваться эта эмоция - даже в одних и тех же (внешне) ситуациях - может не всегда.

Цитата:
Автор: гость
да не спорю я, я только пытюсь обратить ваше внимание на заведомые упрощения (упрощая учитывайте 'цену' упрощения).


Этот момент я постоянно стараюсь иметь в виду. Но без начального предельного упрощения нам никак не обойтись, если мы хотим идти по "эволюционному" пути, т.е. по пути постепенного, поэтапного создания "в железе" все более и более совершенных и интеллектуальных устройств. На каждом этапе контролируя и проверяя работоспособность создаваемых конструкций, т.е. контролируя правильность выбранного направления.
[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 15 апр 17 8:23
Цитата:
Автор: бессмертный сложный
Тут какая то ошибка...


Тут скорее то, что уважаемый Хмур называет "сверх-упрощением".

В небольших (штатных) количествах кортизол, как и скажем, серотонин, вообще себя никак не проявляет, хотя и выполняет кучу полезных регуляторных функций.

Но при значительных выбросах этих веществ начинает сказываться психогенный эффект.
[Ответ][Цитата]
гость
78.25.120.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 16 апр 17 3:01
Т.> А иначе - никак

ну, понятно, если вы про собственный поход, - я более про поход общий, таких начал с больших упрощений известно много, пора бы и усложнять базовую логику..

> нечто действительно важное.

а может оказаться 'более важным' именно эти отличая реального поведения от идеализированных сверхупрощенных моделей..
иррациональность в поведении рациональных агентов оборачивается 'cверхрациональностью' или даже чем-то более важным чем 'рациональность'..

> максимизации одной-единственной скалярной величины

а реально в базисе процесс фрустрированного поиска, многокритериальная (векторная) оптимизация, как это упоминалось михайле.
реально учитывается при выборе не только матожидание выигрыша, но и дисперсия (понятие риска уточняется по-разному) - а в сложных средах они вообще не характеризуются устойчивыми моментами.
про адаптивность критерия выбора это важно, думайте над этим. Уже простые описания механики (психофизиологии) выбора говорят о балансировании оценщиков полезности высоковероятных и низковероятных событий, об этом самом активном учете структуры ситуации при формировании действующего критерия выбора.

> Будучи уже сгенерированной положительная эмоция всегда имеет одинаковый вес и одинаково воспринимается.

тут нужно разобраться с различием физиологической базы эмоции и образе этой эмоции в психологическом слое. - рюмка водки физиологически, скажем, вызывает выделение одинакового количества соотв. химических факторов, образ рюмки, скажем, ассоциирован с более-менее постоянным аффективным маркером (который регенерируется, Обновляется), который при активации продуцирует более-менее постоянное количество этих факторов, - но на психологическом уровне эта химия проявится по-разному - в зависимости от сопутсвующих иных эмоций она может усилиться, может ослабнуть (относительно 'нейтрального' положения). Механика эмоций многоуровнева - над лимбической системой надстроена поясная кора, картирующая эмоциональный фон, а над поясной извилиной надстроен высший отдел эмоционального анализатора (префронтальная кора), который модулирует эмоциональные распределения на поясных картах (а те в свою очередь на лимбических аппаратах) потому, что высшие абстракции, поддерживаемые лобным кортексом тоже имеют эмоциональные маркеры.
как бы один прообраз имеет разные образы или один образ может иметь разные прообразы.

> по "эволюционному" пути,

вот тут-то и дилемма - то ли от многофакторной неопределенности и векторного поиска к редукции избыточности и более-менее 'одномерным' механизмам или от скаляров к суперскалярам при том, что наращивать нужную сложность может оказаться труднее чем привнести ее изначально в базис..
[Ответ][Цитата]
LiveBaster
Сообщений: 247
На: Об одном подходе к решению задачи создания СИИ
+1
Добавлено: 16 апр 17 12:02
Цитата:
Автор: Траянесли мы хотим идти по "эволюционному" пути, т.е. по пути постепенного, поэтапного создания "в железе" все более и более совершенных и интеллектуальных устройств.

И ещё раз к вопросу о макс./мин.:
Цитата:
Автор: ТраянА в том, что ЕИ способен руководствоваться лишь такой предельно простой низкоуровневой целью как получение макс. удовольствия и мин. боли можно легко убедиться с помощью прямых экспериментов.

"- Главное - что? - с готовностью провозгласил Выбегалло. - Главное,
чтобы человек был счастлив. Замечаю это в скобках: счастье есть понятие
человеческое. А что есть человек, философски говоря? Человек, товарищи,
есть хомо сапиенс, который может и хочет. Может, эта, все, что хочет, а
хочет все, что может. Нес па, товарищи? Ежели он, то есть человек, может
все, что хочет, а хочет все, что может, то он и есть счастлив. Так мы его
и определим. Что мы здесь, товарищи, перед собой имеем? Мы имеем модель.
Но эта модель, товарищи, хочет, и это уже хорошо. Так сказать, экселент,
эксви, шармант... [чудесно, превосходно, прелестно.] И еще, товарищи, вы
сами видите, что она может. И это еще лучше, потому что раз так, то она...
Он, значить, счастливый. Имеется метафизический переход от несчастья к
счастью, и это нас не может удивлять, потому что счастливыми не рождаются,
а счастливыми, эта, становятся. Вот оно сейчас просыпается... Оно хочет. И
потому оно пока несчастливо. Но оно может, и через это "может" совершается
диалектический скачок. Во, во!.. Смотрите! Видали, как оно может? Ух ты,
мой милый, ух ты, мой радостный!.. Во, во! Вот как оно может! Минут
десять-пятнадцать оно может... Вы, там, товарищ Питомник, свой
фотоаппаратик отложите, а возьмите вы киноаппаратик, потому как здесь мы
имеем процесс... здесь у нас все в движении! Покой у нас, как и полагается
быть, относителен, движение у нас абсолютно. Вот так. Теперь оно смогло и
диалектически переходит к счастью. К довольству, то есть. Видите, оно
глаза закрыло. Наслаждается. Ему хорошо."
[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 17 апр 17 1:48
Изменено: 17 апр 17 2:48
Цитата:
Автор: гость

> Будучи уже сгенерированной положительная эмоция всегда имеет одинаковый вес и одинаково воспринимается.

тут нужно разобраться с различием физиологической базы эмоции и образе этой эмоции в психологическом слое. - рюмка водки физиологически, скажем, вызывает выделение одинакового количества соотв. химических факторов,... - но на психологическом уровне эта химия проявится по-разному - в зависимости от сопутсвующих иных эмоций она может усилиться, может ослабнуть (относительно 'нейтрального' положения). Механика эмоций многоуровнева ... высшие абстракции, поддерживаемые лобным кортексом тоже имеют эмоциональные маркеры...


Все это верно, но все это опять не о том. Вы пишите - и совершенно справедливо - о том, что процесс порождения эмоции очень сложен, преходящ, многоуровнев и обуславливается кучей самых разных факторов.

Я же говорю о том, что эмоция будучи уже сгенерированной автоматически является эмоцией воспринятой и пережитой. Когда событие получения субъективного удовольствия становится сбывшимся фактом.

И ЕИ при выборе действий руководствуется именно такими эмоциями.

При выборе действия пития рюмки водки он руководствуется не результатом "рюмка выпита", следствием которого может быть, а может и не быть положительная эмоция, а результатом "получена положительная эмоция".

Будет или нет он получен? Какова вероятность того, что выпив рюмку будет получено/воспринято/пережито чувство удовольствия?

[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 17 апр 17 2:03
Изменено: 17 апр 17 2:49
Цитата:
Автор: гость
вот тут-то и дилемма - то ли от многофакторной неопределенности и векторного поиска к редукции избыточности и более-менее 'одномерным' механизмам или от скаляров к суперскалярам при том, что наращивать нужную сложность может оказаться труднее чем привнести ее изначально в базис..


Причина того, почему я решил начинать с предельного упрощения объясняется двумя простыми обстоятельствами:

Во-первых, даже такую, предельно простую модель реализовать в виде реально существующей и работающей конструкции очень, очень, ОЧЕНЬ трудно.

Практически, сложность этой задачи близка к тому пределу, при достижении которого для меня эта задача стала бы вообще непосильной.

Даже создание элементарной модели процесса выработки одношаговых условных рефлексов на уровне плоских червей (планарий) и брюхоногих моллюсков (аплизии), потребовало решение таких сверх-трудных проблем, как индуктивный вывод и уточнение интерпретации понятия вероятности - на что ушел не один год.

Сейчас же, следующий этап совершенствования этих рефлексов требует решения проблемы многошагового прогнозирования, а в этой проблеме столько всяких нерешенных задач, столько темных и запутанных моментов и нюансов, что впору отчаяться и махнуть на все рукой.

Во-вторых, вычислительные возможности тех компьютеров, которые имеются в моем распоряжении слишком слабы для начинания работы с более сложного начального базиса чем тот, который я использовал.
[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 17 апр 17 2:28
Изменено: 17 апр 17 2:32
Цитата:
Автор: LiveBaster
И ещё раз к вопросу о макс./мин.:

"- Главное - что? - с готовностью провозгласил Выбегалло. - Главное,
чтобы человек был счастлив... "


Стругацкие (особенно ранние), конечно, молодцы. И в своих книжках затрагивали очень интересные вопросы, и приведенный Вами отрывок имеет прямое отношение к обсуждаемой нами теме - но суть в том, что содержащийся в нем посыл отнюдь не противоречит тому принципу целеобразования, который я использую в своем подходе, а подтверждает его.

"Этот Выбегалло заявлял, что все беды, эта, от неудовольствия проистекают и ежели, значить, дать человеку всё — хлебца, значить, отрубей пареных, — то и будет не человек, а ангел." (с)

То, что этот тезис неверен совершенно ясно из общих соображений и доказывается прямыми экспериментами (крысы с электрической само-стимуляцией центра удовольствия
вовсе не достигли какого-либо просветления).

"Счастье данной модели будет неописуемым. Она не будет знать ни голода, ни жажды, ни зубной боли, ни личных неприятностей. Все её потребности будут мгновенно удовлетворяться по мере их возникновения...
Это будет исполин духа и корифей!" (c)

PS В научной фантастике теме ИИ, и механизмам его целеобразования большое внимание уделял С. Лем. Его рассказ Собысчас я считаю лучшим произведением по данной теме.
[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 17 апр 17 2:46
В общем-то, понять, что дело обстоит именно таким образом, можно и чисто логически, исходя из самых общих рациональных соображений,

но и прямые эксперименты с изучением процессов образования условных рефлексов, проводимые как с непосредственно реальными живыми существами, так и в машинном моделировании с программой СПИ показывают одно и то же:

наиболее эффективным образом усовершенствования, усложнения поведения агента можно добиться в том случае, когда он получает подкрепления не слишком часто, и общее кол-во получаемых им положительных и отрицательных подкреплений приблизительно равно.

Индивидуальное интеллектуальное развитие агента невозможно обеспечить лишь только положительными (или лишь только отрицательными подкреплениями), которые даются слишком легко.
[Ответ][Цитата]
гость
78.25.123.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 17 апр 17 5:39
Т.> И ЕИ при выборе действий руководствуется именно такими эмоциями.

нет, общая физиология решения это далеко не max(Pos-Neg).. cам по себе выбор иерархизирован - быстрые реакции осуществляются лишь с последующим оформлением эмоциональным хвостом, так и отложенные реакции, выторможенные при участии сознательного контроля, осуществяются как производное некоего процесса принятия решения, который опять же только сопровождается эмоциональным фоном. ОБщий механизм принятия решения это некая композиция (не уточняем) эмоциональных, (мета)когнитивных, волевых процессов.
мотивационная доминанта формируется комплексно - и потребности, и эмоциональные оценки, и когнитвные коррекции оценок, и волевые влияния.
[Ответ][Цитата]
гость
78.25.121.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 апр 17 0:13
я бы предложил что-то вроде такой псевдоформулы (Э1,Э2..Эi)->(Э*1,..Э*j)->Norm, где позитивные и негативные компоненты входят в каждую базовую эмоцию вида Эk (которые характеризуются еще интенсивностью) и обобщенно-вторичную эмоцию вида Э*к'. Как бы вектор эмоций преобразуется на эмоциональных картах и порождает нормализующую реакцию (действие) - снимающую мотивационное напряжение и/или приводящую к изменению эмоционального вектора что приводит к дальнейшему порождению реакций.
[Ответ][Цитата]
ЭСГТР
Сообщений: 8449
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 апр 17 1:38
Изменено: 18 апр 17 2:00
Цитата:
Автор: Траян
Какова вероятность того, что выпив рюмку будет получено/воспринято/пережито чувство удовольствия?

Выпить можно и для храбрости и от несчастья.... просто так в качестве эксперемента....
[Ответ][Цитата]
ЭСГТР
Сообщений: 8449
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 апр 17 1:59
Изменено: 18 апр 17 2:28
Цитата:
Автор: гость

я бы предложил что-то вроде такой псевдоформулы (Э1,Э2..Эi)->(Э*1,..Э*j)->Norm, где позитивные и негативные компоненты входят в каждую базовую эмоцию вида Эk (которые характеризуются еще интенсивностью) и обобщенно-вторичную эмоцию вида Э*к'. Как бы вектор эмоций преобразуется на эмоциональных картах и порождает нормализующую реакцию (действие) - снимающую мотивационное напряжение и/или приводящую к изменению эмоционального вектора что приводит к дальнейшему порождению реакций.
Нет позитивных и негативных компонент (эмоция от огня позитивная и негативная в зависимости от события). Есть абсолютная эмоция: вектора формы нейронной активности. Эта эмоция связанна с образом сознания и представляет в комплексе знание об объекте. Все активные эмоции связанные с качествами элементов события (и состояния организма) накладываются друг на друга формируя результирующую эмоцию. Эта эмоция (интенция) размышляется в модель поведения в среде и если она совпадает с целеполаганием сознания то возникает позитив "я" (прав) если нет то негатив "Я" (не прав). Сознание способно к оценки эмоций только до осмысления и после размышления (причём "до осмысления - обычно не значимо, инстинктивно), по этому они имеют только уровень возбуждения связанный со значимостью и знак связанный с достижением цели. В нашем сознании это только хорошо - плохо и "уровень" этого хорошо - плохо. (Этого явно не достаточно для определения понятия Эмоция. ЭГТР - даёт достаточное определение.)
Далее хорошо (плохо) обрабатывается другими структурами мозга отвечающими за упорядочивание знаний и опыта. Здесь речь идёт о разрушении (ослаблении) или подтверждении (усилении) формы векторной нейронной активности. Получение нового знания или подтверждения старого. Эти процессы притекают в памяти, причём подтверждение вызывает в "наблюдателе-Я" состояние удовольствия сознания, а разрушение знаний - состояние страдания.
ЗЫ. (надо-бы блок схему продвинуть в этом плане).
[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 апр 17 5:52
Цитата:
Автор: гость
я бы предложил что-то вроде такой псевдоформулы (Э1,Э2..Эi)->(Э*1,..Э*j)->Norm, где позитивные и негативные компоненты входят в каждую базовую эмоцию вида Эk (которые характеризуются еще интенсивностью) и обобщенно-вторичную эмоцию вида Э*к'. Как бы вектор эмоций преобразуется на эмоциональных картах и порождает нормализующую реакцию (действие) - снимающую мотивационное напряжение и/или приводящую к изменению эмоционального вектора что приводит к дальнейшему порождению реакций.


На мой взгляд, это все достаточно очевидные, само собой разумеющиеся соображения.
Аналогичные идеи можно найти и у Симонова и у Леонтьева и в других формальных моделях эмоций (коих напридумывали вагон и маленькую тележку).
И формулу подобную Вашей я тоже где-то встречал, помнится, лежала у меня на столе распечатка пдф файла со статьей (не помню уж чьей).

Короче говоря, общие соображения о том, что такое эмоции и как они могут быть задействованы в управлении поведением достаточно очевидны и лежат, что называется, на поверхности.

Но вот научная ценность их - на мой взгляд - пока невелика.

[Ответ][Цитата]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 апр 17 6:06
Цитата:
Автор: Траян
Но вот научная ценность их - на мой взгляд - пока невелика.


Как известно, Резерфорд делил всю науку на физику и "собирание марок".

Так вот, все существующие теории эмоций он наверняка бы отнес к этому самому "собиранию марок".

Я бы использовал более мягкое выражение. В контексте задачи создания СИИ это все - на мой взгляд - "необоснованное забегание вперед" и пример "поверхностного имитационного" подхода.
[Ответ][Цитата]
гость
78.25.123.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 апр 17 7:50
так если очевидно, То зачем упор на очевидно неадекватную затею с maх(Pos-Neg)?? еще понятны модели рациональных агентов, которые максимизируют прогнозные суммы вознаграждений/наказаний, но напрямую 'калькулировать' эмоции как критерий выбора это перебор..
[Ответ][Цитата]
 Стр.25 (112)1  ...  21  22  23  24  [25]  26  27  28  29  ...  112<< < Пред. | След. > >>