GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.26 (36)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Об одном подходе к решению задачи создания СИИ
LiveBaster
Сообщений: 159
На: Об одном подходе к решению задачи создания СИИ
+1
Добавлено: 16 апр 17 12:02
Цитата:
Автор: Траянесли мы хотим идти по "эволюционному" пути, т.е. по пути постепенного, поэтапного создания "в железе" все более и более совершенных и интеллектуальных устройств.

И ещё раз к вопросу о макс./мин.:
Цитата:
Автор: ТраянА в том, что ЕИ способен руководствоваться лишь такой предельно простой низкоуровневой целью как получение макс. удовольствия и мин. боли можно легко убедиться с помощью прямых экспериментов.

"- Главное - что? - с готовностью провозгласил Выбегалло. - Главное,
чтобы человек был счастлив. Замечаю это в скобках: счастье есть понятие
человеческое. А что есть человек, философски говоря? Человек, товарищи,
есть хомо сапиенс, который может и хочет. Может, эта, все, что хочет, а
хочет все, что может. Нес па, товарищи? Ежели он, то есть человек, может
все, что хочет, а хочет все, что может, то он и есть счастлив. Так мы его
и определим. Что мы здесь, товарищи, перед собой имеем? Мы имеем модель.
Но эта модель, товарищи, хочет, и это уже хорошо. Так сказать, экселент,
эксви, шармант... [чудесно, превосходно, прелестно.] И еще, товарищи, вы
сами видите, что она может. И это еще лучше, потому что раз так, то она...
Он, значить, счастливый. Имеется метафизический переход от несчастья к
счастью, и это нас не может удивлять, потому что счастливыми не рождаются,
а счастливыми, эта, становятся. Вот оно сейчас просыпается... Оно хочет. И
потому оно пока несчастливо. Но оно может, и через это "может" совершается
диалектический скачок. Во, во!.. Смотрите! Видали, как оно может? Ух ты,
мой милый, ух ты, мой радостный!.. Во, во! Вот как оно может! Минут
десять-пятнадцать оно может... Вы, там, товарищ Питомник, свой
фотоаппаратик отложите, а возьмите вы киноаппаратик, потому как здесь мы
имеем процесс... здесь у нас все в движении! Покой у нас, как и полагается
быть, относителен, движение у нас абсолютно. Вот так. Теперь оно смогло и
диалектически переходит к счастью. К довольству, то есть. Видите, оно
глаза закрыло. Наслаждается. Ему хорошо."
[Ответ][Цитата]
Траян
Сообщений: 284
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 17 апр 17 1:48
Изменено: 17 апр 17 2:48
Цитата:
Автор: гость

> Будучи уже сгенерированной положительная эмоция всегда имеет одинаковый вес и одинаково воспринимается.

тут нужно разобраться с различием физиологической базы эмоции и образе этой эмоции в психологическом слое. - рюмка водки физиологически, скажем, вызывает выделение одинакового количества соотв. химических факторов,... - но на психологическом уровне эта химия проявится по-разному - в зависимости от сопутсвующих иных эмоций она может усилиться, может ослабнуть (относительно 'нейтрального' положения). Механика эмоций многоуровнева ... высшие абстракции, поддерживаемые лобным кортексом тоже имеют эмоциональные маркеры...


Все это верно, но все это опять не о том. Вы пишите - и совершенно справедливо - о том, что процесс порождения эмоции очень сложен, преходящ, многоуровнев и обуславливается кучей самых разных факторов.

Я же говорю о том, что эмоция будучи уже сгенерированной автоматически является эмоцией воспринятой и пережитой. Когда событие получения субъективного удовольствия становится сбывшимся фактом.

И ЕИ при выборе действий руководствуется именно такими эмоциями.

При выборе действия пития рюмки водки он руководствуется не результатом "рюмка выпита", следствием которого может быть, а может и не быть положительная эмоция, а результатом "получена положительная эмоция".

Будет или нет он получен? Какова вероятность того, что выпив рюмку будет получено/воспринято/пережито чувство удовольствия?

[Ответ][Цитата]
Траян
Сообщений: 284
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 17 апр 17 2:03
Изменено: 17 апр 17 2:49
Цитата:
Автор: гость
вот тут-то и дилемма - то ли от многофакторной неопределенности и векторного поиска к редукции избыточности и более-менее 'одномерным' механизмам или от скаляров к суперскалярам при том, что наращивать нужную сложность может оказаться труднее чем привнести ее изначально в базис..


Причина того, почему я решил начинать с предельного упрощения объясняется двумя простыми обстоятельствами:

Во-первых, даже такую, предельно простую модель реализовать в виде реально существующей и работающей конструкции очень, очень, ОЧЕНЬ трудно.

Практически, сложность этой задачи близка к тому пределу, при достижении которого для меня эта задача стала бы вообще непосильной.

Даже создание элементарной модели процесса выработки одношаговых условных рефлексов на уровне плоских червей (планарий) и брюхоногих моллюсков (аплизии), потребовало решение таких сверх-трудных проблем, как индуктивный вывод и уточнение интерпретации понятия вероятности - на что ушел не один год.

Сейчас же, следующий этап совершенствования этих рефлексов требует решения проблемы многошагового прогнозирования, а в этой проблеме столько всяких нерешенных задач, столько темных и запутанных моментов и нюансов, что впору отчаяться и махнуть на все рукой.

Во-вторых, вычислительные возможности тех компьютеров, которые имеются в моем распоряжении слишком слабы для начинания работы с более сложного начального базиса чем тот, который я использовал.
[Ответ][Цитата]
Траян
Сообщений: 284
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 17 апр 17 2:28
Изменено: 17 апр 17 2:32
Цитата:
Автор: LiveBaster
И ещё раз к вопросу о макс./мин.:

"- Главное - что? - с готовностью провозгласил Выбегалло. - Главное,
чтобы человек был счастлив... "


Стругацкие (особенно ранние), конечно, молодцы. И в своих книжках затрагивали очень интересные вопросы, и приведенный Вами отрывок имеет прямое отношение к обсуждаемой нами теме - но суть в том, что содержащийся в нем посыл отнюдь не противоречит тому принципу целеобразования, который я использую в своем подходе, а подтверждает его.

"Этот Выбегалло заявлял, что все беды, эта, от неудовольствия проистекают и ежели, значить, дать человеку всё — хлебца, значить, отрубей пареных, — то и будет не человек, а ангел." (с)

То, что этот тезис неверен совершенно ясно из общих соображений и доказывается прямыми экспериментами (крысы с электрической само-стимуляцией центра удовольствия
вовсе не достигли какого-либо просветления).

"Счастье данной модели будет неописуемым. Она не будет знать ни голода, ни жажды, ни зубной боли, ни личных неприятностей. Все её потребности будут мгновенно удовлетворяться по мере их возникновения...
Это будет исполин духа и корифей!" (c)

PS В научной фантастике теме ИИ, и механизмам его целеобразования большое внимание уделял С. Лем. Его рассказ Собысчас я считаю лучшим произведением по данной теме.
[Ответ][Цитата]
Траян
Сообщений: 284
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 17 апр 17 2:46
В общем-то, понять, что дело обстоит именно таким образом, можно и чисто логически, исходя из самых общих рациональных соображений,

но и прямые эксперименты с изучением процессов образования условных рефлексов, проводимые как с непосредственно реальными живыми существами, так и в машинном моделировании с программой СПИ показывают одно и то же:

наиболее эффективным образом усовершенствования, усложнения поведения агента можно добиться в том случае, когда он получает подкрепления не слишком часто, и общее кол-во получаемых им положительных и отрицательных подкреплений приблизительно равно.

Индивидуальное интеллектуальное развитие агента невозможно обеспечить лишь только положительными (или лишь только отрицательными подкреплениями), которые даются слишком легко.
[Ответ][Цитата]
гость
78.25.123.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 17 апр 17 5:39
Т.> И ЕИ при выборе действий руководствуется именно такими эмоциями.

нет, общая физиология решения это далеко не max(Pos-Neg).. cам по себе выбор иерархизирован - быстрые реакции осуществляются лишь с последующим оформлением эмоциональным хвостом, так и отложенные реакции, выторможенные при участии сознательного контроля, осуществяются как производное некоего процесса принятия решения, который опять же только сопровождается эмоциональным фоном. ОБщий механизм принятия решения это некая композиция (не уточняем) эмоциональных, (мета)когнитивных, волевых процессов.
мотивационная доминанта формируется комплексно - и потребности, и эмоциональные оценки, и когнитвные коррекции оценок, и волевые влияния.
[Ответ][Цитата]
гость
78.25.121.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 апр 17 0:13
я бы предложил что-то вроде такой псевдоформулы (Э1,Э2..Эi)->(Э*1,..Э*j)->Norm, где позитивные и негативные компоненты входят в каждую базовую эмоцию вида Эk (которые характеризуются еще интенсивностью) и обобщенно-вторичную эмоцию вида Э*к'. Как бы вектор эмоций преобразуется на эмоциональных картах и порождает нормализующую реакцию (действие) - снимающую мотивационное напряжение и/или приводящую к изменению эмоционального вектора что приводит к дальнейшему порождению реакций.
[Ответ][Цитата]
ЭГТРВ http://egtd.ru
Сообщений: 7007
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 апр 17 1:38
Изменено: 18 апр 17 2:00
Цитата:
Автор: Траян
Какова вероятность того, что выпив рюмку будет получено/воспринято/пережито чувство удовольствия?

Выпить можно и для храбрости и от несчастья.... просто так в качестве эксперемента....
[Ответ][Цитата]
ЭГТРВ http://egtd.ru
Сообщений: 7007
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 апр 17 1:59
Изменено: 18 апр 17 2:28
Цитата:
Автор: гость

я бы предложил что-то вроде такой псевдоформулы (Э1,Э2..Эi)->(Э*1,..Э*j)->Norm, где позитивные и негативные компоненты входят в каждую базовую эмоцию вида Эk (которые характеризуются еще интенсивностью) и обобщенно-вторичную эмоцию вида Э*к'. Как бы вектор эмоций преобразуется на эмоциональных картах и порождает нормализующую реакцию (действие) - снимающую мотивационное напряжение и/или приводящую к изменению эмоционального вектора что приводит к дальнейшему порождению реакций.
Нет позитивных и негативных компонент (эмоция от огня позитивная и негативная в зависимости от события). Есть абсолютная эмоция: вектора формы нейронной активности. Эта эмоция связанна с образом сознания и представляет в комплексе знание об объекте. Все активные эмоции связанные с качествами элементов события (и состояния организма) накладываются друг на друга формируя результирующую эмоцию. Эта эмоция (интенция) размышляется в модель поведения в среде и если она совпадает с целеполаганием сознания то возникает позитив "я" (прав) если нет то негатив "Я" (не прав). Сознание способно к оценки эмоций только до осмысления и после размышления (причём "до осмысления - обычно не значимо, инстинктивно), по этому они имеют только уровень возбуждения связанный со значимостью и знак связанный с достижением цели. В нашем сознании это только хорошо - плохо и "уровень" этого хорошо - плохо. (Этого явно не достаточно для определения понятия Эмоция. ЭГТР - даёт достаточное определение.)
Далее хорошо (плохо) обрабатывается другими структурами мозга отвечающими за упорядочивание знаний и опыта. Здесь речь идёт о разрушении (ослаблении) или подтверждении (усилении) формы векторной нейронной активности. Получение нового знания или подтверждения старого. Эти процессы притекают в памяти, причём подтверждение вызывает в "наблюдателе-Я" состояние удовольствия сознания, а разрушение знаний - состояние страдания.
ЗЫ. (надо-бы блок схему продвинуть в этом плане).
[Ответ][Цитата]
Траян
Сообщений: 284
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 апр 17 5:52
Цитата:
Автор: гость
я бы предложил что-то вроде такой псевдоформулы (Э1,Э2..Эi)->(Э*1,..Э*j)->Norm, где позитивные и негативные компоненты входят в каждую базовую эмоцию вида Эk (которые характеризуются еще интенсивностью) и обобщенно-вторичную эмоцию вида Э*к'. Как бы вектор эмоций преобразуется на эмоциональных картах и порождает нормализующую реакцию (действие) - снимающую мотивационное напряжение и/или приводящую к изменению эмоционального вектора что приводит к дальнейшему порождению реакций.


На мой взгляд, это все достаточно очевидные, само собой разумеющиеся соображения.
Аналогичные идеи можно найти и у Симонова и у Леонтьева и в других формальных моделях эмоций (коих напридумывали вагон и маленькую тележку).
И формулу подобную Вашей я тоже где-то встречал, помнится, лежала у меня на столе распечатка пдф файла со статьей (не помню уж чьей).

Короче говоря, общие соображения о том, что такое эмоции и как они могут быть задействованы в управлении поведением достаточно очевидны и лежат, что называется, на поверхности.

Но вот научная ценность их - на мой взгляд - пока невелика.

[Ответ][Цитата]
Траян
Сообщений: 284
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 апр 17 6:06
Цитата:
Автор: Траян
Но вот научная ценность их - на мой взгляд - пока невелика.


Как известно, Резерфорд делил всю науку на физику и "собирание марок".

Так вот, все существующие теории эмоций он наверняка бы отнес к этому самому "собиранию марок".

Я бы использовал более мягкое выражение. В контексте задачи создания СИИ это все - на мой взгляд - "необоснованное забегание вперед" и пример "поверхностного имитационного" подхода.
[Ответ][Цитата]
гость
78.25.123.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 апр 17 7:50
так если очевидно, То зачем упор на очевидно неадекватную затею с maх(Pos-Neg)?? еще понятны модели рациональных агентов, которые максимизируют прогнозные суммы вознаграждений/наказаний, но напрямую 'калькулировать' эмоции как критерий выбора это перебор..
[Ответ][Цитата]
гость
78.25.123.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 18 апр 17 7:54
тем более что сам по себе критерий в такой форме неполон - что предпочесть 3-2 (3 единицы позитива и 2 ед. негатива) или 5-4, или 3 ед. позитива одного типа трем же ед. другого? каков кросс-курс ценности единиц эмоций разных типов?
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 2842
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 19 апр 17 14:17
Цитата:
Автор: Траян
наиболее эффективным образом усовершенствования, усложнения поведения агента можно добиться в том случае, когда он получает подкрепления не слишком часто, и общее кол-во получаемых им положительных и отрицательных подкреплений приблизительно равно.

А тем временем альтернативной технологии (сравнимой по эффективности, как показано в статье) плевать на подкрепления и прочие балансы. Из аннотации:
we highlight several advantages of ES as a black box optimization technique: it is invariant to action frequency and delayed rewards, tolerant of extremely long horizons, and does not need temporal discounting or value function approximation.
http://arxiv.org/abs/1703.03864

Не агитирую за неё - но думаю, что Ваших СИИ-агентов вполне можно или запустить одновременно жить в мире (в разных его "точках") и потом выбрать лучших, или просто стравить их друг с другом в каком-то турнире. Как и LiveBaster'у можно сгенерировать рандомный холмистый рельеф и запускать его страусов кататься с разных точек по разным азимутам, после чего отбирать "на племя" лучших горнолыжников.
[Ответ][Цитата]
LiveBaster
Сообщений: 159
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 19 апр 17 16:34
Цитата:
Автор: Траян
То, что этот тезис неверен совершенно ясно из общих соображений и доказывается прямыми экспериментами (крысы с электрической само-стимуляцией центра удовольствия
вовсе не достигли какого-либо просветления).

На мой взгляд, эмоции - это конструктивная особенность биологических тел, т.е. к интеллекту/разуму они не имеют отношения.
Тело отдельно - разум отдельно.
[Ответ][Цитата]
 Стр.26 (36)1  ...  22  23  24  25  [26]  27  28  29  30  ...  36<< < Пред. | След. > >>