GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.61 (71)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Об одном подходе к решению задачи создания СИИ
СГТР http://egtd.ru
Сообщений: 7661
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 25 май 18 5:43
Изменено: 25 май 18 5:46
Цитата:
Автор: гость


даже если не рассматривать высокую человеческую жертвенность, то жертвенное поведение животных никак не укладывается в модель максимизации разницы позитивного и негативного на протяжении жизни - зачем рисковать жизнью если всегда есть возможность перекрыть текщий ущерб будущими гешефтами? зачем защищать птенцов в безнадежной ситуации с избыточным риском? Это как раз тот случай когда глобальный критерий никак не корреспондирует с локальным (на индивидуальном уровне). В локальные критерии индивида встроены глобальные критерии уровня группы, отчего индивидуальное поведление может быть нерациональным с уровня индивидуальной т.зр. В человека встроены нерациональные эмоции-регуляторы, которые можно рационализовать с коллективного уровня, но не с уровня индивидного maxR. Зачем втягиваться в спираль кровной мести, зачем отвергать выгодные, но несправедливые предложения, зачем испытывать стыд (и ему подчиняться когда выгода от бесстыдства реальна, а издержки большей частью виртуальны)?

Давайте не будим смешивать тёплое с мягким. Речь идёт об агенте, а не программисте. Жертвенность закладывается на уровне исходных данных поступающих из вне (из хромосом). Организм получает их как данность. Данность по отношению к эмоциям разума и как данность по отношению к эмоциям сохранения генотипа (птенцы). Нет у агента никакого коллектива. Он действует индивидуально. Формализация происходит на уровне границы раздела сред... агент-среда. Агент находится между средой и программистом. Его деятельность это корректировка и того и другого, а сам агент при этом является не возобновляемой моделью - расходным материалом, жертвой.
[Ответ][Цитата]
гость
188.170.74.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 26 май 18 1:51

ну, траян отчетливо дал понять нежелательность ваших комментариев - уж слишком велика концентрация невнятицы у вас. Против правил не реагировать больше на ваш бред, пока траян собирается с мыслями, заметим, что речь идет об искусственном агенте существенно (качественно) подобном естественному агенту (т.е. о 'cии'). генетическая система это подсистема организма и в общей постановке генетические данные никакая не 'данность' (а продукт). Коллективное присутсвует на уровне агента как продукт предшествующей интериоризации и генетической ассимиляции - агент предорганизован к усвоению языка и 'cоциальной включенности' (полинтересуйтесь работами томасселло хотя бы). Воздержитесь от бреда об 'эмоциях разума', 'формализации на границе сред' и 'возобновляемости модели' или потрудитесь излагать мысли более внятно.

ещше раз о чем идет речь. Траян выдвинул критерий maxR как кардинальный - на что ему заявлено что естественные агенты совершают поведенческие выборы 'локально' и эвристично (ориентируясь на набор критериев выбора), выбирают более-менее приемлемое поведение и не парятся ни о каком maxR (выбранная альтернатива локально 'лучшая'). Критики говорят о сомнительности прямого переноса представлений из области оптимального управления на естественного агента. Как бы интеллект появляется ДО ТОГО как появляется идея оптимального управления - идея оптимального управления приходит на ум разуму, но разум возникает не из идеи оптимального управления. Критика также сказали, что критерий maхR не гарантирует главного критерия - выживаемости (в смысле что чтобы быть способным жертвовать нужно быть сначала выживающим).
[Ответ][Цитата]
СГТР http://egtd.ru
Сообщений: 7661
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 26 май 18 5:04
Изменено: 26 май 18 14:07
Конечно генетический агент и программный это разные вещи, но мы пытаемся их объединить... не так ли?
Не важно что выдвинул Троян, важно к чему мы придём.
Генетическая информация по отношению к генетическому агенту это данность. Один раз переносится в конструкцию агента и более на него непосредственно не влияет. Она может участвовать в его алгоритмах в качестве данных, но алгоритмы менять уже не может. Алгоритмы меняет только сам Агент исходя из условий среды. Если вы с этим согласны, то можем двигаться далее.

[Ответ][Цитата]
гость
188.170.82.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 27 май 18 0:42

поймите меня правильно, я не исхожу из снобистской позиции, но как было много раз ранее показано в основаниях ваших представлений так много неадеквата и так недостаточно знаний по предмету, что особого 'продвижения' в диалоге быть не может. Вот уже в затронутом довольно простом вопросе уже проявляется ваше доктринальное недопонимание. Генетическая подсистема вовсе не пассивна при жизнедеятельности развернутого агента - как фактически, так и теоретически для общего случая. В ограниченных нейро-генетических моделях (типа coGAN) просто не рассматривается участие генетической активности в онтогенетическом развитии мозга (и его когнитивной функциональтной надстройки), синапсогенезе, обучении и стрессовых реакциях мозга (модели как бы в этом аспекте не замкнутые). Более того, никто не запрещает рассматривать и модели 'ламаркистского' типа для акселерации эффектов генетической ассимиляции (чтобы, cкажем, обеспечение функционального перенапряжения каких-то нейро-когнитивных систем по-быстрее получало генетическую прописку в мозгах новых поколений агентов) (ламаркисткие эффекты могут быть получены и при передаче эпигенетической информации).

для иллюстрации - в онтогенезе сначала у нас избыточный синапсогенез, потом элиминация нефункциональных синапсов и нейронов - механизмы апоптоза включает в себя генетическое звено - сначала нейрон 'пытается' найти функциональную специализацию и при неудаче метаболитические сигналы активируют 'домены смерти' механизма апоптоза - как бы имеется взаимодействие генетических и нейрональных программ (в каком-то смысле единый алгоритм нейро-генетической активности (для нейроспецифичных генов и для соотв. фаз развития, обучения и стресса)) (разумеется до поры до времени можно моделировать соотв. явления в абстракции от деталей реальности, т.cк. 'незамкнуто', но рано или поздно наверное придется обратить внимание на эти особенности).
[Ответ][Цитата]
kondrat
Сообщений: 3086
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 27 май 18 1:54
Изменено: 27 май 18 1:54
А как элегантно и красиво в системах передачи наследственной информации родители превращаются в убийц и обратно. Все три стадии формирования защиты играют (проактивная, активная и пассивная).
[Ответ][Цитата]
Траян
Сообщений: 629
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 27 май 18 3:18
Изменено: 27 май 18 4:11
Цитата:
Автор: гость
... агенту не известно его будующее и объективные ситуационные расклады и поэтому агент не ориентируется в текущих выборах на объективную линию махSumR - он не рассматривает все возможности и использует грубые оценки (еще и пересматриваемые на разных основниях), он может вообще не рассматривать далекий горизонт.


Агент может и не вникать в детали и варианты при прогнозировании на далекий горизонт.
Для такого прогнозирования он может задаться таким вопросом - Если я буду таким, как сейчас, так же (по тем же правилам) ежедневно обрабатывать входящую инфу и реагировать на поступающие внешние раздражители, то с такой своей конструкцией какую сумму наберу к старости?

Цитата:
Автор: гость
НЕ может быть чтобы все было так просто.

А все совсем не просто. Это только так, в первом приближении, без вникания в детали все представляется простым, а на самом деле - даже после такой прорывной формализации - все остается еще очень, очень, ОЧЕНЬ сложным.

Цитата:
Автор: гость
агент локально выбирает 'что получше и что поменьше обременено', но и локальные выборы построены на ПРЕДПОЧТЕНИЯХ (т.е. это паретовы выборы), на векторах (Posi,Negj), а не на примитивной арифметике выбора большего скаляра. Удовлетворяются потребности и разрешаются так или иначе мотивационные конфликты, а не калькулируется нормативная 'экономика' пользы-удовольствия - потребности порождают систему подкрепления, а не нормативный идеал гибкую систему мотивации.

Такого быть не может. Должна быть сквозная, всепроникающая и всеобъемлющая система оценок, единая шкала - иначе выбор как отдельных действий так и целых стратегий поведения оказывается невозможным. Чтоб выбрать какое-то одно действие из множества доступных, мы должны их каким-то образом сравнить между собой по степени предпочтительности - и выбрать наилучшее. Величина степени предпочтительности должна быть транзитивной и аддитивной - т.е. скалярной. Иначе говоря, сравнение и выбор возможно только в одной и той же системе измерения, одной и той же валюте. Мягкое должно сравниваться с мягким, холодное с холодным.

Цитата:
Автор: гость
даже если не рассматривать высокую человеческую жертвенность, то жертвенное поведение животных никак не укладывается в модель максимизации разницы позитивного и негативного на протяжении жизни - зачем рисковать жизнью если всегда есть возможность перекрыть текщий ущерб будущими гешефтами? зачем защищать птенцов в безнадежной ситуации с избыточным риском?


Птица, бросаясь защищать птенцов, конечно же не руководствуется отвлеченными рассуждениями о выживании вида или продвижении генома.

Похоже такие формы поведения задаются более простым и красивым образом. Ясное дело, что это не благоприобретенная на личном опыте, а сугубо врожденная форма поведения.
(Не зря же говорят о материнском инстинкте). Так вот, эволюция могла встроить такую реакцию в мозг птицы встраивая в нее врожденные/априорные высокоуровневые сложно-организованные знания вида: "Спасай птенцов иначе получишь отрицательное подкрепление такой жуткой величины, что не сможешь его перекрыть никакими последующими поощрениями."

То, что материнское самопожертвование задается именно таким образом - с помощью высокоуровневых знаний, а не безусловных рефлексов следует хотя бы из того, что отнюдь не все самки спасая птенцов идут до конца. Некоторые, даже при небольшой опасности, сравнительно легко их бросают. А некоторые вообще индифферентны к потомству.

Кстати говоря, и такое сложное и трудно формализуемое понятие как "личная смерть" скорее всего априорно задается именно таким - предельно четким и однозначным образом. Как явление сопровождаемое неким невообразимым в своей громадности страшно отрицательным подкреплением.
[Ответ][Цитата]
kondrat
Сообщений: 3086
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 27 май 18 3:27
Изменено: 27 май 18 3:27
Вообще, на пути от основного признака жизнедеятельности к нравственному закону (евангельской любви) на каждом шагу попадаются какие-то мучительные сложности. Хочется держать всё в фокусе внимания, кажется, что это очень просто (наверняка, так оно и есть!), всё, вроде, уже почувствовал и "увидел", но формулировки по-прежнему складываются с огромным трудом.
Когда окунаешься в общее и частное, в их взаимодействие в рамках жизненного процесса, становится не только невыносимо сложно, но и невыносимо интересно.
А уж преодолеть ещё одну ступеньку...
[Ответ][Цитата]
Траян
Сообщений: 629
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 27 май 18 3:38
Цитата:
Автор: СГТР http://egtd.ru
Вы упускаете разницу между физическим и интеллектуальным удовольствием.
В СГТР то вопрос решён.


Рад за Вас. Я вообще думаю, что данная ветка не совсем подходит для изложения Ваших - безусловно ценных и значительных - мыслей и рассуждений.

Почему бы Вам не держать их в более подходящем месте, где они не затеряются в массе плебейского трепа, не буду случайно или по небрежности стерты?

Дабы исключить саму возможность такой невосполнимой потери еще раз настоятельно рекомендую Вам в дальнейшем писать лишь в контролируемых лично Вами топиках, где вся информация о Вашей теории будет надежно сохранена - для благодарных потомков.

[Ответ][Цитата]
Траян
Сообщений: 629
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 27 май 18 3:55
Изменено: 27 май 18 3:57
Цитата:
Автор: гость
В человека встроены нерациональные эмоции-регуляторы, которые можно рационализовать с коллективного уровня, но не с уровня индивидного maxR. Зачем втягиваться в спираль кровной мести, зачем отвергать выгодные, но несправедливые предложения, зачем испытывать стыд (и ему подчиняться когда выгода от бесстыдства реальна, а издержки большей частью виртуальны)?


Цитата:
Автор: kondrat
Вообще, на пути от основного признака жизнедеятельности к нравственному закону (евангельской любви) на каждом шагу попадаются какие-то мучительные сложности. Хочется держать всё в фокусе внимания, кажется, что это очень просто (наверняка, так оно и есть!), всё, вроде, уже почувствовал и "увидел", но формулировки по-прежнему складываются с огромным трудом.


У коллективных животных (начиная с насекомых) имеется очень сложная система априорных высокоуровневых субъектно-ориентированных знаний, регулирующая множество аспектов поведения отдельного индивидуя в коллективе.

Но все они задаются именно через maxR - когда в нежелательные (нежелательные для выживания вида) действие приписывается угроза получения отриц. подкреплений, а желательные - обещание получения пол. подкреплений.

Причем, все эти обещалки - отнюдь не всегда пустой звук и страшилки. Метакогнитивная система управляющаяся со всем этим когнитивным зоопарком априорных ( и не только априорных) знаний может и сама генерировать подкрепления, про это я выше писал:
Цитата:
Автор: Траян
Справедливости ради нужно сказать, что у высших животных источниками пол. или отр. ощущений могут быть и психические процессы, но на данном этапе рассуждений это пока неважно.


Все эти угрызения совести, раскаяние, сожаления - с одной стороны, и чувства гордости, самодовольства, чувство победителя, радость от найденного решения трудной задачи и прочее - генерируются уже психикой/метакогнитивной системой управления.
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3084
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 27 май 18 9:29
Цитата:
Автор: Траян
Еще раз скажу - ЕИ/разум решает проблему выживания опосредованно, вовсе не желая этого и не стремясь к этому. Его цель - max(суммы пол. - суммы отр.)/

Именно это является той морковкой, стремясь к получению которой интеллект обеспечивает выживание своего носителя/организма.

Поэтому рассуждая о СИИ, о путях его построения, следует говорить не о стратегиях выживания, а о стратегиях способных максимизировать эту сумму разностей.

Ну, как-бы идея эта давно уже экспериментально опровергнута.
Например, см тут про цель в виде max(предсказуемость среды) http://afranius.livejournal.com/146465.html

А уж над вырожденными решениями Вашего определения - кто только не смеялся в литературе. Вспомним хотя-бы гончаровского "Обломова", который занулил себе сумму отрицательных, а исследовать/изменять мир (чтобы взять оттуда что-то новое положительное, м.б. лучшее, чем текущее обломовское положительное) не полез. Да и удовлетворённый желудочно кадавр в "Понедельнике..." тоже никуда не лез за пределы начальной точки, покуда сидел на потоке ресурса.
[Ответ][Цитата]
Траян
Сообщений: 629
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 27 май 18 11:29
Цитата:
Автор: Victor G. Tsaregorodtsev
Ну, как-бы идея эта давно уже экспериментально опровергнута...

Все приведенные Вами примеры не опровергают, а подтверждают принцип maxR. Вы и сами это легко поймете, если посидите подумаете над ними хотя бы 10-15 минут.
(Мне же просто лень подробно расписывать столь очевидные и банальные вещи.)

PS В художественной литературе различные аспекты мотивации на maxR лучше всего рассмотрены у Лема (в частности, в рассказе Собысчас).
[Ответ][Цитата]
NO.
Сообщений: 10700
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 27 май 18 23:09
Аргументы из литературы слишком кошерны.
[Ответ][Цитата]
гость
188.170.73.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 28 май 18 2:22
Т.>

из-за двойного смещения мы отклонились от начального вопроса о критерии (критериях) эволюции открытой системы к вопросу о 'законе поведения'.

> он может задаться таким вопросом

агент (досознательный) не задается таким вопросом, а сознательный озабочен таким количествыом вопросов и СИЮМОМЕНТНЫХ проблем, что вопрос об ОПТИМАЛЬНОСТИ накоплений остается чисто теоретическим (и если искусственного агента подчинить излишне жесткому нормативному критерию формирования повеления, то вы что-то потеряете от естественной гибкости).

> даже после такой прорывной формализации

'такая' формализация вовсе не прорывная - сверхупрощение не может быть прорывным.
еще раз - починить всю проблематику глобальной скалярной целевой функции это несусветное упрощение.

> Должна быть сквозная, всепроникающая и всеобъемлющая система оценок, единая шкала

cкаляризация это и есть сравнение теплого с мягким - теплое и мягкое можно сравнить по предпочтению - а предпочтения ситуационны и поэтому нет никакого фиксированного оценочного скаляра.

Унификации разнородных качеств вводятся ситуационно, условно, для тех или иных нужд 'рационализации' выбора - не нужно впадать в иллюзию что эти условности обладают всеобщей силой.

cкажем, критерий выживаемости доминирует над адаптированностью - самые адаптированные могут не выжить при смене условий. А адаптированость можно формализовать как способность извлекать приведенные подкрепления из среды. Чем лучше подкрепляешься тем адаптированнее - но.. ценой адаптабельности и риска невыживания при пертурбациях ниши.

тут пара моралей - не буть жадным в смысле махR - прими во внимание дефект любой системы формализованных подкреплений (усвоенный опыт Уже возможного опыта), и не смешивай вопрос о локальных выборах 'лучшего' (удовлетворения более актуальной потребности) с вопросом о подчиненности мифическому критерию экстремального управления своею жизнью. Принципы оптимальности (экстремальности) проявляются как некие коллективные глобальные ТЕНДЕНЦИИ (типо тенденции к более эффективному функционированию - причем даже критерий выживаемости трудно скаляризовать (он переходит в критерий устойчивости эстафет передачи жизни)), а не как законы, регулирующие поведение на индивидуальном уровне. На индивидуальном уровне многокритериальные выборы и околопаретовые состояния.

> А некоторые вообще индифферентны к потомству.

что означает что на индивидульном уровне НЕТ жеского единообразного принуждения к поведению - есть набор критериев и конкурентный выбор из из ситуационных констелляций - одни агенты не имеют материнского инстинкта, другие имеют в разной степени - вопрос о махR в вашей формулировке оказывается каким-то сверхупрощением и даже некоторой навязчивой идеей. Приемлемыми для эволюции (устойчивые эволюционные стратегии) оказываются разные точки в пространстве возможностей (области парето) - разные наборы (Роs->Norm, Neg->Norm), а не единственная точка Роs-Neg->мах.
[Ответ][Цитата]
Траян
Сообщений: 629
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 28 май 18 3:37
Изменено: 28 май 18 3:44
Цитата:
Автор: гость
Унификации разнородных качеств вводятся ситуационно, условно, для тех или иных нужд 'рационализации' выбора - не нужно впадать в иллюзию что эти условности обладают всеобщей силой.

cкажем, критерий выживаемости доминирует над адаптированностью - самые адаптированные могут не выжить при смене условий. А адаптированость можно формализовать как способность извлекать приведенные подкрепления из среды. Чем лучше подкрепляешься тем адаптированнее - но.. ценой адаптабельности и риска невыживания при пертурбациях ниши.


Что мы и наблюдаем в природе на каждом шагу. Почему среди особей какого-то биологического вида есть особи более успешно приспособившиеся - за счет обучения и воспитания - к текущим условиям среды, т.е. имеющие встроенные предпосылки для такого обучения для данных условий среды, а есть - менее.
Т.е. почему отдельные детали и подсистемы общей системы целеполагания даже в рамках одного вида бывают весьма и весьма вариабельными.

Казалось бы, нафига природе подобные излишества?

А вот для чего - при резкой смене условий обитания особи первого типа могут быстренько вымереть или маргинализироваться. Поскольку и то чему они ранее научились и то как они этому обучились (правила обучения) становятся вдруг бесполезными (или вредными). А многие бывшие ранее отщепенцами и лузерами в новых условиях вдруг выбиваются в альфы и расцветают.

Для выживания вида гибель отдельных особей - пустяк, накладные расходы. Это для самих индивидуев их смерть - трагедия, а для вида обычное дело. Собственную выживаемость, гибкость и универсальность своей адаптации вид как целое ставит выше интересов отдельных своих представителей.


Цитата:
Автор: гость
что означает что на индивидульном уровне НЕТ жеского единообразного принуждения к поведению - есть набор критериев и конкурентный выбор из из ситуационных констелляций

Единый общий принцип конечно же есть. Сомневающиеся в нем могут попробовать вживить себе пару электродов в центры боли и удовольствия (в более мягком варианте - попробовать подсесть на лошадиные дозы героина) - чтобы потом денно и ночно беспрерывно нажимать на педальку эл. подкрепления как та крыса - напрочь забыв про пищу, сон, секс и прочее - и свалиться в конце концов от полного изнеможения (или инсульта).

PS На этом нашу дискуссию о устройстве системы мотиваций ЕИ, о том, лежит ли в ее основе принцип MaxSum(dR), наверное, можно уже заканчивать? Все равно нам друг друга переубедить не удастся, а повторять по второму кругу одни и те же аргументы неинтересно.
Зафиксируем наши разногласия в этом моменте и двинемся дальше.
[Ответ][Цитата]
NO.
Сообщений: 10700
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 28 май 18 4:10
а зачем нужна искусственная крыса?
[Ответ][Цитата]
 Стр.61 (71)1  ...  57  58  59  60  [61]  62  63  64  65  ...  71<< < Пред. | След. > >>