GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.60 (60)<< < Пред.   Поиск:  
 Автор Тема: На: Об одном подходе к решению задачи создания СИИ
Траян
Сообщений: 552
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 20 май 18 4:13
Изменено: 20 май 18 4:26
Цитата:
Автор: гость
... агент это сущее на перекрестке противоречивых требований, а значит 'универсальным' будет только метапринцип поиска ситуационного баланса противоречивых требований, балансирования в паретовых условиях многокритериальной оптимизации (условные субоптимизации и локальные улучшения рулез).


Я все же предпочитаю исходить из принципа одно-критериальной оптимизации. Можно долго спорить о том, что это за критерий - увеличение ли шансов выживания вида, как говорят биологи; увеличение ли вероятности на передачу ядра генома, как нас учат генетики; или повышение степени одухотворенности мира, как учат некоторые просветленные гуру - это все пока вторично.

Я помню Ваше тотальное неприятие идеи одно-критериальной оптимизации, хотя и в толк не возьму, почему Вы отстаиваете именно эту точку зрения. Ведь доказать сводимость многокритериальной к одно- можно даже с помощью сравнительно простых мат. построений.

(Вот даже в приводимом Вами примере: "... если сильна угроза существованию, то незачем экономить ресурсы - при том, что не экономя ресурсы больше шансов поставить себя под угрозу существованию" подспудно подразумевается, что критерий один - выживание.)

Да и из общих соображения ясно, что для того, чтобы агент не мог попасть в неопределенные ситуации, не "зависал" намертво (из-за конфликта интересов разных модулей и процессов), критерий должен быть один. Причем, на всем протяжении всей его жизни.

PS Кстати, спс, за этот пример, я его неоднократно использую в своих построениях, поскольку он помогает наглядно объяснить суть сознания - как его когнитивный функционал, так и его внутренне устройство/архитектуру.

PPS Говоря о выживании вида как о критерии, по которому агент выбирает свои действия следует иметь в виду, что этот критерий не обязательно должен задаваться в явном декларативном виде. Можно просто встроить систему поощрений-наказаний а-ля RL, отслеживающую состояния агента.

Цитата:
Автор: гость
... просто вы ранее выступили с объявлением что обнаружили нечто 'cущественно разрешающее вопрос о сознании', более определенного раскрытия чего от вас и ждали (и ждут) - с полным пониманием что вы могли просто ошибиться в оценке масштаба своих озаризмов (о чем говорили и в отношении бмп).


Согласно предлагаемой теории, сознание возникло как инструмент оптимизации одновременно нескольких, в чем-то противоречивых процессов, таких, например, как внутренняя ментальная деятельность (обучение/построение моделей мира); обеспечение оперативности и адекватности реакций при возникновении новых, неожиданных изменений обстановки и т.д.

Сознание возникает в попытке нахождения такого хитрого решения которое могло бы разрешить одновременно (!!!) целый ряд (не менее трех, имхо) совершенно различных по своему содержанию задач оптимизации.

Найти баланс между специализацией и универсальностью, между оперативностью реагирования и "обдуманностью" принимаемых решений.

Можно и так сказать, что сознание - это инструмент выбора того объема знаний, который используется при решении тех или иных проблем.

А можно и так: сознание - это организатор, "вдохновитель" и контроллер, способный сформировать и запустить различные узко-специализированные процессы, способные самостоятельно (и очень экономично - за счет своей специализации) справиться с рутинными задачами (лежащими в одной проблемно-предметной области), когда при решении очередной проблемы нет необходимости каждый раз начинать рассуждения с самых общих соображений, ab ovo. И способный созерцать, отслеживать, причем в высокоуровневой модальности как состояние этих процессов по отдельности (а таких, параллельно протекающих процессов может быть много), так и всю свою деятельность в целом.

PPPS Побочным результатом этой теории является полное обнуление столь любимого Чалмерсом аргумента зомби. Ясно, что в рамках своего мысленного эксперимента он подспудно снимает ограничения-требования на когнитивную архитектуру этого создания, принимая что выч. ресурсы которыми тот располагает - бесконечны, а такого в реальном мире не бывает.
Потому-то и зомби-подобные разумные, но бессознательные существа возможны лишь в воображаемых мирах, либо в специально организованных, виртуально-модельных средах.
[Ответ][Цитата]
гость
188.170.81.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 22 май 18 3:35
Т.> что критерий один - выживание

ну, эдак вы несколько смещаете вопрос - конечно, выживание, выживаемость, это как бы необходимое условие, имманентность, собственный императив этого предприятия, котрое называется существованием живой материи, раз устойчивость существования материи в такой форме столь проблематично и обусловлено многим. Вспомним, как, cкажем, шамис рассуждал про этот критерий maхТ. Но при малейшей конкретизации вопроса сразу появляются трудности - выживание индивида, группы, вида, таксона etc - как-то нужно согласовывать эти 'выживаемости', или, cкажем, выживать можно по-разному (разные стратегии выживания) - кто автотроф, кто гетеротроф, кто фотосинтезирует, кто хищничает - 'cамо по себе и из себя' живое вещество не может же предусмотреть все варианты будущего чтобы реально стаивть задачу на махТ - ставится более реалистическая задача - повышение (насколько возможно) выживаемости за счет адаптивности, увеличение ОБЩЕЙ адаптабельности - как бы поддерживается динамическое равновесие - кто впадает в специализацию и глубокую адлаптацию к нише - выигрывает в чем-то, но что-то и теряет (в глобальном смысле устойчивость ниши не гарантируется тем, что вид может отчасти стабилизировать свою нишу), cтановясь зависимой от нее, кто-то пребывает в пограничном состоянии и не падает в воронку глубокой специализации - тоже что-то теряя, но что-то и приобретая - перманентные экологические пертурбации поддерживают баланс между стратегиями.

как бы общий метапринцип что нужно выживать реализуется через динамическое, подвижное положение балансирующей точки (системного состояния) на противоречивых требованиях.

многокритериальное рассмотрение (векторный критерий) можно упростить при скаляризации критерия - но (а) в вообще говоря такое переопределение не тождественно, (б) скаляризовать можно по-разному и эти способы не эквивалентны (или сужать область парето можно по-разному) и (в) скаляризационная редукция это лишь искусственный прием.

наверное вы все это понимаете, но еще плохо осознаете - ведь вы ставите вопрос так -

> самостоятельного разделения агентом всей области его функционирования на отдельные
> участки/виды, каждый из которых требует своей специфической организации ментальной/
> вычислительной деятельности

> такое деление делается для оптимизации, экономии вычислительных ресурсов,

т.е. подразумеваете именно эту ситуацию сочетания общего императива и РЕАЛЬНОЙ постоянной ситуации балансирования противоречивых требований - 'один критерий' (идеал) типо чтобы не зависало в деструктивном конфликте субкритериев - и реальность поиска удовлетворения противоречивым требованиям.
как бы идеал обеспечивается (причем не гарантировано) реальными комромиссами. Не так, что можно выявить 'формулу гарантированного успеха', а что нужно поддерживать популяцию КАНДИДАТОВ в формулу успеха, механизм их генерации (эвристика, генетическая ассимиляция, индукция etc). Как бы императивная тенденция к выживаемости обеспечивается реальным коллективом динамических адаптивных компромиссов. Они изначально запустили процесс самоподдерживающейся эволюционной устойчивости и пока преуспели.

и получается, что 'агентивность' идет сразу по многим путям - агенты ПО-РАЗНОМУ производят разделение на функциональные домены - кто отращивает крылья, а кто второсигнальную систему. И внутри макростратегии также происходит диверсификация на субстратегии - кто отращивает контекстуализацию объектов, кто изолирующие исчисления объектов.. и никуда не уйти от того, что спектр возможностей для маневра максимизируется если сочетать экономию при специализации с избыточностью на поддержание неспециализированных (полипотентных) 'заповедников'.
[Ответ][Цитата]
Траян
Сообщений: 552
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 23 май 18 6:33
Изменено: 23 май 18 6:50
Цитата:
Автор: гость
... конечно, выживание, выживаемость, это как бы необходимое условие, имманентность, ... Но при малейшей конкретизации вопроса сразу появляются трудности - выживание индивида, группы, вида, таксона etc - как-то нужно согласовывать эти 'выживаемости', или, cкажем, выживать можно по-разному (разные стратегии выживания) - кто автотроф, кто гетеротроф, кто фотосинтезирует, кто хищничает - 'cамо по себе и из себя' живое вещество не может же предусмотреть все варианты будущего чтобы реально стаивть задачу на махТ - ставится более реалистическая задача - повышение (насколько возможно) выживаемости за счет адаптивности, увеличение ОБЩЕЙ адаптабельности


Все это, конечно, правильно, если ставить задачу выживания вида в явном и непосредственном виде - тогда действительно появляется целая куча трудноразрешимых глобальных проблем связанных, в конечном счете, наиболее глубокими "вечными" философскими вопросами. И, в том числе, с необходимостью формализации базовых понятий-категорий ("Что есть жизнь?" "Что такое существование?").

Но дело в том, что в живых существах и единственном известном нам разумном существе задача выживания ставится в неявном и опосредованном виде , а именно, как задача максимизации разницы между суммами получаемых на протяжении жизни положительных и отрицательных подкреплений (удовольствия и боли).

В том, что это действительно так, следует из того, что все проявления активности достаточно развитых живых существ находят свое полное объяснение в рамках именно такой общей парадигмы. Более того, многие маргинальные вещи, которые в принципе невозможно объяснить в рамках иных концепций (например, суицид) легко объясняются в ее рамках.

(Особо упертые противники этой идеи могут попробовать вживить себе электроды в центры удовольствия и боли и на личном опыте убедиться в абсолютном главенстве данной поведенческой мотивации. )

Поставщиками сигналов о боли и удовольствии является физ. тело, сома. Которая устроена (естественный отбор постарался)так, что при переходе в благоприятные для задачи выживания вида состояния организма генерируются чувства удовольствия и пр., и наоборот.

Справедливости ради нужно сказать, что у высших животных источниками пол. или отр. ощущений могут быть и психические процессы, но на данном этапе рассуждений это пока неважно.

Ясное дело, что такая - завязанная на материальное тело - система генерации поощрений и наказаний является чрезвычайно косной и инертной. При радикальной смене среды обитания эта система может давать серьезные сбои. Так, переход существ с системой заточенной на выживание за счет первобытного собирательства/охоты в условия постиндустриального развитого общества система поощрений за потребление жирной, сладкой и соленой пищи может приводить к нежелательным последствиям. Да и чрезмерная боязнь высоты жителям нынешних небоскребов ни к чему.

Короче говоря, вся эта система далека до идеала, до такой степени совершенства, когда ее применение гарантировало бы 100% успех во всех ситуациях. Это - паллиатив и компромисс.
Минусов у нее куча.
Но! Но это пусть и худо-бедно но действительно работающая в условиях реального мира система - при всех ее недостатках и издержках - именно за счет своей материальности, т.е. своей неразрывной связи с действительностью. Способная дать ответ при попадании организма почти в любые (исключающие его полное разрушение) ситуации. Пусть это будут самые невообразимые, самые не представимые, самые неожиданные и нестандартные ситуации - внутренняя физическая система генерации поощрений/наказаний все равно даст четкий и однозначный ответ - пусть порой и ошибочный, но имея его на руках интеллекту уже есть с чем работать.

Что хорошо - создавая СИИ мы вовсе не обязаны создавать для него спецом и сому с встроенной системой поощрений/наказаний. Роль такой сомы может выполнять и взаимодействующий с ней человек-оператор (двух-уровневая система).

PS Про все это я уже много раз писал, но Вы что-то не хотите вникнуть в суть такого подхода.
[Ответ][Цитата]
NO.
Сообщений: 10367
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 23 май 18 7:07
Цитата:
Автор: Траян
Пусть это будут самые невообразимые, самые не представимые, самые неожиданные и нестандартные ситуации

А чего это вдруг озабоченный выживанием организм попадет в такие ситуации? Он же умный, всё обдумает и заляжет под землей в деревянном ящике, чтобы всякие неожиданные и нестандартные ситуации его не убили.
[Ответ][Цитата]
Траян
Сообщений: 552
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 23 май 18 7:23
Изменено: 23 май 18 7:24
Цитата:
Автор: гость
.... идеал обеспечивается (причем не гарантировано) реальными комромиссами. Не так, что можно выявить 'формулу гарантированного успеха', а что нужно поддерживать популяцию КАНДИДАТОВ в формулу успеха, механизм их генерации (эвристика, генетическая ассимиляция, индукция etc). Как бы императивная тенденция к выживаемости обеспечивается реальным коллективом динамических адаптивных компромиссов.

Еще раз скажу - ЕИ/разум решает проблему выживания опосредованно, вовсе не желая этого и не стремясь к этому. Его цель - max(суммы пол. - суммы отр.)/

Именно это является той морковкой, стремясь к получению которой интеллект обеспечивает выживание своего носителя/организма.

Поэтому рассуждая о СИИ, о путях его построения, следует говорить не о стратегиях выживания, а о стратегиях способных максимизировать эту сумму разностей.

О том, какие для этого у СИИ есть возможности ресурсы, в каком виде ему дается инфа необходимая для его работы.

Ну и о том, каким образом он может оптимизировать свою работу. А конструкция эффекторов-рецепторов, все эти детали его физической адаптации - это все не про СИИ.
[Ответ][Цитата]
Траян
Сообщений: 552
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 23 май 18 7:40
Изменено: 23 май 18 7:45
Цитата:
Автор: NO.
А чего это вдруг озабоченный выживанием организм попадет в такие ситуации? Он же умный, всё обдумает и заляжет под землей в деревянном ящике, чтобы всякие неожиданные и нестандартные ситуации его не убили.

Это по обстоятельствам. Смотря какой образ действий будет более выгодным - в плане максимизации суммы разностей удовольствий и боли.

Кстати говоря, Вы никогда не задумывались над тем, почему необходимые как минимум две эти модальности - и боль и удовольствие?

Почему нельзя обойтись только болью или только удовольствием? Ведь на первый взгляд кажется возможным, что для того, чтобы заставить живое существо действовать нужным нам образом достаточно только одного стимула - только кнута или только пряника.

Я в свое время (очень давно!) пробовал моделировать и таких агентов, было такое. И в реальных машинных экспериментах убедился в том, что без двух разных модальностей не обойтись.

И вот почему. Один агент, обреченный на получение лишь только кнута (в разных степенях воздействия) предпочитал забиваться куда-нибудь в угол и не отсвечивать. Трясясь от страха и вздрагивая от каждого шороха. Вот уж для кого воистину было "жизнь - это боль"
Никакой инициативы, поисковой активности от него было не дождаться.

Второй агент, живший в мире лишь пряников, был слишком уж безбашенным. Похожим на людей с пониженным болевым порогом (забыл как такой синдром называется). Не мог обучаться самым простым и нужным вещам, не говоря уж про оптимизацию своей деятельности. найдя раз действие приводящее к прянику он повторял его до бесконечности.
[Ответ][Цитата]
 Стр.60 (60)1  ...  56  57  58  59  [60]<< < Пред.