GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.27 (61)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Об одном подходе к решению задачи создания СИИ
Траян
Сообщений: 558
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 07 май 17 4:06
Изменено: 07 май 17 13:42
Зафиксирую свои текущие соображения по СПИ. Все равно никто ничего не поймет, а я смогу потом ориентироваться: когда по времени пришел к пониманию той или иной вещи.
(И при необходимости доказать это.)

Цитата:
Автор: Траян
Похоже, для того, чтобы у искусственных агентов (живых существ) могли наблюдаться самые первые проблески самосознания (рефлексии) необходимо чтобы они обладали способностью хотя бы к двухшаговому прогнозированию/планированию.


Поэтому в следующем поколении программы СПИ главным новшеством будет реализация именно способности к простейшему многошаговому (т.е. двухшаговому) прогнозированию.

Сама эта способность будет осуществляться не путем построения разветвленных деревьев действие-ситуация(состояние среды), ибо в этом случае неизбежен комбинаторный взрыв. А так, как это делается в RL, где тому или иному состоянию среды приписывается значение величины ценности.

Величину ценности можно рассматривать как аналог первичной эмоции, генерируемой по результату выполнения некой когнитивной операции (выработки стратегии/выбора действия). Чем более удачную стратегию удается выработать ("придумать") агенту, тем большее подкрепление он получает. Таким образом, при двухшаговом прогнозировании учитываются два источника первичных эмоций - одни из них получаются по старой схеме, в результате непосредственной оценки внешней среды, а другая - по результатам выполнения внутренней когнитивной операции.

Поскольку никакой гарантии насчет того, что выбранная стратегия будет реализована так как задумывалась нет и не может быть, нам необходимо контролировать течение процесса реализации выбранной стратегии - причем, без построения дерева вариантов.

Это можно сделать введя в систему некоего Контроллера, отслеживающего процесс реализации стратегии. Этот Контроллер - предтеча сознания (самосознания).

Контроллер строится агентом самостоятельно, под выбранную стратегию. Иначе говоря, агент самостоятельно постепенно строит свою личность (или личности).

Под одну и ту же стратегию можно построить много самых разных Контроллеров, отличающихся между собой по степени своей эффективности. Обеспечить стремление агента к построению возможно более эффективных контролеров - избегая тупой комбинаторики, обращения к дереву вариантов - можно введя еще один источник первичных эмоций, которые агент будет получать при построении Контроллеров (либо пар Контроллер+Стратегия). Эффективность может определяться по средней эмоции получаемой в ед. времени на бесконечности.

Как можно видеть, на этапе СПИ-2 основной прогресс в развитии интеллектуальных способностей будет достигаться за счет постепенного развития и совершенствования эмоциональной компоненты всей системы, некоего аналога лимбической системы живых существ. При этом совершенствование предполагается производить по пути изменения источников получения первичных эмоций - если сначала они генерировались исключительно от рецепторов непосредственно регистрирующих состояние среды/сомы, то затем они начинают все в больше и большей степени генерироваться по результатам выполнения ментальных т.е. информационных/когнитивных операций.

На этапе эволюционного перехода от СПИ к СПИ-2 такой подход представляется наиболее простым, естественным и очевидным - поскольку при нем оказывается возможным совершенствовать СПИ постепенно, настолько мелкими шажками, что возможность реализации их у живых существ (в результате мутаций) выглядит вполне правдоподобной.

Что интересно. Если мы взглянем на этапы развития интеллекта в природе, то и там тоже обнаружим интересную закономерность: после появления существ способных вырабатывать простейшие условные рефлексы, в дальнейшем развитие мозга шло по пути совершенствования таких структур мозга, которые наиболее близки к лимбической системе, и только затем, когда эту систему удалось отстроить с достаточной степнью совершенства - начался стремительный, чуть ли не экспоненциальный рост структур обеспечивающих выполнение логико-рациональных функций (неокортекса).



Получается так, что путь эволюции мозга земных живых существ - через предварительное совершенствование эмоциональной компоненты - есть (всего-навсего) путь обуздания непомерной размерности пространства входных данных и комбинаторного взрыва?
[Ответ][Цитата]
kondrat
Сообщений: 2868
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 07 май 17 11:14
Цитата:
Автор: 44

Дык, что такое рефлекс, по-вашему? У меня бы заболели мозоли, если бы вы смогли на них наступить.
[Ответ][Цитата]
гость
46.105.100.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 07 май 17 11:14
Цитата:
Автор: 44



Траян, к современной физиологии это всё отношения не имеет. Забудьте об условных и безусловных рефлексах, с середины прошлого века мышление объясняется как функция нейронной сети. В нейронных сетях нет рефлексов и не рефлексов как разной физиологической реальности, а зачастую всё ещё встречающаяся «рефлекторная» терминология сейчас имеет совсем другой смысл. Конечно, если речь не идёт о псевдонаучных сайтах типа Форнита.

После появления животных имеющих нервную систему и потому получивших выраженную способность к обучению, в дальнейшем развитие мозга шло только по одному пути — по пути увеличения объёма и сложности нейронной сети, то есть по пути развития способности животных к обучению, расширения объёма и сложности личного опыта. Всё. Остальные подробности, в частности дополнение ганглий корой, развитие и совершенствование кратковременной памяти, происходит в этом общем контексте усложнения нейронной сети, а не образования неких специфических «не рефлекторных» структур.

Эволюция мозга описана в статье в главе «Эволюция нервной системы».
***


Что касается развития вычислительных систем, то здесь связь не с «рефлексами» и «не рефлексами», а с тем, что традиционные алгоритмы копируют последовательное поведение человека, последовательное переключение внимания, в то время как искусственные нейронные сети уже пытаются копировать и устройство самого мышления. А комбинаторный взрыв в мышлении вообще ни при чём, нейронные сети ничего не перебирают.


Не брюзжите на коллегу уважаемый, он прав больше чем Вы, в его модели больше Информации, его модель лучше позволят уменьшить неопределенность. Говорить про “нейронные сети” в контексте сознания, так же бессмысленно, как про “транзисторные сети” в компах, в контексте работы ОС, или программ. О каких нейросетях идет речь? MLP, или CNN? А почему не random forest или не SVM? Нейросеть это классификатор, коих 100500, сам по себе классификатор не есть “сознание”, хотя важная его часть, сознание это прежде всего инструмент обработки данных ГОМЕОСТАТА, автономного существа. ИМХО без задач автономности, не может быть субъективного сознания, “Я”. Существо должно быть частью целого и бороться за существование.
[Ответ][Цитата]
Траян
Сообщений: 558
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 08 май 17 7:08
Уважаемый юзер с ником "44"!

Создается впечатление (и его разделяют многие участники данного форума), что Вы сами очень плохо понимаете то, о чем пишите.

Без обид, но я вынужден Вас попросить не писать в дальнейшем в данном топике.

Я просто не могу позволить себе тратить время и энергию на разбор столь невразумительных и малоинформативных текстов.

[Ответ][Цитата]
Траян
Сообщений: 558
На: Об одном подходе к решению задачи создания СИИ
+1
Добавлено: 10 май 17 7:54
Всех адекватных участников форума поздравляю с праздником!
[Ответ][Цитата]
kondrat
Сообщений: 2868
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 10 май 17 15:05
Цитата:
Автор: 44
...

Рефлекс, по Павлову или до него, - это реакция органической ткани или существа на раздражитель. Некоторые считают, что он обязательно должен быть непроизвольным. Заслуга Павлова в том, что он открыл рефлексы, возникающие в результате обучения, и отделил их от наследуемых безусловных. Это уже подразумевает некоторый произвол.
Нейронные сети тоже реагируют на внешние данные. Некоторые даже могут обучаться.
Я считаю написанные Вами много слов простым белым шумом.
[Ответ][Цитата]
kondrat
Сообщений: 2868
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 10 май 17 15:05
Цитата:
Автор: Траян

Всех адекватных участников форума поздравляю с праздником!

Похоже, что из онлайновых только мы отпраздновали его по-человечески.
[Ответ][Цитата]
kondrat
Сообщений: 2868
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 11 май 17 1:37
Кстати, если бы люди до сих пор думали, что летать можно только махая крыльями, - освоения воздушного и космического пространств не произошло бы.
А у Вас с физиологами есть возможность подумать о произволе и обусловленности, а также о том, где замыкается рефлекторная дуга.
[Ответ][Цитата]
Траян
Сообщений: 558
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 16 май 17 1:27
Изменено: 16 май 17 1:35
За прошедшее время серьезно изменил свой взгляд на соображения изложенные в посте за 7 мая.

Мысль о том, что для обеспечения интеллектуальности агента его необходимо обеспечить способностью к эффективному многошаговому прогнозированию/планированию
(на индуктивных знаниях)
по прежнему представляется правильной.

Цитата:
Автор: Траян
... для того, чтобы у искусственных агентов (живых существ) могли наблюдаться самые первые проблески самосознания (рефлексии) необходимо чтобы они обладали способностью хотя бы к /многошаговому, т.е. хотя бы ,/ двухшаговому прогнозированию/планированию


Это все верно.
Но вот с идеей о том, что справиться с комбинаторным взрывом при построении прогностических деревьев удастся с помощью некоего аналога эмоций:

Цитата:
Автор: Траян
Сама эта способность будет осуществляться не путем построения разветвленных деревьев действие-ситуация(состояние среды), ибо в этом случае неизбежен комбинаторный взрыв. А так, как это делается в RL, где тому или иному состоянию среды приписывается значение величины ценности.Величину ценности можно рассматривать как аналог первичной эмоции, генерируемой по результату выполнения некой когнитивной операции (выработки стратегии/выбора действия). Чем более удачную стратегию удается выработать ("придумать") агенту, тем большее подкрепление он получает.


похоже, придется распрощаться.

сейчас решение проблемы с многошаговым прогнозированием видится совсем другим.

обойтись без функции ценности и квази-эмоций удастся если оценивать создаваемые стратегии не по абсолютной шкале (а на бесконечно кол-ве шагов это жуткий гемор, тут хлопот не оберешься), а относительно - просто сравнивая разные стратегии попарно между собой.

При таком подходе удастся обеспечить постепенное развитие/совершенствование всей системы, но производиться это развитие будет не так, как виделось ранее:

Цитата:
Автор: Траян
на этапе СПИ-2 основной прогресс в развитии интеллектуальных способностей будет достигаться за счет постепенного развития и совершенствования эмоциональной компоненты всей системы, некоего аналога лимбической системы живых существ. При этом совершенствование предполагается производить по пути изменения источников получения первичных эмоций - если сначала они генерировались исключительно от рецепторов непосредственно регистрирующих состояние среды/сомы, то затем они начинают все в больше и большей степени генерироваться по результатам выполнения ментальных т.е. информационных/когнитивных операций.


т.е. не за счет развития системы эмоций, а за счет постепенного - путем тысячи мелких улучшений - той предельно простой стратегии, что дается агенту изначально.

Путь развития агента - это путь постепенного построения, выращивания им своей личности.

Минусы при таком подходе, такие же как и при всяком градиентном спуске.
В нашем случае это может привести к тому, что созданная в итоге личность может быть далека от идеала, от наиболее оптимального варианта, кроме того, уже выращенную личность агент не сможет радикально переделывать впоследствии.

Но такой недостаток присущ и ЕИ. Та личность homo которая формируется к 14-16 годам, может в дальнейшем корректироваться и перестраиваться, но все эти коррекции и подстройки не могут затрагивать того онтологического базиса, который лежит в ее основе.
[Ответ][Цитата]
гость
188.170.80.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 16 май 17 1:58
(78)

в онтопсихологии давно циркулирует т.н. дифференционно-(ре)интеграционная теория (концепция) развития (у нас чуприкова и др, есть недавних 2 больших сборника) (включая и развитие интеллекта как некоего 'извода' психической сферы вцелом).
[Ответ][Цитата]
Траян
Сообщений: 558
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 16 май 17 2:10
Цитата:
Автор: гость
(78)
в онтопсихологии давно циркулирует т.н. дифференционно-(ре)интеграционная теория (концепция) развития


Спасибо. Надо будет взглянуть.
[Ответ][Цитата]
rrr3
Сообщений: 10373
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 16 май 17 2:14
Изменено: 16 май 17 2:39
Цитата:
Автор: Траян
...справиться с комбинаторным взрывом...

Можно веками придумывать универсальный способ справиться с комбинаторным взрывом...
А можно придумывать способы "использовать" комбинаторные взрывы, как неизбежность.

Так называемые проблемы останова, бесконечности, неполноты (Гедель), p/np, объективность/субъективность, материальное/идеальное и т.д. и т.п. по сути все об одном и том же только разными словами. Еще одно слово в том же русле - неопределенность. Мозг "работает" с неопределенностью, переводя ее в определенность, в свою(!) определенность. Это означает неизбежность комбинаторики и отсутствие полностью определенного алгоритма "на все случаи жизни", другими словами, отсутствие полностью полной определенности для неопределенности.

Если перейти к более примитивному языку, к более примитивным примерам, то любой, какой бы талантливый не был тот или иной человек, он не в состоянии придумать, например, евклидову геометрию с нуля. Это возможно лишь в том случае, если "рождение" тех или иных комбинаций представлений в области этой геометрии было распределено по иным мозгам, мозгам коллег или предшественников. Другими словами, образно говоря, "количество комбинаторики" необходимое для создания этого раздела представлений было распределено по множествам мозгов так, что "рождались" предшествующие "кирпичики" будущего "здания". Такова ситуация говорящая, что и природа, история развития "человеков" использовала комбинаторики, вынуждена была это делать, не смогла создать некоего гения, который без предшествующей комбинаторики взял и все решил (без комбинаторики или вместив всю необходимую комбинаторику лишь в одном мозге) в процессе своего развития с пеленок, при этом ничего не изучая и ни с кем не общаясь... Нет в истории ни единого примера того, что могло бы заведомо точно определить неопределенность без комбинаторики и последующей проверки (отбора), кроме Всевышнего, конечно. Весь предшествующий опыт человечества с начала веков, не дает основания предположить возможность существования универсального решателя задач как в "физическом" мире, так и в "биологическом или социальном". Другое дело, что комбинаторно-отборные свойства по разному организованных эволюционных процессов могут быть использованы (и "использовались", и "используются") для нахождения тех или иных конкретных решений. Но "решение" конкретных, уже заложенных природой (или кем-то еще ) задач, не единственный возможный профит от эволюционных процессов... это еще и целеполагание (рождение того, что обычно называют целями) и много, много чего интересного...

(Если портит Вашу картинку, то смело удаляйте, "для себя" я сдублировал в одну из своих веток...)
[Ответ][Цитата]
Траян
Сообщений: 558
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 17 май 17 0:50
Изменено: 17 май 17 9:34
Цитата:
Автор: rrr3
Если портит Вашу картинку, то смело удаляйте, "для себя" я сдублировал в одну из своих веток...


Я удаляю посты всего лишь по двум причинам:
либо за злонамеренное хамство,
либо за беспросветную тупость.
[Ответ][Цитата]
Траян
Сообщений: 558
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 17 май 17 1:22
Изменено: 17 май 17 1:23
Цитата:
Автор: Траян
сейчас решение проблемы с многошаговым прогнозированием видится совсем другим.

обойтись без функции ценности и квази-эмоций удастся если оценивать создаваемые стратегии не по абсолютной шкале (а на бесконечно кол-ве шагов это жуткий гемор, тут хлопот не оберешься), а относительно - просто сравнивая разные стратегии попарно между собой.


Здесь речь идет о том, не нужно пытаться решить проблему многошагового прогнозирования(планирования) стараясь найти некий универсальный метода сравнения любых двух стратегий S1 и S2 между собой.

По всей видимости, в такой постановке эта задача неразрешима в принципе. Так как для ее решения в предельно общем случае необходимо уметь находить отдельно суммы R1 и R2 матожиданий подкреплений на бесконечном горизонте (при сколь-нибудь сложных стратегиях объем вычислений становится неподъемным, там рост по экспоненте).

Но вместо подсчета полных сумм R1 и R2 мы можем попробовать подсчитывать разность сумм, т.е. некую d(R1,R2).

Здесь есть один интересный момент. Затраты на подсчет разности d(R1,R2) зависят от двух величин - величины сложности стратегий и того насколько сильно они друг от друга отличаются.

Возможны следующие случаи:
1) Стратегии S1 и S2 могут быть сами по себе очень сложными и изощренными стратегиями, но если они отличаются друг от друга не очень сильно, то подсчет разницы d(R1,R2) становится вполне выполнимым.

2) Стратегии S1 и S2 могут отличаться друг от друга самым кардинальным образом но при этом быть сами по себе очень простыми, и в этом случае подсчет тоже вполне реален.

Иначе говоря, подсчет разницы в пользе двух стратегий d(R1,R2) становится возможным когда величина произведения сложности какой-то стратегии S1 на величину отличия ее от другой стратегии S2 меньше некой константы.

W(S1)*d(S1,S2) < С.
[Ответ][Цитата]
Траян
Сообщений: 558
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 17 май 17 1:29
Изменено: 17 май 17 2:04
Цитата:
Автор: Траян
Иначе говоря, подсчет разницы в пользе двух стратегий d(R1,R2) становится возможным когда величина произведения сложности какой-то стратегии S1 на величину отличия ее от другой стратегии S2 меньше некой константы.


Тут просматривается интересная параллель с ЕИ, точнее - с его онтогенезом.

Все знают о том, что психика ребенка чрезвычайно пластична и изменчива, психика младенца - это пластилин, лепи из него что хочешь (в пределах задаваемых генетикой).

Все знают, что психика стариков отличается ригидностью и консервативностью.

Интуитивно, на общем уровне, все понимают, в чем тут дело.

Но вот применение формулы W(S1)*d(S1,S2) < С может дать ключ к более детальному пониманию сути этого явления.

У младенцев, на начальном этапе формирования адаптационного поведения поначалу используются очень простенькие стратегии/модели мира. Которые можно очень легко полностью поменять или подкорректировать т.к. и расходы на вычислительное обеспечение таких процедур сравнительно невелики и - что особенно важно - на ранних этапах пока еще оказывается возможной оценка и сравнение различных жизненных стратегий/установок между собой (а значит, оказывается возможным нахождение решения о том, КАК должна изменяться его психика.)

По мере роста человека, усложнения и развития используемой им модели мира/стратегии поведения процедуры их изменения становятся все более обременительными и затратными. Но не только это. Нахождение решения о том, как, каким образом должна быть изменена эта модель тоже становится все более трудным.

В процессе взросления людей используемые ими стратегии/модели мира становятся все более сложными, изощренными и громоздкими и наступает момент, когда вычислительное обеспечение его мозга уже оказывается не способным справиться с задачей тотального изменения сформировавшихся моделей мира.

Начиная с некоторого момента (интересно, как его можно определить по внешним признакам?) адаптация поведения может производится лишь за счет частичного изменения (подгонки, коррекции) модели мира. Но не ее кардинальной смены. Это начиная с какого-то момента становится невозможным - тогда говорят,что психика/личность сформировалась.

В дальнейшем величина таких изменений постепенно все уменьшается и уменьшается.
[Ответ][Цитата]
 Стр.27 (61)1  ...  23  24  25  26  [27]  28  29  30  31  ...  61<< < Пред. | След. > >>