GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.30 (61)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Об одном подходе к решению задачи создания СИИ
Luarvik.
Сообщений: 12884
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 3:42
Изменено: 24 май 17 3:53
Это старая идея, только как-то слишком редко о ней вспоминают.
Ее потенциал не только не исчерпан, но судя по всему, никто всерьез и не собирался начинать черпать, предпочитая простые линейные конструкции или в лучшем случае плоские. А даже система из двух <> независимых плоскостей требует 3D-пространства.

Рис.2 Траяна - это все те же "Руки" М.Эшера
На рис.3 к ним добавляется сам Эшер

[Ответ][Цитата]
гость
188.170.74.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 4:04
с руками эшера, об этом мы говорили, только одна проблема - понять как начинался этот процесс взаимной детерминации - как произошло расщепление точки двух кончиков карандашей на два сопряженных процесса. в схеме траяна - чем был управитель до того, как от него отщепились улучшатели.
[Ответ][Цитата]
Траян
Сообщений: 554
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 4:05
Изменено: 24 май 17 4:06
Цитата:
Автор: гость
опять же, это будет работать либо для малых миров, либо в абстрактной теории 'cферического абссолютного интеллекта' (напр. по шмидтхуберу, хаттеру etc). А реальный интеллект (которому излишне рациональные абстракции (модели) будут неадекватны) насквозь эвристичен (что выражается в грубых оценках хвостовых сумм, 'нелинейном дисконтировании', игре требований к скорости, точности, полезности и риску, сопряженных с соотв. утилизацией подкреплений. интеллект должен как-то ориентироваться в условиях существенной неопределенности (еще до появления достаточных знаний о структуре мира 'до горизонта').


Судя по всему, я не очень хорошо объяснил суть предлагаемого подхода (тем паче, что по ходу изложения ряд положений постоянно претерпевал серьезные изменения, уточнения и улучшения. Т.е. понять суть того о чем я толкую - в той путанице процесса генерации "черновых" идей и высказываний - действительно непросто).

Подтверждением того, что мне не удалось донести свои идеи служит и этот пост:

"Автор: гость
еще понятны модели рациональных агентов, которые максимизируют прогнозные суммы вознаграждений/наказаний, но напрямую 'калькулировать' эмоции как критерий выбора это перебор.."

На самом деле в предлагаемой концепции нет места "излишней рациональности", а такие вещи как эвристики, грубые оценки хвостовых сумм, 'нелинейное дисконтирование', игре требований к скорости, точности, полезности и риску - используются в полный рост.

Существенным преимуществом данного подхода является то, что в нем многие вопросы связанные в применением эвристик с самого начала находят свое решение - становится понятно где и как следует встраивать эвристики, что они из себя представляют и откуда берутся.

Одной из главных отличительных особенностей данного подхода (до которой я додумался только сейчас) является то, что в нем предлагается подсчитывать сумму подкреплений сразу, с самого начала (!), даже при еще предельно примитивно организованном процессе управления на бесконечном горизонте.(!!)

Конечно же, вначале этот подсчет будет предельно груб, приблизителен и неточен. Но по мере постепенного совершенствования, оптимизации и модернизации первого процесса (изначально уже существующего) эта сумма будет подсчитываться все лучше и точнее.

При подсчете же сумм на бесконечности используется простая идея цикличности процесса взаимодействия агента со средой (т.е. идея о тех повторяющихся "историях", "сюжетах", о которых я уже вскользь упоминал ранее).

Если этот тезис непонятен, то я его могу объяснить более развернуто (тогда многое станет понятнее, имхо).
[Ответ][Цитата]
Траян
Сообщений: 554
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 4:21
Цитата:
Автор: Траян
Одной из главных отличительных особенностей данного подхода (до которой я додумался только сейчас) является то, что в нем предлагается подсчитывать сумму подкреплений сразу, с самого начала (!), даже при еще предельно примитивно организованном процессе управления на бесконечном горизонте.(!!)


Если раньше я, как и многие RL-разработчики, полагал, что совершенствование, улучшение интеллектуальных способностей самообучаемых агентов должно идти по двум направлениям :

1. постепенное увеличение горизонта, временного лага прогнозов;
2 постепенное улучшение их точности и общности.

что приводило к возникновению целого ряда трудно разрешимых онтологических вопросов (связанных в частности с подсчетом сумм), то переход к новой схеме - с заданным изначально и неизменным (бесконечным!) горизонтом - большинство их автоматически снимает.

Именно по этой причине я придаю такое значение этой своей догадке.
[Ответ][Цитата]
гость
188.170.74.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 4:24
понятно, как бы если в системе возникает некая оценка альтернативы, то по внутреннему смыслу (операционной семантике) это оценка изначально для бесконечного горизонта (пусть и совершенно неточная). идея перехода от глобальности оценки к их дифференцированности.
тут странным несколько выглядит эта встроенность в агента априорной его озабоченности 'бесконечным горизонтом' и соотв. максимизации, хотя непосредственно агенту изначально дана только текущая ситуация (и опыт прошлого в виде предрасположенностей). изначально ли играется партия с миром на максимизацию подкреплений на бесконечном горизонте или на получение минимально достаточного ('нормативного') подкрепления? как бы дилемма экологического интеллекта и интеллекта-суперхищника..

[Ответ][Цитата]
Траян
Сообщений: 554
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 4:30
Изменено: 24 май 17 4:38
Цитата:
Автор: Luаrvik
Это старая идея, только как-то слишком редко о ней вспоминают.


Не удивлюсь, если выяснится, что впервые о ней упоминали еще авторы античности.

Поскольку расщепление процесса познания-управления-оптимизации на две взаимодействующие друг с другом составляющие, равноправные и равнозначимые, способные работать попеременно - брать время от времени все управление на себя -
дает какое-то, пусть еще очень туманное и расплывчатое приближение к пониманию сущности такой вещи как самосознание.

Поскольку такой подход дает ключ к пониманию того, как именно наличие самосознания дает нам возможность проявлять себя как Я (выступая от первого лица), и одновременно с этим (!) смотреть на себя "со стороны", выступая в роли наблюдателя своего Я.
[Ответ][Цитата]
Luarvik.
Сообщений: 12884
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 4:32
Изменено: 24 май 17 4:33
Цитата:
Автор: Хмур
с руками эшера, об этом мы говорили, только одна проблема - понять как начинался этот процесс взаимной детерминации ... чем был управитель до того, как от него отщепились улучшатели.

А дальше бесконечные споры о том, был ли "мальчик" - креатор, или... она родимая - т.н. "самоорганизация". И попутно всплывал вопрос о "минимальном интеллекте" (бумажные самолетики ведь тоже летают, не сами, конечно, но все-таки кое-что есть и в них от птичьего полета).
[Ответ][Цитата]
Траян
Сообщений: 554
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 4:59
Цитата:
Автор: Траян
Поскольку такой подход дает ключ к пониманию того, как именно наличие самосознания дает нам возможность проявлять себя как Я (выступая от первого лица), и одновременно с этим (!) смотреть на себя "со стороны", выступая в роли наблюдателя своего Я.


В определенном (философском?) смысле, эти два параллельно протекающих процесса отражают в себе друг друга.

Поэтому в качестве метафоры этой схемы с двумя (взаимно воспринимающими друг друга процессами) - и, возможно, в качестве метафоры такой вещи, как самосознание - может послужить картинка с двумя параллельными зеркалами.

Например, такая:


Самосознание "изнутри"
[Ответ][Цитата]
Luarvik.
Сообщений: 12884
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 5:44
Цитата:
Автор: Траян
Поскольку расщепление процесса познания-управления-оптимизации на две взаимодействующие друг с другом составляющие, равноправные и равнозначимые, способные работать попеременно - брать время от времени все управление на себя -
дает какое-то, пусть еще очень туманное и расплывчатое приближение к пониманию сущности такой вещи как самосознание.

Поскольку такой подход дает ключ к пониманию того, как именно наличие самосознания дает нам возможность проявлять себя как Я (выступая от первого лица), и одновременно с этим (!) смотреть на себя "со стороны", выступая в роли наблюдателя своего Я.

О том и речь, что только бинарная система, будучи субъектом, имеет возможность обращаться к себе как к объекту.
В линейной "моно"-системе сразу появляется необходимость в стороннем наблюдателе или [внутреннем] гомункуле.
В бинарной он тоже есть, но виртуальный, мнимый, как точка зрения.
[Ответ][Цитата]
Luarvik.
Сообщений: 12884
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 5:51
Изменено: 24 май 17 5:58
Цитата:
Автор: Траян
Поэтому в качестве метафоры этой схемы с двумя (взаимно воспринимающими друг друга процессами) - и, возможно, в качестве метафоры такой вещи, как самосознание - может послужить картинка с двумя параллельными зеркалами.

А эта штука вероятно появилась еще задо-о-о-лго до античности
Здесь возникает проблема с бесконечными отражениями, в то время, как их достаточно всего несколько штук - "от 2-х до 5-ти"
О сознании как зеркале говорили еще авторы первых вед.
Их можно поставить по вершинам 2D или даже 3D симплекса - хватит на все случаи жизни.
[Ответ][Цитата]
Luarvik.
Сообщений: 12884
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 6:30
Изменено: 24 май 17 6:43
Цитата:
Автор: Хмур
с руками эшера ... только одна проблема - понять как начинался этот процесс взаимной детерминации - как произошло расщепление точки двух кончиков карандашей на два сопряженных процесса. в схеме траяна - чем был управитель до того, как от него отщепились улучшатели.

Ну, можно предположить, что сначала был один, который умел хоть как-нибудь калякать-малякать, потом он поделился как клетка и их стало двое. А затем уже они себя причесали как надо, подобно паре обезьян, выискивающих блох друг у друга.
[Ответ][Цитата]
Траян
Сообщений: 554
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 6:58
Изменено: 24 май 17 7:06
Цитата:
Автор: Luаrvik
Ну, можно предположить, что сначала был один, который умел хоть как-нибудь калякать-малякать, потом он поделился как клетка и их стало двое.


Вполне правдоподобное предположение, имхо. Природа обожает сама себя копировать, повторять и тиражировать. Многократно, раз за разом повторять один раз найденное "решение".

Поэтому и в живых организмах одна из наиболее часто встречающихся мутаций - тупое дублирование, повторение (порой, совершенно излишнее или даже фатальное) уже имеющейся/предполагаемой формации.

Еще одна частая мутации связана с частичным "отключением", блокированием отдельных функций у создаваемой формации. Есть и еще одна - она выражается в спонтанном возникновении связей между разными формациями.
[Ответ][Цитата]
Траян
Сообщений: 554
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 7:03
Цитата:
Автор: Luаrvik
Здесь возникает проблема с бесконечными отражениями, в то время, как их достаточно всего несколько штук - "от 2-х до 5-ти"


Ну так с каждым отражением размер и значимость отражаемого уменьшаются (размывается, затуманивается).

Кстати говоря, я только сейчас заметил насколько удачной оказалась эта - совершенно случайная - картинка-метафора. Несмотря на то, что в каждом отражении отражается один и тот же человек, но отражается-то он по разному, с разных точек зрения.
[Ответ][Цитата]
гость
188.170.82.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 26 май 17 6:53
траян высказался против RL, но в последнем мотив с улучшателями реализован в схемах с адаптивным критиком.
[Ответ][Цитата]
Траян
Сообщений: 554
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 26 май 17 8:00
Изменено: 26 май 17 8:04
Цитата:
Автор: гость
траян высказался против RL,


Не помню такого. Я вроде бы всегда говорил, что считаю RL наиболее перспективным направлением во всем ML.

Не какой-либо конкретный алгоритм RL (скажем, SARSA или Q-learning), а саму общую идею всей концепции RL. Которая конечно же имеет куда большую универсальность, гибкость и "естественность", чем обучение с учителем/без учителя.

Цитата:
Автор: гость
но в последнем мотив с улучшателями реализован в схемах с адаптивным критиком.


Адаптивный критик в RL обладает несравненно более узкими возможностями, нежели тот Улучшатель, о котором шла речь выше. (В RL критик всего лишь элемент конкретного алгоритма динамического программирования).
[Ответ][Цитата]
 Стр.30 (61)1  ...  26  27  28  29  [30]  31  32  33  34  ...  61<< < Пред. | След. > >>