GotAI.NET
Форум: Проблемы искусственного интеллекта
Регистрация
|
Вход
Все темы
|
Новая тема
Стр.30 (112)
<<
< Пред.
|
След. >
>>
Поиск:
Автор
Тема: На: Об одном подходе к решению задачи создания СИИ
Luarvik.
Сообщений: 17287
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 3:42
Изменено: 24 май 17 3:53
Это старая идея, только как-то слишком редко о ней вспоминают.
Ее потенциал не только не исчерпан, но судя по всему, никто всерьез и не собирался начинать черпать, предпочитая простые линейные конструкции или в лучшем случае плоские. А даже система из двух <> независимых плоскостей требует 3D-пространства.
Рис.2
Траяна
- это все те же "Руки" М.Эшера
На рис.3 к ним добавляется сам Эшер
[
Ответ
][
Цитата
]
гость
188.170.74.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 4:04
с руками эшера, об этом мы говорили, только одна проблема - понять как начинался этот процесс взаимной детерминации - как произошло расщепление точки двух кончиков карандашей на два сопряженных процесса. в схеме траяна - чем был управитель до того, как от него отщепились улучшатели.
[
Ответ
][
Цитата
]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 4:05
Изменено: 24 май 17 4:06
Цитата:
Автор: гость
опять же, это будет работать либо для малых миров, либо в абстрактной теории 'cферического абссолютного интеллекта' (напр. по шмидтхуберу, хаттеру etc). А реальный интеллект (которому излишне рациональные абстракции (модели) будут неадекватны) насквозь эвристичен (что выражается в грубых оценках хвостовых сумм, 'нелинейном дисконтировании', игре требований к скорости, точности, полезности и риску, сопряженных с соотв. утилизацией подкреплений. интеллект должен как-то ориентироваться в условиях существенной неопределенности (еще до появления достаточных знаний о структуре мира 'до горизонта').
Судя по всему, я не очень хорошо объяснил суть предлагаемого подхода (тем паче, что по ходу изложения ряд положений постоянно претерпевал серьезные изменения, уточнения и улучшения. Т.е. понять суть того о чем я толкую - в той путанице процесса генерации "черновых" идей и высказываний - действительно непросто).
Подтверждением того, что мне не удалось донести свои идеи служит и этот пост:
"Автор: гость
еще понятны модели рациональных агентов, которые максимизируют прогнозные суммы вознаграждений/наказаний, но напрямую 'калькулировать' эмоции как критерий выбора это перебор.."
На самом деле в предлагаемой концепции нет места "излишней рациональности", а такие вещи как эвристики, грубые оценки хвостовых сумм, 'нелинейное дисконтирование', игре требований к скорости, точности, полезности и риску - используются в полный рост.
Существенным преимуществом данного подхода является то, что в нем многие вопросы связанные в применением эвристик с самого начала находят свое решение - становится понятно где и как следует встраивать эвристики, что они из себя представляют и откуда берутся.
Одной из главных отличительных особенностей данного подхода (до которой я додумался только сейчас) является то, что в нем предлагается подсчитывать сумму подкреплений сразу,
с самого начала (!)
, даже при еще предельно примитивно организованном процессе управления
на бесконечном горизонте.(!!)
Конечно же, вначале этот подсчет будет предельно груб, приблизителен и неточен. Но по мере
постепенного
совершенствования, оптимизации и модернизации первого процесса (изначально уже существующего) эта сумма будет подсчитываться все лучше и точнее.
При подсчете же сумм на бесконечности используется простая идея цикличности процесса взаимодействия агента со средой (т.е. идея о тех повторяющихся "историях", "сюжетах", о которых я уже вскользь упоминал ранее).
Если этот тезис непонятен, то я его могу объяснить более развернуто (тогда многое станет понятнее, имхо).
[
Ответ
][
Цитата
]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 4:21
Цитата:
Автор: Траян
Одной из главных отличительных особенностей данного подхода (до которой я додумался только сейчас) является то, что в нем предлагается подсчитывать сумму подкреплений сразу,
с самого начала (!)
, даже при еще предельно примитивно организованном процессе управления
на бесконечном горизонте.(!!)
Если раньше я, как и многие RL-разработчики, полагал, что совершенствование, улучшение интеллектуальных способностей самообучаемых агентов должно идти
по двум направлениям
:
1. постепенное увеличение горизонта, временного лага прогнозов;
2 постепенное улучшение их точности и общности.
что приводило к возникновению целого ряда трудно разрешимых онтологических вопросов (связанных в частности с подсчетом сумм), то переход к новой схеме - с заданным изначально и неизменным (бесконечным!) горизонтом - большинство их автоматически снимает.
Именно по этой причине я придаю такое значение этой своей догадке.
[
Ответ
][
Цитата
]
гость
188.170.74.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 4:24
понятно, как бы если в системе возникает некая оценка альтернативы, то по внутреннему смыслу (операционной семантике) это оценка изначально для бесконечного горизонта (пусть и совершенно неточная). идея перехода от глобальности оценки к их дифференцированности.
тут странным несколько выглядит эта встроенность в агента априорной его озабоченности 'бесконечным горизонтом' и соотв. максимизации, хотя непосредственно агенту изначально дана только текущая ситуация (и опыт прошлого в виде предрасположенностей). изначально ли играется партия с миром на максимизацию подкреплений на бесконечном горизонте или на получение минимально достаточного ('нормативного') подкрепления? как бы дилемма экологического интеллекта и интеллекта-суперхищника..
[
Ответ
][
Цитата
]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 4:30
Изменено: 24 май 17 4:38
Цитата:
Автор: Luаrvik
Это старая идея, только как-то слишком редко о ней вспоминают.
Не удивлюсь, если выяснится, что впервые о ней упоминали еще авторы античности.
Поскольку расщепление процесса познания-управления-оптимизации на две взаимодействующие друг с другом составляющие, равноправные и равнозначимые, способные работать попеременно - брать время от времени все управление на себя -
дает какое-то, пусть еще очень туманное и расплывчатое приближение к пониманию сущности такой вещи как самосознание.
Поскольку такой подход дает ключ к пониманию того, как именно наличие самосознания дает нам возможность проявлять себя как Я (выступая от первого лица), и одновременно с этим (!) смотреть на себя "со стороны", выступая в роли наблюдателя своего Я.
[
Ответ
][
Цитата
]
Luarvik.
Сообщений: 17287
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 4:32
Изменено: 24 май 17 4:33
Цитата:
Автор:
Хмур
с руками эшера, об этом мы говорили, только одна проблема - понять как начинался этот процесс взаимной детерминации ... чем был управитель до того, как от него отщепились улучшатели.
А дальше бесконечные споры о том, был ли "мальчик" - креатор, или... она родимая - т.н. "самоорганизация". И попутно всплывал вопрос о "минимальном интеллекте" (бумажные самолетики ведь тоже летают, не сами, конечно, но все-таки кое-что есть и в них от птичьего полета).
[
Ответ
][
Цитата
]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 4:59
Цитата:
Автор: Траян
Поскольку такой подход дает ключ к пониманию того, как именно наличие самосознания дает нам возможность проявлять себя как Я (выступая от первого лица), и одновременно с этим (!) смотреть на себя "со стороны", выступая в роли наблюдателя своего Я.
В определенном (философском?) смысле, эти два параллельно протекающих процесса отражают в себе друг друга.
Поэтому в качестве метафоры этой схемы с двумя (взаимно воспринимающими друг друга процессами) - и, возможно, в качестве метафоры такой вещи, как самосознание - может послужить картинка с двумя параллельными зеркалами.
Например, такая:
Самосознание "изнутри"
[
Ответ
][
Цитата
]
Luarvik.
Сообщений: 17287
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 5:44
Цитата:
Автор:
Траян
Поскольку расщепление процесса познания-управления-оптимизации на две взаимодействующие друг с другом составляющие, равноправные и равнозначимые, способные работать попеременно - брать время от времени все управление на себя -
дает какое-то, пусть еще очень туманное и расплывчатое приближение к пониманию сущности такой вещи как самосознание.
Поскольку такой подход дает ключ к пониманию того, как именно наличие самосознания дает нам возможность проявлять себя как Я (выступая от первого лица), и одновременно с этим (!) смотреть на себя "со стороны", выступая в роли наблюдателя своего Я.
О том и речь, что только бинарная система, будучи субъектом, имеет возможность обращаться к себе как к объекту.
В линейной "моно"-системе сразу появляется необходимость в стороннем наблюдателе или [внутреннем] гомункуле.
В бинарной он тоже есть, но виртуальный, мнимый, как
точка зрения
.
[
Ответ
][
Цитата
]
Luarvik.
Сообщений: 17287
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 5:51
Изменено: 24 май 17 5:58
Цитата:
Автор:
Траян
Поэтому в качестве метафоры этой схемы с двумя (взаимно воспринимающими друг друга процессами) - и, возможно, в качестве метафоры такой вещи, как самосознание - может послужить картинка с двумя параллельными зеркалами.
А эта штука вероятно появилась еще задо-о-о-лго до античности
Здесь возникает проблема с бесконечными отражениями, в то время, как их достаточно всего несколько штук - "от 2-х до 5-ти"
О сознании как зеркале говорили еще авторы первых вед.
Их можно поставить по вершинам 2D или даже 3D симплекса - хватит на все случаи жизни.
[
Ответ
][
Цитата
]
Luarvik.
Сообщений: 17287
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 6:30
Изменено: 24 май 17 6:43
Цитата:
Автор:
Хмур
с руками эшера ... только одна проблема - понять как начинался этот процесс взаимной детерминации - как произошло расщепление точки двух кончиков карандашей на два сопряженных процесса. в схеме траяна - чем был управитель до того, как от него отщепились улучшатели.
Ну, можно предположить, что сначала был один, который умел хоть как-нибудь калякать-малякать, потом он поделился как клетка и их стало двое. А затем уже они себя причесали как надо, подобно паре обезьян, выискивающих блох друг у друга.
[
Ответ
][
Цитата
]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 6:58
Изменено: 24 май 17 7:06
Цитата:
Автор: Luаrvik
Ну, можно предположить, что сначала был один, который умел хоть как-нибудь калякать-малякать, потом он поделился как клетка и их стало двое.
Вполне правдоподобное предположение, имхо. Природа обожает сама себя копировать, повторять и тиражировать. Многократно, раз за разом повторять один раз найденное "решение".
Поэтому и в живых организмах одна из наиболее часто встречающихся мутаций - тупое дублирование, повторение (порой, совершенно излишнее или даже фатальное) уже имеющейся/предполагаемой формации.
Еще одна частая мутации связана с частичным "отключением", блокированием отдельных функций у создаваемой формации. Есть и еще одна - она выражается в спонтанном возникновении связей между разными формациями.
[
Ответ
][
Цитата
]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 май 17 7:03
Цитата:
Автор: Luаrvik
Здесь возникает проблема с бесконечными отражениями, в то время, как их достаточно всего несколько штук - "от 2-х до 5-ти"
Ну так с каждым отражением размер и значимость отражаемого уменьшаются (размывается, затуманивается).
Кстати говоря, я только сейчас заметил насколько удачной оказалась эта - совершенно случайная - картинка-метафора. Несмотря на то, что в каждом отражении отражается один и тот же человек, но отражается-то он по разному, с разных точек зрения.
[
Ответ
][
Цитата
]
гость
188.170.82.*
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 26 май 17 6:53
траян высказался против RL, но в последнем мотив с улучшателями реализован в схемах с адаптивным критиком.
[
Ответ
][
Цитата
]
Траян
Сообщений: 1063
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 26 май 17 8:00
Изменено: 26 май 17 8:04
Цитата:
Автор: гость
траян высказался против RL,
Не помню такого. Я вроде бы всегда говорил, что считаю RL наиболее перспективным направлением во всем ML.
Не какой-либо конкретный алгоритм RL (скажем, SARSA или Q-learning), а саму общую идею всей концепции RL. Которая конечно же имеет куда большую универсальность, гибкость и "естественность", чем обучение с учителем/без учителя.
Цитата:
Автор: гость
но в последнем мотив с улучшателями реализован в схемах с адаптивным критиком.
Адаптивный критик в RL обладает несравненно более узкими возможностями, нежели тот Улучшатель, о котором шла речь выше. (В RL критик всего лишь элемент конкретного алгоритма динамического программирования).
[
Ответ
][
Цитата
]
Стр.30 (112)
:
1
...
26
27
28
29
[30]
31
32
33
34
...
112
<<
< Пред.
|
След. >
>>
Главная
|
Материалы
|
Справочник
|
Гостевая книга
|
Форум
|
Ссылки
|
О сайте
Вопросы и замечания направляйте нам по
Copyright © 2001-2022, www.gotai.net