GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.101 (110)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Об одном подходе к решению задачи создания СИИ
Траян
Сообщений: 1013
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 11 фев 19 7:41
Изменено: 11 фев 19 7:58
"Представь себе строительство тоннеля в песчаной почве. Вперёд не двинешься, не укрепив каждый метр каменной кладкой. Речь в процессе мышления – то же, что и каменная кладка при проходке тоннеля. Умение думать и умение копать не зависят от слов и от каменной кладки, но без них не уйдёшь далеко. Одна мысль может прийти на смену другой, только если первая закреплена словом.
Уильям Гамильтон."

"Мыслить – значит переводить в сознание то, что возникло в бессознательном.
Вильгельм Швёбель."

"Когда приходится писать идеи или, тем паче, объясняться, большим препятствием является то, что мне не так легко мыслить словами, как без них. Когда после трудной работы прихожу к совершенно ясным, нужным результатам и пытаюсь выразить их словами, часто ощущаю, что должен перевести себя в совершенно иную интеллектуальную плоскость. Я должен переводить мысли в слова, которые не вполне соответствуют им, тратить уйму времени на поиск подходящих фраз. Когда надо выразить мысль словами, мне приходится совершать целую умственную перестройку. Когда внезапно требуется сказать что‑то, я очень часто оказываюсь в растерянности. Не из‑за отсутствия ясности восприятия, а от вербальной неуклюжести. Это одна из небольших бед моей жизни.
Френсис Гальтон."

"Я настаиваю на том, что слова совершенно покидают мой ум, когда я думаю по‑настоящему. Целиком согласен с Гальтоном в том, что даже после того, как прочитаешь или услышишь вопрос, каждое слово исчезает в тот самый момент, когда начинаешь думать над ним. Слова напрочь отсутствуют в моём разуме, пока дело не доходит до нужды письменно или устно изложить результаты.
Жак Адамар."

"Слова нужны только для закрепления мыслей. Думать же они мешают, ибо за ними кроется больше того, что они обозначают, и мысли постоянно уводит в сторону. Сталкиваясь с многозначностью слова, ум теряет силу и начинает походить на птицу в силке, которая чем больше старается вырваться, тем больше запутывается.
Томас Гоббс."

"Кто думает словами, тот думает как оратор, а не как мыслитель.
Фридрих Ницше."

"Идеи легко приходят в голову, но нелегко даются языку.
Китайская пословица."
[Ответ][Цитата]
Траян
Сообщений: 1013
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 13 фев 19 3:39
Цитата:
Автор: Михайло
Заиметь рейтинг в готайке - это значит опозориться. Здесь стремятся опубликоваться все шизоиды.

Вот потому-то готайка - это лучшее место для сокрытия действительно стоящих и ценных вещей. Кто на них обратит внимание, в этакой куче дебильных постов запредельной ахинеи от всевозможных фриков, альтернативщиков и откровенных сумасшедших?

Раньше люди стремящиеся застолбить за собой приоритет открытия, но не желавшие привлечения к нему излишнего внимания делали анаграммы - т.е. публичные шифрованные сообщения. И это работало. А сейчас и не нужно никаких анаграмм - вы можете просто написать пост на готайке.

Где лучше всего спрятать иголку из сверх-ценного вещества? - правильно, в стогу никому не нужного сена.
[Ответ][Цитата]
Траян
Сообщений: 1013
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 14 фев 19 0:01
"Губаны-чистильщики узнали себя в зеркале

Рыбы губаны-чистильщики (Labroides dimidiatus) прошли знаменитый зеркальный тест на самосознание: японские ученые выяснили, что при помещении к стенке аквариума зеркала рыбы начинают вести себя странно и агрессивно по отношению к своему отражению, но со временем начинают понимать, что это они сами. В их статье, опубликованной в журнале PLoS Biology, поднимается вопрос о том, значит ли это то, что рыбы в действительности обладают самосознанием, или же зеркальный тест в действительности не такой точный.
...
Способность узнавать себя в зеркале — не врожденная даже у человека и обычно разделяется на несколько фаз. В первую фазу отражение считается другой особью, в отношении которой проявляется либо агрессивное поведение, либо просто заинтересованность. Во вторую фазу у особи наблюдается поведение, нехарактерное в отсутствии зеркала: считается, что в это время она проверяет, повторяются ли движения в отражении. Наконец, вывод о том, что особь может узнать себя в зеркале, делается тогда, когда она начинает исследовать свое отражение — например, когда смотрит на красную точку, которую не видно без использования зеркала."

https://nplus1.ru/news/2019/02/08/self-awared-fish
[Ответ][Цитата]
Траян
Сообщений: 1013
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 17 фев 19 0:16
Цитата:
Автор: Разум_Возмущёный

Классическая "Угадайка"
Дана некая рекурентная последовательность букв А и B (всего 1000 символов):

Изначально содержание последовательноси неизвестно.
Читаем букву за буквой слева-направо постепенно раскрывая содержание послания.

Задача: Прочухать систему и предсказать следующую букву перед её прочтением.

При случайном "угадывании" вероятность правильных ответов P = ~50%. При интеллектуальном - чем P > 50% тем больше IQ системы. Не делим последовательность на обучающую и тестовую. Статистика ответов считается с первого символа. Т.е. последовательность и обучающая и тестовая одновременно. Последовательность немного зашумлена (10% символов с ошибкой в системе). Все как в жизни.)))


"Исследователи из OpenAI создали алгоритм, который умеет создавать правдоподобные тексты и отвечать на вопросы без спецификации необходимой задачи в процессе обучения. Единственное умение GPT-2, обученного на восьми миллионах текстовых веб-страниц, — предсказывать последующее слово. Описание работы алгоритма доступно на официальном сайте проекта...

Авторы утверждают, что единственная способность их алгоритма, — генерировать новые слова на основании прочитанного. Сравнительно простое решение задачи автоматической обработки языка позволило ученым создать алгоритм, который может не только дописывать отрывки, представленные людьми, но также и писать эссе на заданные темы и новости на основании заголовков..."

https://nplus1.ru/news/2019/02/15/gpt-2

https://blog.openai.com/better-language-models/

[Ответ][Цитата]
Траян
Сообщений: 1013
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 фев 19 21:11
Утащено с ветки Местология :
http://gotai.net/forum/default.aspx?page=22&threadid=256014

Цитата:
Автор: Андрей

"Цитата:
Автор: гость 188.170.81.*
вы сказали про ретроспективный анализ, то это хорошо известная проблема распределения подкрепления в многоходовом RL "

Вот это интересная тема.
Я не сильно углублялся в алгоритмы обучения с подкреплением, потому что сама постановка вопроса видится мне ложной и оторванной от реалий - научить некоторого интеллектуального агента достигать некоторое целевое состояние или увеличить какой-то выигрыш (если я правильно понял) путём подкрепления "сахарком" правильных действий. Я не знаю у кого как, но в своём поведении я ничего подобного не наблюдаю. Видимо и само название и сущность метода происходит из простейших опытов Павлова над собаками. Но если у собак вырабатывали одношаговый условный рефлекс на некий раздражитель, в дополнение к основному врождённому рефлексу, то представить себе возможность подкрепления многошагового рефлекса не представляется возможным. Комбинаторным деревом привалит сразу же.

Нашу психику удобно и, как мне кажется, достаточно корректно представить в виде такой красочной аналогии. Вы сидите в автомобиле спиной к лобовому стеклу, автомобиль едет вперёд, за рулём сидит слепой водитель, а Вы смотрите на удаляющуюся дорогу и на следы, которые оставляет после себя автомобиль. В зависимости от того, что Вы видите, Вы даёте управляющие команды слепому водителю, сознательно или рефлекторно-автоматически.
Дорога, как Вы понимаете - это Ваша память. То, что Вы видите на этой дороге в данный момент - это наполнение Вашего сознания. В отличие от реальной дороги мы имеем счастливую возможность заглянуть очень далеко в прошлое "за горизонт" и увидеть ту часть дороги, которую мы давно проехали (т.е. можем вспомнить что-то). Естественно, когда мы вспоминаем что-то, это тут же появляется как след на нашей дороге (ведь мы запоминаем наши акты вспоминания). Когда мы думаем о будущем, предполагаем, прогнозируем, что у нас "за спиной" - эта наша мысль тоже оставляет такой же след на дороге, к которому мы тоже можем обращаться для принятия решения. Как Вы понимаете, в нашей реальности что угодно можно делать с дорогой, которую мы проехали (с нашей памятью), но принципиально невозможно развернуться и посмотреть "куда едет автомобиль" (наше будущее). Говорят, баба Ванга и Нострадамус такое могли, но мы себе такую экзотику позволить не можем. Конечно, по одним и тем же участкам дороги мы можем проезжать многократно, изучая их в деталях, но это всё равно не гарантирует нашей уверенности в том, что у нас за спиной.

Из этой аналогии сразу становится понятно, что:
1. Интеллект может быть исключительно реактивным устройством. Да, он может реагировать очень быстро, очень удачно, очень ловко, но стимул, который становится условием нашей реакции, должен сначала появится "на дороге", т.е. попасть в восприятие, в прошлое, в нашу память, в наше сознание.
2. Ретроспективный анализ - это не какая-то частная процедура из многих - это основное наполнение нашего мышления (помимо построения самих рефлексов, реакций).
3. Некорректно описывать интеллект как агента, стремящегося к чему-то. Это - кибернетический нонсенс, в свете описанной аналогии. Интеллект, это устройство, реагирующее на отклонения "автомобиля", учащееся выявлять ошибки и готовится к ошибкам заранее. И если мы научимся не допускать ошибок, реагировать до наступления ошибки, то это даёт нам шанс (только шанс! вовсе не гарантию) достичь "пункта назначения" т.е. выигрыш, максимизацию выгоды, целевое состояние - называйте как хотите. Т.е. акцентировать своё внимание нужно не на том, что у нас "за спиной", чего мы принципиально не видим. А на том, что у нас перед глазами - наш опыт, наша память, наши ошибки.

Самое главное, что здесь буйным цветом не расцветает комбинаторное дерево. Здесь достаточно выработать отдельные правильные реакции на отдельные отклонения, чтобы получить шанс достичь большой цели. Вместо достижения большой цели в явном виде нам приходится довольствоваться тем, что мы избегаем ошибок (отклонений от норм), т.е. делаем то, что называется ставить промежуточные цели, промежуточные задачи.
[Ответ][Цитата]
Траян
Сообщений: 1013
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 24 фев 19 21:16
Феномен Баадера — Майнхоф во всей красе.
[Ответ][Цитата]
Траян
Сообщений: 1013
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 25 апр 19 8:38
Преамбула.

В конце января появилась - тогда еще в самом общем и расплывчатом виде - идея того, как можно сделать многошаговое прогнозирование в RL (причем, даже для новых, ранее не встречавшихся состояний(!)) без построения дерева действий.

К концу февраля появились конкретные соображения относительно того, как эту идею можно реализовать на практике.

И в те же дни на Готайке случайно попался на глаза следующий обмен мнениями между Хмуром и Андреем:

На: Местология
Добавлено: 24 фев 19 5:09

http://gotai.net/forum/default.aspx?page=22&threadid=256014

Цитата:
Автор: гость
> белиберду
ну, вам есть куда развиваться, просто отложите в архив не понятое, может и как-то проявится потом - что же вы сказали про ретроспективный анализ, то это хорошо известная проблема распределения подкрепления в многоходовом RL


Цитата:
Автор: Андрей
Вот это интересная тема.
Я не сильно углублялся в алгоритмы обучения с подкреплением, потому что сама постановка вопроса видится мне ложной и оторванной от реалий - научить некоторого интеллектуального агента достигать некоторое целевое состояние или увеличить какой-то выигрыш (если я правильно понял) путём подкрепления "сахарком" правильных действий. Я не знаю у кого как, но в своём поведении я ничего подобного не наблюдаю. Видимо и само название и сущность метода происходит из простейших опытов Павлова над собаками. Но если у собак вырабатывали одношаговый условный рефлекс на некий раздражитель, в дополнение к основному врождённому рефлексу, то представить себе возможность подкрепления многошагового рефлекса не представляется возможным. Комбинаторным деревом привалит сразу же.


Конечно же, я не мог тогда не отозваться:

Цитата:
Автор: Траян
+10500
Тема эта действительно интересная, причем интересная настолько, что я, с Вашего позволения, почти целиком Ваш пост утащу себе в ветку - дабы не пришлось потом его искать по всей Готайке.

А по прошествии некоторого времени, когда дозреют необходимые для этого условия, обстоятельно и содержательно на него отвечу.


Более конкретно отвечать тогда не стал, поскольку хотелось проверить свои выкладки в машинных экспериментах в реально работающей программе.

Но наличие интересного совпадения тем обсуждений отметил
Цитата:
Автор: Траян
Феномен Баадера — Майнхоф во всей красе.
[Ответ][Цитата]
Траян
Сообщений: 1013
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 25 апр 19 8:47
Изменено: 25 апр 19 9:17
Так вот, на днях закончил первую, пусть пока еще самую поверхностную проверку работы всей схемы.

Все вроде нормально и алгоритм работает. Все еще надо будет, конечно, проверить и перепроверить, но пока все ОК.


203500
[Ответ][Цитата]
Траян
Сообщений: 1013
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 04 май 19 6:12
[Ответ][Цитата]
Львович
Сообщений: 303
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 04 май 19 7:39
Цитата:
Автор: Траян
В конце января появилась - тогда еще в самом общем и расплывчатом виде - идея того, как можно сделать многошаговое прогнозирование в RL (причем, даже для новых, ранее не встречавшихся состояний(!)) без построения дерева действий.

Я иду похожим путем. Мой агент пытается восстановить граф состояний и переходов среды (что за чем идет) и присвоить им "ценность". Соответственно, все будущие состояния (похожие на ранее пройденные) оказываются уже оцененными, то есть спрогнозированными.
Хотя я не совсем понял цель "многошагового" прогнозирования. Ведь после очередного шага агент получит дополнительную информацию и она может сильно повлиять на последующие шаги.
[Ответ][Цитата]
Траян
Сообщений: 1013
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 27 май 19 4:20
Цитата:
Автор: Львович
Я иду похожим путем. Мой агент пытается восстановить граф состояний и переходов среды (что за чем идет) и присвоить им "ценность".

Нечто подобное я предполагал, но меня во всем этом неимоверно удивляет то, что Вы в своем подходе почему-то решили отказаться от вероятностей. Этого мне никогда не понять.

На мой взгляд, при создании ИИ/CИИ без вероятностей нельзя обойтись в принципе.

Вот я сейчас почитываю Скотта Ааронсона ("Квантовые вычисления со времен Демокрита"), у него есть такое высказывание:
"Но если квантовая механика – это не физика в обычном смысле слова, если она не занимается ни веществом, ни энергией, ни волнами, ни частицами, то чем же она занимается? С моей точки зрения, она занимается информацией, вероятностями, наблюдаемыми величинами, и еще тем, как все они соотносятся между собой."

Перефразируя это выражение можно сказать, что "С моей точки зрения, наука о СИИ занимается моделями мира, вероятностями, наблюдаемыми величинами, и еще тем, как все они соотносятся между собой."



Цитата:
Автор: Львович
Хотя я не совсем понял цель "многошагового" прогнозирования. Ведь после очередного шага агент получит дополнительную информацию и она может сильно повлиять на последующие шаги.

Ессно. Поэтому при прогнозировании следует учитывать такую возможность.
[Ответ][Цитата]
r
Сообщений: 821
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 27 май 19 8:05
Цитата:
Автор: Львович
Хотя я не совсем понял цель "многошагового" прогнозирования. Ведь после очередного шага агент получит дополнительную информацию и она может сильно повлиять на последующие шаги.
Если ресурсы позволяют, то почему нет. В шахматных играх, например, пока соперник думает, можно просчитать ветки, которые возможно никогда и не сбудутся, но видимо можно получить из этих "лишних" вычислений пользу, раз это существует. Например, можно рассчитывать вероятности для каждого последующего хода соперника, и в той ветке, где вероятностей больше, постараться просчитать как можно дальше.

А вообще, от только однорангового многошагового прогнозирования в жизни действительно толку не много, да.
[Ответ][Цитата]
Траян
Сообщений: 1013
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 29 июн 19 5:54
Цитата:
Автор: Андрей
Это, конечно, миф, сродни вере Траяна в возможность некоего вероятностного вывода на основании похожих данных в совершенно новых ситуациях.
В совершенно новых ситуациях можно сделать только одно - запомнить их, как свой жизненный опыт.

Андрей, и как, интресно, Вы на белом свете живете, если вся Ваша жизнь - это череда всегда отличных друг от друга ситуаций (Вам никогда не удастся оказаться в двух наборах совершенно одинаковых обстоятельств)?

Вы только и делаете, что запоминаете их? Или все же каким-то образом определяете и используете то схожее, что в них можно обнаружить?



PS И причем здесь вера? В правильности моих выкладок любой желающий может убедиться на практике. В БМП используется объективно регистрируемое стохастическое свойство/особенность нашего мира.
[Ответ][Цитата]
Андрей
Сообщений: 3791
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 29 июн 19 6:30
Цитата:
Автор: Траян
Вам никогда не удастся оказаться в двух наборах совершенно одинаковых обстоятельств
Это ошибка. Я постоянно оказываюсь в абсолютно одинаковых ситуациях на (!) определённом уровне абстракции, т.е. отвлечения от конкретных деталей. Например, месяц назад я был в деревне. И сейчас я в деревне. Хотя это две разные деревни. Когда я оказываюсь в деревне, я ожидаю, как минимум, чистый воздух, лес и колодец. Моя модель сработала. Без всяких вероятностей. Конечно места колодца и леса в этих деревнях отличаются, но на абстрактном уровне эти деревни абсолютно одинаковые.
Сила человеческого ума именно в способности связывать свои реакции с абстрактными понятиями, в отличие от ума животных, для которых все ситуации, судя по всему, конкретны и индивидуальны.

Цитата:
Автор: Траян
причем здесь вера?
Насколько мне известно, СИИ у Вас пока нету, Вы только верите, что БМП поможет Вам его создать.

Цитата:
Автор: Траян
В БМП используется объективно регистрируемое стохастическое свойство/особенность нашего мира.
Я иногда размышляю над Вашим методом, пытаясь понять, чем же он так Вас привлекает, но пока мне кажется, что Вас привлекает только некая универсальность вероятностной оценки, которая на самом деле может быть уместна только для очень плохих данных в очень редких случаях. Когда же данные хороши (а именно такими данными оперирует обычно интеллект человека, например, "в каждой деревне размещён колодец") применять вероятностные методы и тем более присваивать вероятностные свойства миру - мне кажется неуместным.
[Ответ][Цитата]
Траян
Сообщений: 1013
На: Об одном подходе к решению задачи создания СИИ
Добавлено: 29 июн 19 23:12
Изменено: 29 июн 19 23:49
Цитата:
Автор: Андрей
Я иногда размышляю над Вашим методом, пытаясь понять, чем же он так Вас привлекает...

Разница в наших подходах в том, что Вы исходите из того, что человеку его модель мира (назовите ее как угодно: умвельт, онтология, картина мира, мировосприятие и т.д.), изначально дается почти целиком в готовом виде. И далее, при ее использовании на протяжении жизни она остается практически неизменной.

Я же исхожу из того, что ЕИ (а значит и СИИ) сам строит свою модель мира. Почти с нуля (с очень небольшой исходной базы мета-знаний). Главным образом на своем собственном опыте (поначалу - при его направленном обучении/воспитании). И что ЕИ на протяжении всей жизни непрерывно совершенствует, корректирует, подправляет, а порой и радикально изменяет свою модель мира - дабы она возможно более точно соответствовала действительности.

Перефразируя известное образное выражение можно сказать, что Вы - как и большинство готайцев, разделяющих с Вами грех онтоложества - рассматриваете СИИ как некий сосуд, который следует наполнить знаниями. (При этом, каждый форумчанин выделяет в этом процессе наиболее важный по его мнению аспект. Скажем, форумчанин М. считает важным обратить внимание на форму сосуда (оптимизировать способ представления знаний). Форумчанин П. призывает обратить внимание на их структуру/организацию. Кто считает определяющим способ наполнения сосуда. Кто-то - свойства жидкости. Группа товарищей сейчас решает вопрос о наиболее удобной форме его горлышка/интерфейса. И т.д.)

Я же исхожу из того, что СИИ - это факел, который следует зажечь. Иначе говоря, задача создания СИИ - это задача запуска в искусственном устройстве само-поддерживающегося процесса познания и самосовершенствования.

Ключевым аргументом в пользу того, что мой подход является более правильный является следующее простое соображение:
Кто Вам сказал, что наши собственные знания о мире - кои онтоложцы предполагают забить в СИИ и тем ограничиться - являются окончательными и абсолютно правильными?

Цитата:
Автор: АндрейЭто ошибка. Я постоянно оказываюсь в абсолютно одинаковых ситуациях на (!) определённом уровне абстракции, т.е. отвлечения от конкретных деталей.

А откуда Вы взяли те правила руководствуясь которыми отвлекаетесь от деталей?

Цитата:
Автор: Андрей Например, месяц назад я был в деревне. И сейчас я в деревне. Хотя это две разные деревни. Когда я оказываюсь в деревне, я ожидаю, как минимум, чистый воздух, лес и колодец. Моя модель сработала. Без всяких вероятностей.

В третий раз Вы попадете в деревню, где не будет поблизости леса. И что - немедленно впадете в ступор? С Вами произойдет аппаратный останов? Пересмотр всей картины мира? Нет же, Вы просто подкорректируете вероятности своих ожиданий встретить лес-колодец.


Цитата:
Автор: Андрей
Сила человеческого ума именно в способности связывать свои реакции с абстрактными понятиями, в отличие от ума животных, для которых все ситуации, судя по всему, конкретны и индивидуальны.

А на основе чего при обобщении/огрублении описаний, т.е. при выработке правил абстрагирования решается вопрос о том, какие из детали являются второстепенными (и ими можно пренебречь), а которые являются главными (и их отбрасывать ни в коем случае нельзя?).
Это вопрос совсем не такой простой, как может показаться на первый взгляд - поскольку его решение напрямую связано с глобальной философской проблемой индуктивного вывода.
[Ответ][Цитата]
 Стр.101 (110)1  ...  97  98  99  100  [101]  102  103  104  105  ...  110<< < Пред. | След. > >>