GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.27 (40)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Свободный от троллей канал, предназначенный для предметного обсуждения
rrr3
Сообщений: 9803
На: Свободный от троллей канал, предназначенный для предметного обсуждения
Добавлено: 14 апр 17 7:28
Цитата:
Автор: vchc
... и советом попечителей из верхушки учёных.

Ну так это же придется за верхушкой-то к России обращаться... или напрямую в Питер...
[Ответ][Цитата]
Андрей
Сообщений: 3328
На: Свободный от троллей канал, предназначенный для предметного обсуждения
Добавлено: 14 апр 17 15:17
Цитата:
Автор: Эgg
статья, которая предлагает целостный подход создания сильного ИИ
Что мне в статье понравилось.
1. Авторы вполне серьезно ставят задачу создания СИИ, их не пугают сравнительно слабые вычислительные мощности и пробелы в нейронауке, они ищут возможности, а не оправдания.
2. Современные достижения в области ИИ рассмотрены критично без преувеличений.
3. Статья претендует на всеобъёмность.

Что мне не понравилось.
1. В статье так и не было обозначено, что, собственно, понимается под обучением/интеллектом "как у людей"? Право дать определение интеллекту на свой вкус предоставлено читателю.
2. Системы глубокого обучения для авторов являются священным животным. Каждую свою здравую идею они тут же пытаются нахлобучить на эти злоебучие нейросети. Сами тут же пишут, что есть принципиальная разница между работой человека и нейросети, но одержимость велит вспомнить свой фетиш. Это похоже на попытки полететь в космос на паровом двигателе, когда другой альтернативы нет - ну давайте прицепим к паровому двигателю конский хвост, а вдруг полетит...
3. Довольно наивно выглядят рассуждения авторов о врождённой физической и психологической интуиции у ребёнка. У ребёнка нет детектора, который выявляет принадлежность объекта к физике или психологии - и тот и другой должен моделироваться в уме единообразно, в алфавите некоторых базовых универсальных представлений типа - связи/отношения, намерения, изменения. Причём авторы сами удивлённо указывают на определённые "аналогии" между физическими и психологическими понятиями, но не отождествляют их.
4. Мало конкретики, что для обзорной статьи, наверное, простительно.
5. Шесть раз упомянута всуе некая "эволюция".
6. Если я правильно уловил ход мыслей западных авторов, то они намекают на то, что главной задачей интеллекта есть поиск некоторой максимальной выгоды, что для западных авторов не удивительно.
7. Совсем не затронули действительно интересные (мне) философские вопросы типа: как возникает квалиа? что такое сознание? как приоретизируются задачи?

На какие мысли навевает данная статья.
Быстрота работы человеческого интеллекта (как я думаю) обусловлена не столько тем, что он параллельно и аналогово работает (хотя и этим тоже), сколько тем, что он работает с сенсорами только в случае крайней необходимости. Сенсор предоставляющий детальную информацию используется только для верификации некоторого внутреннего представления (модели), построенного мозгом, исходя из "внутренних" соображений. Все же компьютерные системы намертво привязаны к сенсорам - из них они черпают всё. Роются в деталях, пытаясь построить общее из частного. Мне кажется, мозг так не работает. Он строит общее из другого общего и только если полученная модель не устраивает по своему качеству, тогда она верифицируется медленными точными рецепторами и подправляется.
[Ответ][Цитата]
Эгг
Сообщений: 9050
На: Свободный от троллей канал, предназначенный для предметного обсуждения
Добавлено: 14 апр 17 16:43
Изменено: 14 апр 17 17:04
Цитата:
Автор: Андрей
***

ОК.
Спасибо за развернутый и подробный комментарий!
[Ответ][Цитата]
гоcть
Сообщений: 87
На: Свободный от троллей канал, предназначенный для предметного обсуждения
+1
Добавлено: 14 апр 17 17:31
Цитата:
Автор: Андрей
как возникает квалиа? что такое сознание?
То что мы называем “сознанием”, это восприятие работы некоторой части внутренней кухни нашей “метамодели всего”. Мы различаем сенсорные потоки данных, такие как формы, цвета звуки, запахи, с одной стороны и внутренние, такие как “мысли”, “внутренний голос”, “понимание”, с другой, распознавание этих внутренних потоков данных интерпретируется как восприятие сознания, “я мыслю, следовательно существую”, в терминологии машинного обучения – “если я распознаю мысли, то запущен процесс сознание”, это и есть алгоритм восприятия наличия сознания. Некоторые нейроны, скорей всего их многочисленные группы, также как научились эволюционно, воспринимать сложные, не явно представленные, переживания ”внутреннего мира”, тн. “интуиция”, когда то научились воспринимать отдельные внутренние аспекты работы системы в целом, для её регулировки и оптимизации. Ну вот этот новый поток дынных, отличный от внешних сенсорных и стал “сознанием”.
[Ответ][Цитата]
Траян
Сообщений: 359
На: Свободный от троллей канал, предназначенный для предметного обсуждения
Добавлено: 15 апр 17 2:14
Изменено: 15 апр 17 2:42
Цитата:
Автор: Андрей
философские вопросы типа: как возникает квалиа? что такое сознание?


Я бы еще добавил к этому проблему понимания.

Квалиа, сознание и понимание - это самые глубокие, самые трудные, "вечные" проблемы ИИ.

И самая трудная среди них - проблема квалиа, "живого" ощущения.

Если по отношению к сознанию и пониманию у нас есть какие-то, пока еще довольно смутные предположения относительно того, что это такое и как оно может быть воспроизведено в искусственных устройствах (скорее всего, там все завязано на внутреннюю модель внешнего мира и самого себя), то с квалиа все глухо намертво.

Нет абсолютно никаких идей, гипотез и предположений. Более того, 90% исследователей ИИ вообще не понимают, что это за проблема.
[Ответ][Цитата]
Траян
Сообщений: 359
На: Свободный от троллей канал, предназначенный для предметного обсуждения
Добавлено: 15 апр 17 2:37
Изменено: 15 апр 17 2:40
Цитата:
Автор: Траян
с квалиа всего глухо намертво.


Тут утешением может послужить то обстоятельство, что в постановке задачи создания СИИ как некоего искусственного разумного устройства вообще ничего не говорится о том, что это обязательно должно быть живое устройство.

И потому задачу создания СИИ можно рассматривать как задачу создания разумной нежити, носферату.

Тем паче, что существующие в общественном сознании установки вполне позволяют ему достаточно легко воспринять идею разумного неживого существа/устройства.

Если же при создании СИИ заложить в него двухступенчатый механизм эмоций, когда определяющими будут эмоции взаимодействующего с ним человека-оператора, то о этих страшноватых аллюзиях можно вообще забыть.

Тогда СИИ можно рассматривать уже не как отдельное существо, а как некий орган находящейся в всестороннем высокоуровневом ментальном симбиозе с хомо.

[Ответ][Цитата]
бессмертный сложный
Сообщений: 330
На: Свободный от троллей канал, предназначенный для предметного обсуждения
Добавлено: 15 апр 17 4:05
Цитата:
Автор: просто гоcть
“если я распознаю мысли, то запущен процесс сознание”,[/b]
Ну, в какой то степени да, но считаете ли этого распознавания достаточным? Как по Вашему, Вы лично полностью так бы своё Я так определили? Отчего же так все мучаются этой загадкой? Пытаются посмотреть на смотрящего...
[Ответ][Цитата]
rrr3
Сообщений: 9803
На: Свободный от троллей канал, предназначенный для предметного обсуждения
Добавлено: 15 апр 17 5:32
Изменено: 15 апр 17 5:34
Цитата:
Автор: бессмертный сложный

Ну, в какой то степени да, но считаете ли этого распознавания достаточным? Как по Вашему, Вы лично полностью так бы своё Я так определили? Отчего же так все мучаются этой загадкой? Пытаются посмотреть на смотрящего...

Посмотреть (точнее, увидеть) на смотрящего говорят не возможно. "Он" как бы определяется самим фактом смотрения, образно говоря, после того как... "воспоминанием" квалиа/распознавания..., может не врут...
[Ответ][Цитата]
Андрей
Сообщений: 3328
На: Свободный от троллей канал, предназначенный для предметного обсуждения
Добавлено: 15 апр 17 8:09
Цитата:
автор: Траян
с квалиа все глухо намертво
утешением может послужить то обстоятельство, что в постановке задачи создания СИИ как некоего искусственного разумного устройства вообще ничего не говорится о том, что это обязательно должно быть живое устройство
В обсуждаемой статье авторы постоянно сетуют на то, что живому человеку достаточно одного обучающего примера, чтобы сразу получить: 1) инвариантную модель для восприятия аналогов, 2) понимание того, как данный предмет воспроизвести (реплицировать посредством своих манипуляций), 3) построить концепцию и изобретать похожие вещи. Принципиальный вопрос в том, возможно ли построить механизм с такой же эффективностью без понимания квалиа? Когда я вижу зелёный цвет и когда я вижу велосипед у меня складывается стойкое ощущение, что механизм осознавания мною и того и другого одинаковый. Что одновременно с пониманием структурной концепции велосипеда алфавит моих квалиа расширяется и теперь я могу воспринимать "велосипедность" как некую самостоятельную квалитативность. Если я дальше вижу группу одновременно едущих велосипедистов, то не распознаю каждый велосипед по отдельности (как велит существующая парадигма "от деталей к общему"), а сразу схватываю это как группу одинаковой квалитативности, так же как зелёную массу на дереве я квалифицирую как "листва". Поэтому если мы хотим, чтобы машины так же схватывали концепцию распознаваемой сцены в целом, нам, наверное, нужно чётко понимать как работает квалиа.

Чтобы ответить на этот вопрос я нашёл такую постановку задачи. Квалиа - это разновидность отношения (связи) или это разновидность объектности? Т.е. когда я осознаю "зелёное" - это "нечто" связано с "чем-то" посредством особой "зелёной" связи? Или же это "нечто" связано с "зелёным" посредством какой-то универсальной неквалитативной связи? Мне кажется, что тот факт, что мы можем 1) одними и теми же рецепторами воспринимать вещи разной квалитативности, 2) делать это очень быстро и 3) воспринимать их как области разной формы - это больше похоже на связь определённой квалитативности. Каким образом связь, как таковая, может иметь некую свойственность - мне пока не понятно, но, возможно, именно в направлении этого понимания лежит понимание квалиа.

Цитата:
автор: Траян
задачу создания СИИ можно рассматривать как задачу создания разумной нежити
Давайте попробуем с нуля от общего и посмотрим, что получится.
Вот есть люди, которые шевелятся. Своим шевелением они демонстрируют некую направленность. Их шевеления приводят к созданию некоторых новых, ранее отсутствовавших конструкций. Если эти конструкции новы, значит научиться извне им человек не мог. Получается, люди самим своим существованием реализуют концепцию создания чего-то нового. Т.е. люди творят своё будущее. Детерминируют его. На основании чего? На основании своих врождённых качеств. Младенец ничего не знает о мире, ни о каких законах физики и психологии. И тем не менее он способен полноценно двигаться в том же направлении, что и все люди. Он создаёт своё будущее. Это значит, что его потенция к созданию не зависит от того, обучился он чему-то или нет.
Получается, что нужно сделать механизм, который будет иметь безусловное стремление к созданию всевозможных новых конструкций. И если вдруг окажется, что эти конструкции хоть как-то косо-криво можно соотнести с каким-то рецепторным полем, то мы получаем потенциальное интеллектуальное существо.
Существующие разработки нацелены в совершенно другом направлении - создать такой механизм, чтобы он максимально точно воспринимал некую "объективную реальность" - задача прямо противоположная и выхолощенная (та нежить, о которой Вы говорите). Получается, что если мы хотим создать что-то интересное, то мы должны делать живое существо, шевеления которого будут обусловлены тем же, чем обусловлены шевеления людей, а именно их самыми глубинными свойствами - ощущения, квалиа, сознание, понимание.
[Ответ][Цитата]
Эгг
Сообщений: 9050
На: Свободный от троллей канал, предназначенный для предметного обсуждения
Добавлено: 15 апр 17 8:18
Изменено: 15 апр 17 8:21
Попробуйте все-таки, господа, обратить свой взор в сторону семиотики. По моему скромному мнению, вопросы, которые вы обсуждаете, имеют исчерпывающее толкование в семиотических моделях и эти модели очень эффективные. Другое дело, что что нужно понимать как будут устроены "пространства образов" в "интерпретации" конкретных потоков данных. Но это уже совершенно другая задача.
[Ответ][Цитата]
vchc
Сообщений: 192
На: Свободный от троллей канал, предназначенный для предметного обсуждения
Добавлено: 15 апр 17 8:42
Изменено: 15 апр 17 8:54
Пока господа изобретают велосипеды, вы бы, Эgg, поделились своим отношением к статье.
[Ответ][Цитата]
Эгг
Сообщений: 9050
На: Свободный от троллей канал, предназначенный для предметного обсуждения
Добавлено: 15 апр 17 8:58
Изменено: 15 апр 17 9:02
Цитата:
Автор: vchc
Пока господа изобретают велосипеды, вы бы, Эgg, поделились своим отношением к статье.

У меня нет какого-то особого отношения. Мне она понравилась своей обзорностью, ее вполне можно использовать в качестве intro для дальнейшего погружения в материал, deep learning сейчас популярен, его приходится знать. Что касается сути, то я не сторонник представления о том, что нейронные сети и ML вообще - это путь к AGI. На мой вкус, это путь ровно в противоположную сторону, я сторонник т.н. когнитивных архитектур (с отличием в трактовке интеллектуального агента от классики). На мой вкус, использование ML вполне возможно на уровне каких-то отдельных модулей и механизмов, но не более того.

Мышление - это не функция, не механизм, не обработка, это - специфическая организация. А обработка может быть почти любой.
[Ответ][Цитата]
vchc
Сообщений: 192
На: Свободный от троллей канал, предназначенный для предметного обсуждения
Добавлено: 15 апр 17 9:09
У меня схожее отношение. Единственно огорчает ситуация, когда авторы не развивают свои идеи дальше. Теоретическая работа сейчас не в почёте. Хвастаться перед большой аудиторией нечем
[Ответ][Цитата]
rrr3
Сообщений: 9803
На: Свободный от троллей канал, предназначенный для предметного обсуждения
Добавлено: 15 апр 17 9:17
Цитата:
Автор: Андрей...
Получается, что нужно сделать механизм, который будет иметь безусловное стремление к созданию всевозможных новых конструкций. И если вдруг окажется, что эти конструкции хоть как-то косо-криво можно соотнести с каким-то рецепторным полем, то мы получаем потенциальное интеллектуальное существо.

Неужели таки получается... уже...
[Ответ][Цитата]
Эгг
Сообщений: 9050
На: Свободный от троллей канал, предназначенный для предметного обсуждения
Добавлено: 15 апр 17 9:20
Цитата:
Автор: vchc
У меня схожее отношение. Единственно огорчает ситуация, когда авторы не развивают свои идеи дальше. Теоретическая работа сейчас не в почёте. Хвастаться перед большой аудиторией нечем

Мы вчера чуть-чуть обсудили это. На самом деле, я не разделяю Вашего оптимизма, что такие задачи можно решать каким-то бюрократическо-"социалистическим" путем, в силу неэффективности. И не думаю, что обобщение такого уровня возможно в университетах, в силу "учительского" консерватизма, но зависимости от модных трендов. А вот внутри какой-нибудь толстой корпорации такая вещь возникнуть может, ибо нет ничего практичнее хорошей теории.
[Ответ][Цитата]
 Стр.27 (40)1  ...  23  24  25  26  [27]  28  29  30  31  ...  40<< < Пред. | След. > >>