Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.1 (2) След. > >>    Поиск:
Автор	Тема: Учимся учить
Львович Сообщений: 303	Учимся учить Добавлено: 03 дек 06 13:09 Хочу поднять тему опосредованно связанную с интеллектом. Как правильно обучать интеллект? Допустим, некторое интеллектуальное (способное к обучению) устройство создано. Конечно, некоторым объемом "вшитых" знаний оно уже обладает. Однако возникают вопросы: * Каков минимальный объем "вшитых" знаний? Что это за знания? * Существуют ли какие-то требования к внешней среде, необходимые для осуществления процесса обучения? Если да, то какие? * Квантовано ли обучение? Т.е. приобретаются ли знания порциями? * Можно ли измерить объем (количество) приобретенных знаний. Если да, то как и в чем? * От чего зависит скорость обучения (количество знаний, приобретаемых в единицу времени)? Можно ли на нее повлиять изменяя внешнюю среду? Интуитивно (и из опыта человека) понятно, что знания надо давать постепенно, так как мы учим маленьких детей. Соответсвенно, внешняя среда должна соответствовать текущим знаниям ребенка. Однако удивляют стремления подключить ИИ сразу к осмысленным текстам или даже к Интернету. "Как же! Там ведь кладезь знаний. Пусть набирается!" Конечно, следовало бы сначала определить, что же такое знания, но не буду навязывать свою точку зрения и предлагаю с этого начинать. [Ответ][Цитата]
Андрей Сообщений: 3944	На: Учимся учить Добавлено: 03 дек 06 22:04 Я придерживаюсь, имхо гениального, мнения Виктора Лещикова - знания рождаются в уме, а потом находят либо не находят своё место в модели субъективной реальности. Таким образом обучение сводится к двум фазам: - создание абстракции - закрепление абстракции при её востребованности моделью реальности. Востребованность означает эффективность предсказания состояний рецепторов, их компенсации с целью сохранения общесистемного спокойствия. Теперь по пунктам: >> Каков минимальный объем "вшитых" знаний? Что это за знания? В общем случае я думаю стоит ориентироваться на универсальную систему с минимумом априорных знаний. Вполне допускаю, что, поскольку людям свойственно приходить в своих рассуждениях к модели "большого взрыва" для описания генезиса вселенной, именно такая схема справедлива для размножения абстракций в уме - вначале одна базовая, общая, потом - много частных. Базовой может быть, например: я, мир, самосознание, сознание. >> Существуют ли какие-то требования к внешней среде, необходимые для осуществления процесса обучения? Если да, то какие? Я полагаю, что вся "внешняя среда" для интеллекта ограничена совокупной поверхностью всех его рецепторов. Выдумывать для ИИ некую частную, справедливую только для нас, "объективную" реальность не вижу никакого смысла, возможности и необходимости. >> Квантовано ли обучение? Т.е. приобретаются ли знания порциями? Полагаю, что для начала стоит допустить, что да. >> Можно ли измерить объем (количество) приобретенных знаний. Если да, то как и в чем? И зачем?? Такое впечатление, что школа калечит умы, призывая доверять только цифрам. Но ведь цифры надо видеть! Значит у ощущений самый высокий уровень достоверности. >> От чего зависит скорость обучения (количество знаний, приобретаемых в единицу времени)? Знания, как сказано выше, не приобретаются, а рождаются. Соответственно, скорость их рождения должна быть пропорциональна их востребованности. Т.е. скорость обучения интеллекта должна соотносится с темпмами роста сложности задач, которые поставляются учащемуся интеллекту. Если перед интеллектом раскинулась пустыня, то выдумывать (рожать) теорему Пифагора ему нет никакой срочной необходимости. Если же учителя ИИ постоянно тычут в него задачами, тогда волей-неволей ему придётся срочно создавать знания, чтобы компенсировать дисбалансирующее (хаотизирующее, возмущающее) воздействие задач. >> Можно ли на нее повлиять изменяя внешнюю среду? Вопрос двойной. 1. Темпы роста знаний естественно имеют свой физический предел для конкретной ЭВМ. Изменение ЭВМ будет изменением "внешней среды" в Вашем понимании? Скорее всего нет. 2. Меняя нагрузку на рецепторы ИИ можно добиться роста темпа рождения знаний, как было сказано в ответе на предыдущий вопрос. [Ответ][Цитата]
NewPoisk Сообщений: 3745	На: Учимся учить Добавлено: 04 дек 06 14:31 Целая огромная тема - http://newpoisk.narod.ru/eskiz.djvu "12. Закачка в ИИ знаний всего человечества" [Ответ][Цитата]
Corwin Сообщений: 1324	На: Учимся учить Добавлено: 04 дек 06 15:16 Очень рад что Вы Львович наконец подняли эту тему. Я считаю этот вопрос очень важным для создания ИИ, так как если не иметь представления как интеллект будет обучатся тогда на что полагаться при его создании? С другой стороны если создать даже очень умный интеллект и не правильно подойти к его обучению, тогда это будет даже не интеллект, а просто программа. Хочу сразу предупредить что последующие мои высказывания построены исключительно на собственном опыте создания интеллектуальной программы. * Каков минимальный объем "вшитых" знаний? Что это за знания? Я могу полагать что "вшитые" знания можно расценивать как знания о том что именно будет обрабатывать интеллект в будущем. То есть какая именно (предположительно) информация будет подаваться на вход. Собственно мой подход обосновывается на том что интеллект не должен иметь ни каких вшитых знаний. То есть интеллект должен исправно работать независимо от языка на котором его обучали и от логики которой его обучали. Под этим имеется в виду что интеллект должен работать в случае если его обучали простыми человеческими словами или специфическими символами, или даже если его обучали просто чтобы он действовал как интерпретатор языка бейсик. * Существуют ли какие-то требования к внешней среде, необходимые для осуществления процесса обучения? Если да, то какие? Гм. вероятно должна быть какая-то возможность вводить информацию Я в основном делаю упор только на текстовую информацию, но это к сожалению очень ограничивает способности к обучению. Было бы гораздо проще если бы вся текстовая информация форматировались с помощью тегов, которые для примера разделяют логические части текста, указывают участки текста особой важности, включают обязательные для исполнения правила. * Квантовано ли обучение? Т.е. приобретаются ли знания порциями? У меня подход что нужно улавливать максимум информации даже если все знания представлены одним предложением. Хотя конечно если подавать знания порциями и при этом между порциями настраивать интеллект на специфический уровень восприятия информации (для каждой порции уровень разный), тогда это очень облегчает обучение (для программы конечно, а не для конечного пользователя ). * Можно ли измерить объем (количество) приобретенных знаний. Если да, то как и в чем? Весьма субъективный показатель. Вероятно в мегабайтах Пожалуй для измерения уровня знаний можно использовать какие-то тесты. * От чего зависит скорость обучения (количество знаний, приобретаемых в единицу времени)? Можно ли на нее повлиять изменяя внешнюю среду? Вероятно от частоты работы процессора и скорости памяти Не совсем представляю как именно можно изменять внешнюю среду. >Однако удивляют стремления подключить ИИ сразу к осмысленным текстам или даже к Интернету. "Как же! Там ведь кладезь знаний. Пусть набирается!" Вероятно без начального обучения ничего толкового ИИ в интернете не найдет >Конечно, следовало бы сначала определить, что же такое знания, но не буду навязывать свою точку зрения и предлагаю с этого начинать. Если начать обсуждать что такое знания, тогда эта тема зайдет в тупик. Уже несколько десятилетий ученые спорят по поводу "что такое знания". Как по мне то ничего кроме ненужных споров этот вопрос не создаст. Предлагаю остановится на том что знания (для ИИ) это все что подается на вход ИИ. По крайней мере для этого топика такой формулировки вполне достаточно. [Ответ][Цитата]
Львович Сообщений: 303	На: Учимся учить Добавлено: 05 дек 06 20:26 Вот уже кое-какие мнения, пора высказаться и самому. Corwin>Если начать обсуждать что такое знания, тогда эта тема зайдет в тупик. Я не предлагаю это обсуждать, но описать, что подразумевает по знаниями высказывающийся, стоит. Я подразумеваю под знаниями "изменения в структуре объекта, приводящие к более эффективному его поведению". Понимаю, что "эффективное поведение" - это не строгое понятие, но зато интуитивно понятное. Могу заменить его на "больший коэффициент интеллекта", но тогда придется объяснять, что такое интеллект и в чем измеряется его коэффициент. * Каков минимальный объем "вшитых" знаний? Что это за знания? Начальная структура обекта и базовые правила ее изменения - это тоже "знания". Далеко не любая структура и не при любых условиях будет самоорганизовываться да еще до достаточно высокого уровня. Учитывая, что полноценному обучанию из всех живых существ поддается человек, можно предположить, что требования к этой начальной структуре довольно высоки. * Существуют ли какие-то требования к внешней среде, необходимые для осуществления процесса обучения? Если да, то какие? Безусловно, под внешней средой подразумеваются сигналы от рецепторов, которые по меньшей мере ДОЛЖНЫ БЫТЬ. Очевидно, что для любого интеллекта и любого выбранного кончного интервала времени существует последовательность входных сигналов, которая НЕ УВЕЛИЧИТ ЕГО ЗНАНИЯ (в моем определении выше), то есть не даст ему НИЧЕГО полезного. Например, если эти сигналы будут "не по теме". Интуитивно понятно, что во входной информации должна быть повторяемость, но повторяемость чего? * Квантовано ли обучение? Т.е. приобретаются ли знания порциями? Вопрос провокационный. В процессе моделирования, да еще цифрового, нам не избежать дискретности. Не будем углубляться в дуализм непрерывного и дискретного. * Можно ли измерить объем (количество) приобретенных знаний. Если да, то как и в чем? В данном мной выше определении знания измеряются, как увеличение коэффициента интеллектуального поведения. Такой подход позволяет хотя бы сравнить эффективность приобретения знаний, т.е. обучения. * От чего зависит скорость обучения (количество знаний, приобретаемых в единицу времени)? Можно ли на нее повлиять изменяя внешнюю среду? Конечно-же здесь не имелось ввиду быстродействие компьютеров и т.п. Андрей правильно отметил "возрастающую сложность задач". Если давать постоянно простые задачи, знания будет приобретаться медленно, если дать очень сложные - то же. Как же определить эту золотую середину? Есть ли какой то формальный критерий "сложности задачи"? Я могу только предложить задачи нулевого и первого уровня сложности: 0 уровень - научиться выдавать на выходе требуемое постоянное значение; 1 уровень - научиться повторять входной сигнал в прямом или инверсном виде. По крайней мере эти задачи должен уметь научиться решать ЛЮБОЙ интеллект. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Учимся учить Добавлено: 06 дек 06 16:35 >Начальная структура обекта и базовые правила ее изменения - это тоже "знания". Алгоритм работы (имеется в виду алгоритм зашитый в программе который не поддается изменению) Вы тоже считаете знаниями? >Безусловно, под внешней средой подразумеваются сигналы от рецепторов Просто для интереса. Какие именно рецепторы Вы считаете необходимыми для работы интеллекта? >существует последовательность входных сигналов, которая не даст ему НИЧЕГО полезного >понятно, что во входной информации должна быть повторяемость Для того чтобы увидеть эту повторяемость нужно запоминать всю информацию. Даже ту, которую Вы не считаете знаниями. [Ответ][Цитата]
Львович Сообщений: 303	На: Учимся учить Добавлено: 08 дек 06 14:54 Цитата: Автор: Corwin >Начальная структура обекта и базовые правила ее изменения - это тоже "знания". Алгоритм работы (имеется в виду алгоритм зашитый в программе который не поддается изменению) Вы тоже считаете знаниями? Вопрос, больше о терминологии. В моем определении, получается - да. Даже "новорожденный" уже способен решать простые задачи, типа тестов нулевого и первого уровня. Цитата: >Безусловно, под внешней средой подразумеваются сигналы от рецепторов Просто для интереса. Какие именно рецепторы Вы считаете необходимыми для работы интеллекта? Я очень "скромно" определяю требования к интеллекту - это любое поведение, которое эффективнее, что случайный выходной сигнал на всем множестве задач. Поэтому в моем понимании интеллекту достаточно одного последовательного двоичного входа. Цитата: >существует последовательность входных сигналов, которая не даст ему НИЧЕГО полезного >понятно, что во входной информации должна быть повторяемость Для того чтобы увидеть эту повторяемость нужно запоминать всю информацию. Даже ту, которую Вы не считаете знаниями. Безусловно, сам интеллект далеко не всегда знает, нужна ему та или иная входящая информация или нет. Здесь ключевую роль игрант ПОВТОРЯЕМОСТЬ. Есть предположение, что ИИ должен запоминать всю входящую информации и помнить ее какое-то время. Затем в процессе внутренней обработки (типа сна) эта информация "раскладывается по полочкам", после чего неиспользованное можно забыть. Однако исследователь ИИ всегда должен знать (понимать), является ли подаваемая в ИИ информация знаниями, или это мусор и шум. Например, если мы обучаем ИИ задаче первого уровня (см. выше) то противоречивые требования типа y=0, а затем y=1 будут мусором, лишь мешающим обучению. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Учимся учить Добавлено: 08 дек 06 16:29 >Вопрос, больше о терминологии. В моем определении, получается - да. Тогда согласно Вашей формулировке ИИ всегда будет иметь вшитые знания (ведь исполняемый файл тоже считаются знаниями). >Затем в процессе внутренней обработки (типа сна) эта информация "раскладывается по полочкам", после чего неиспользованное можно забыть. Но вполне вероятна ситуация что даже неиспользованная информация может быть использована через длительное время. В таком случае у человек вполне нормально удивится «Я же его обучал а он этого не помнит». Кроме того нужно определится что вы считаете неиспользованной информацией. Например предложение «В полдень солнце всегда находится в зените» может не использоваться и не повторятся очень долгое время (или даже вообще не использоваться), но мы ведь не скажем что это лишняя информация. Возможно неиспользованную информацию лучше просто игнорировать (забыть на сознательном уровне но помнить на подсознательном) до первого ее использования. Есть идея разделения обучения и нормальной работы ИИ. То есть во время обучения ИИ запоминает ВСЮ вводимую информацию, а в режиме нормальной работы пытается отделить полезную информацию от мусора (шумов) на основании полученных знаний (полученных за время режима обучения). Кроме того во время нормальной роботы интеллект также должен обучатся но уже тщательно подбирая нужную информацию. [Ответ][Цитата]
Львович Сообщений: 303	На: Учимся учить Добавлено: 09 дек 06 13:20 >Тогда согласно Вашей формулировке ИИ всегда будет иметь вшитые знания Да, есть знания "вложенные" создателем (переданные по наследству), которые приобретались самим создателем (предыдущими поколениями) и есть знания, приобретенные в процессе собственной жизни интеллекта. Один процесс называется онтогенез, а другой филогенез. А вот что из них что не помню . Да, действительно, интеллекту целесообразно запоминать ВСЮ информацию (не только входную, но и выходную!) по крайней мере до тех пор пока затраты на запоминание не будут ухудшать степень достижения целевого показателя. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Учимся учить Добавлено: 12 дек 06 15:11 Хотел бы несколько переформулировать вопрос: Какими знаниями (имеется в виду не алгоритм, а база знаний которая набирается с опытом) должен обладать интеллект для нормальной начальной работы? Для примера, возьмем текстовый ИИ. Для начала было бы не плохо чтобы он все входящие "ты" переобразовывал в "я" и запоминал как "я" ("тебя"->"меня","тебе"->"мне" и т.п.). Соответственно он также должен переводить эти слова наоборот при создании ответа. Для примера "Сколько тебе лет?" ИИ обрабатывает как "Сколько мне лет?". Вопрос в том стоит ли подобные переобразования делать вшитыми или пытаться обучить этому интеллект? Т.е. он с самого начала должен делать эти переобразования или прийти к такому результату в процессе обучения? [Ответ][Цитата]
гость 89.138.0.*	На: Учимся учить Добавлено: 15 дек 06 11:58 (Дима) >Хочу поднять тему опосредованно связанную с интеллектом. Как правильно обучать >интеллект? Маааааленькая тема может быть все таки разделить ее на под темы и обсуждать болле локализировано? >Допустим, некторое интеллектуальное (способное к обучению) устройство создано. >Конечно, некоторым объемом "вшитых" знаний оно уже обладает. Однако возникают >вопросы: >>>> * Каков минимальный объем "вшитых" знаний? Что это за знания? Если смотреть на человека (новорожленного) - там обьем знаний просто гигантский - Он знает "что такое" органы чувств, умеет довольно неплохо их обрабатывать (Зрение, слух, осязание, ...) - Вложены тысячи(если не миллионы) рефлекторных знании первоначально связывающих внашние и внутренние чуства с выживанием. - Многие вложенные знания и рефлексы активиоуются не сразу а по мере развития. Пока не реально занести эти знания в компьютер. Поэтому строя интелект без них мы заведомо решаем задачу на много порядков более сложную чем та которая стоит перед новорожденным. Но это не говорит о том что так нельзя По моему вшитые знания должны быть 1)общие алгоритмитмические и логоческие - заложеные различные алгоритмы которые позволяют обрабатывать и обобщать информацию на основании логики и статистики. 2)Алгоритмы первичной обработки специфической информации органов чуств 3) Первоначальные цели и стимулы развития (связанные с внешними и внутренними органами чувств) >>>>> * Существуют ли какие-то требования к внешней среде, необходимые для осуществления процесса обучения? Если да, то какие? Я думаю да: 1) Относительная безопасность (очень опасные действия заблокированы) 2) Присутствие закономерностей (без этого нечего учить) 3) Присутствие вещей способных вызывать положительные и отрицательные стимулы >>>>* Квантовано ли обучение? Т.е. приобретаются ли знания порциями? Почему бы и нет? Правда каждая порция может и обязана влиять на предыдущие знания >>>>* Можно ли измерить объем (количество) приобретенных знаний. Если да, то как и в чем? Информация Шанона (например в битах) неплохой критерий. Хотя практически посчитать довольно трудно т.к. полная статистика никогда не известна. * От чего зависит скорость обучения (количество знаний, приобретаемых в единицу времени)? Можно ли на нее повлиять изменяя внешнюю среду? 1) От ясности закономерностей в окружающей среде 2) От присутствия и качества учителя Можно - изначально упрощая окр среду и постепенно ее усложняя. Интуитивно (и из опыта человека) понятно, что знания надо давать постепенно, так как мы учим маленьких детей. Соответсвенно, внешняя среда должна соответствовать текущим знаниям ребенка. Однако удивляют стремления подключить ИИ сразу к осмысленным текстам или даже к Интернету. "Как же! Там ведь кладезь знаний. Пусть набирается!" Конечно, следовало бы сначала определить, что же такое знания, но не буду навязывать свою точку зрения и предлагаю с этого начинать. Почему удивляет (Я один из таких) как я сказал очень нехватает того громадного обьема информации который предоставлен ребенку через физическое взаимодействие со средой. За неимением, его надо чем то заменить. Напрашивается интернет. Т.е физическую кровать заменить но слово кровать с вихрями слов которые "летают" и по разному взаимодействуют с ним. Другими словами если текста очень много то мир есть текст . Это позволяет "ребенку" смотреть на миу и даже взаимодействовать с ним без физического тела и контакта. [Ответ][Цитата]
Львович Сообщений: 303	На: Учимся учить Добавлено: 15 дек 06 15:46 >* От чего зависит скорость обучения (количество знаний, приобретаемых в единицу >времени)? Можно ли на нее повлиять изменяя внешнюю среду? >1) От ясности закономерностей в окружающей среде >2) От присутствия и качества учителя >Можно - изначально упрощая окр среду и постепенно ее усложняя. >Другими словами если текста очень много то мир есть текст Тогда, согласитесь, нужен учитель, который сначала "упрощал бы окр среду" или текст. Когда ребенок "доходит" до текста и тем более до интернета, он уже очень много знает о мире. И этот этап перешагивать нельзя. Его можно либа вшить, либо научить. [Ответ][Цитата]
гость 89.138.0.*	На: Учимся учить Добавлено: 15 дек 06 16:23 Цитата: Тогда, согласитесь, нужен учитель, который сначала "упрощал бы окр среду" или текст. Когда ребенок "доходит" до текста и тем более до интернета, он уже очень много знает о мире. И этот этап перешагивать нельзя. Его можно либа вшить, либо научить. Если смотреть на точное содержание текста и пытаться сразу понять каждую страницу в интернете то разумеется. Но, если смотреть на текст как на море сигналов в котором есть множество "простых" взаимодействий то эта информация уже сопоставима. Я смотрю на текст как на тип информации который может быть сравним с информацией получаемой через зрение или осязание. Для примера ТОЛЬКО на основании простой логики и статистики БЕЗ предварительных знаний возможно и не очень сложно: -Обьединить группы слов в "понятия" -Индентифицировать и постепенно систематизировать и обобщать связи между такими понятиями, а это уже не мало для начала. Такие же действия ребенок предположительно пытается делать с физически видимыми или ощутимыми обьектами. Я не говорил что учитель необходим, а только о том что он значительно ускорил бы скорость обучения. "Обучение без учителя" возможно но не всегда эффективно. [Ответ][Цитата]
Львович Сообщений: 303	На: Учимся учить Добавлено: 17 дек 06 18:19 1)А представьте на минуту, что текст заархивирован, например зипом. Удасться ли хоть какому-то интеллекту хоть что-нибудь полезное из него выжать? 2)Еще один мысленный эксперимент. Вам пишут на на бумажке вопрос на китайском языке и запускаю в китайскую библиотеку. Необходимо написать правильный ответ. Сможете ли Вы это сделать и через какое время? Такие эксперименты я называю "с отключением опыта". Когда весь предыдущий опыт человеку бесполезен и он вынужден накапливать новый. Конечно, совсем "отключить" опыт удается не всегда. Про учителя. Учитель (то есть то, что показывает, наколько мы близки к цели) есть всегда. Поэтому я имею ввиду УЧИТЕЛЯ, который формирует ИСКУССТВЕННЫЕ обучающие сигналы тогда, когда внешняя среда их реально еще не формирует, а так же создает ОБУЧАЮЩИЕ ситуации в зависимости от достигнутого уровня обучения. Именно такой УЧИТЕЛЬ способен значительно повысить скорость обучения. Именно поэтому детей мы целенаправленно учим, а не предлагаем им обучаться на жизни самостоятельно. [Ответ][Цитата]
гость 217.132.24.*	На: Учимся учить Добавлено: 17 дек 06 19:42 (Дима) Цитата: 1)А представьте на минуту, что текст заархивирован, например зипом. Удасться ли хоть какому-то интеллекту хоть что-нибудь полезное из него выжать? При наличии одного текста - нет шанса. А при наличии многих интеллект поймет что там есть информация -> поймет принцип кодирования -> раскодирует -> выжмет. (в принципе этим криптография и занимается) Цитата: 2)Еще один мысленный эксперимент. Вам пишут на на бумажке вопрос на китайском языке и запускаю в китайскую библиотеку. Необходимо написать правильный ответ. Сможете ли Вы это сделать и через какое время? К моему громадному удивлению да! Если книг достаточно - язык содержит в себе кучу легко выявимых закономерностей которые позволят самообучится. Более того после некоторых размышлении даже кто то кто получит не сложный вопрос на иностранном языке + гуглу, абсолютно не зная языка почти всегда сможет на него ответит Но это все с языком... в других областях все может быть намного сложнее. Цитата: Про учителя. Учитель (то есть то, что показывает, наколько мы близки к цели) есть всегда. Конечно, но иногда цель - найти закономерности в окружающем. И тогда необязательно показовать насколько мы близки к цели. Тогда достаточно только индикаторов продвижения вперед, которые можно вычислить по теории информации без дополнительных знаний. [Ответ][Цитата]
Стр.1 (2): [1]  2 След. > >>