Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.1 (4) След. > >>    Поиск:
Автор	Тема: альтернатива
xolod Сообщений: 1	альтернатива Добавлено: 03 июн 04 14:45 разработал метод машинного обучения, хочу поделиться со всеми метод очень простой, берите, используйте кто хочет превосходит искуственный нейронные сети (хотя его самого можно считать его специфическим видом нейронной сети) http://www.neyromantik.narod.ru/method.htm если что-то не понятно, спрашивайте хотелось бы получить отзывы [Ответ][Цитата]
Владислав Бердник Сообщений: 38	На: альтернатива Добавлено: 10 янв 05 11:47 Нейронная сеть, в первом приближении, и есть система апроксимации. Очень интересный эксперимент, подтверждающий это предположение. [Ответ][Цитата]
Gexon Сообщений: 103	На: альтернатива Добавлено: 11 сен 10 3:51 нейросеть долго обучается ИМХО [Ответ][Цитата]
NO. Сообщений: 10700	На: альтернатива Добавлено: 11 сен 10 6:11 Хороший анализ требует времени. Иногда люди пытаются похвастаться, что их система быстро прогоняет много информации, на самом деле это недостаток. [Ответ][Цитата]
Victor G. Tsaregorodtsev Сообщений: 3187	На: альтернатива Добавлено: 11 сен 10 17:25 Цитата: Автор: Gexon нейросеть долго обучается ИМХО А мое ИМХО - что нейросеть должна летать, если есть мозги вместе с умением программировать. Недавно в другой теме в диалоге со Slava'ой я говорил, что в своем софте я могу обучать нейросеть довольно большого размера на базе данных в несколько десятков гигабайт. Причём на двухъядерном процессоре трехлетней давности (современный четырехядерник будет в 3 раза шустее, т.к. у него еще и тактовая в 1.5 раза выше). Да и доказано (Яном ЛеКуном в статье Large-scale online learning, кажется), что нейросетка (имеются в виду разные варианты многослойных персептронов) на гигантской обучающей выборке может требовать всего одну эпоху обучения, чтобы решение сошлось к минимуму ошибки для генеральной совокупности. Т.е., специально повторяю, на гигантских объемах данных может требоваться всего одна эпоха обучения - покажите мне альтернативный алгоритм той же эффективности (имеется в виду - потенциально однопроходный по базе данных). [Ответ][Цитата]
Victor G. Tsaregorodtsev Сообщений: 3187	На: альтернатива Добавлено: 11 сен 10 17:27 Цитата: Автор: NO. Хороший анализ требует времени. Иногда люди пытаются похвастаться, что их система быстро прогоняет много информации, на самом деле это недостаток. Ну, вот, например, противоположное ИМХО Андрея Плахова [Ответ][Цитата]
Slava Сообщений: 3070	На: альтернатива Добавлено: 11 сен 10 17:44 Victor G. Tsaregorodtsev 11 сен 10 17:25 [...А мое ИМХО - что нейросеть должна летать, если есть мозги вместе с умением программировать...] Тут есть, в общем-то, обычная проблема, про которую я не знаю, насколько в ней в связи с нейросетями удалось продвинуться, - существует ли метод, позволяющий узнать, для данной задачи, какую сеть нужно выбрать и как ее эффективно обучать. Хотя бы на уровне достаточно грубой кластеризации задач и методов [Ответ][Цитата]
NO. Сообщений: 10700	На: альтернатива Добавлено: 11 сен 10 19:24 Цитата: Автор: Victor G. Tsaregorodtsev Ну, вот, например, противоположное ИМХО Андрея Плахова Нет, не противоположное. Если ученик взял молоток полегче и стал стучать быстрее это не значит что он быстрее станет скульптором. Это просто скорость выполнения заданий. А насколько при этом продвигается обучение в этой задаче сказать трудно. Вот смена всего подхода к программированию это действительно был шаг в обучении, потому, что до этого они были вторыми, а после стали первыми. В этой задаче даже результаты турнира не очень значимы, и он об этом говорил в начале. Возможно они и старым подходом стали бы первыми. Тут скорость обучения оценить сложно. А брать любую другую характеристику системы лишь бы она тоже называлась "скорость" и считать её скоростью обучения -- возможно любители статистичекого обучения таким и пользуются, есть некоторая вероятность что угадаем, но лично я бы не стал. [Ответ][Цитата]
Victor G. Tsaregorodtsev Сообщений: 3187	На: альтернатива Добавлено: 12 сен 10 16:53 Цитата: Автор: Slava Тут есть, в общем-то, обычная проблема, про которую я не знаю, насколько в ней в связи с нейросетями удалось продвинуться, - существует ли метод, позволяющий узнать, для данной задачи, какую сеть нужно выбрать и как ее эффективно обучать. Хотя бы на уровне достаточно грубой кластеризации задач и методов Не понимаю вопроса. На уровне грубой кластеризации задач и методов - всё получается очевидно (например, не надо использовать для задачи кластерного анализа метод восстановления регрессионной зависимости, и наоборот - для задачи регрессии не надо использовать метод кластерного анализа). Проблемы эффективного обучения - нет уже давно. Есть проблема обеспечить статистическую репрезентативность обучающей выборки и есть проблема добиться инвариантности решения к тем или иным изменениям описаний-представлений объектов (например, к сдвигам или поворотам объекта на изображении) Если под вопросом "какую сеть лучше выбрать" понимался вопрос выбора структуры и/или размера сети - то и здесь многое стало однозначно. Для восстановления обычной регрессионной зависимости хватает MLP-сети с одним скрытым слоем, а вот в задаче распознавания изображений при необходимости обеспечить инвариантность распознавания к тем или иным преобразованиям - надо или брать многослойную сеть, или явно делать сложную предобработку данных перед подачей их сети. Если ответил не туда - извиняйте, повторяю, что не понял смысла вопроса. [Ответ][Цитата]
Victor G. Tsaregorodtsev Сообщений: 3187	На: альтернатива Добавлено: 12 сен 10 16:59 Цитата: Автор: NO. Нет, не противоположное. Это Вы постарались обосновать-подтвердить в первую очередь вот какие Ваши слова: >Хороший анализ требует времени. Я же указывал на мнение, что не всегда быстроту работы системы (НЕ АНАЛИЗА!) можно назвать недостатком, т.е. работал именно с дословным пониманием именно этого Вашего предложения (в отрыве этого предложения от предыдущего цитированного - про анализ): >Иногда люди пытаются похвастаться, что их система быстро прогоняет много информации, на самом деле это недостаток. [Ответ][Цитата]
NewPoisk Сообщений: 3745	На: альтернатива Добавлено: 13 сен 10 12:54 Цитата: Автор: Владислав Бердник Нейронная сеть, в первом приближении, и есть система апроксимации. Очень интересный эксперимент, подтверждающий это предположение. Ды естественно. Поэтому по пути НС и прогресса в ИИ никакого нет. [Ответ][Цитата]
random Сообщений: 76	На: альтернатива Добавлено: 13 сен 10 14:21 Прогресс должен быть не в области прикладных НС, а в области моделирования биологических систем, а уж там он действительно есть. [Ответ][Цитата]
Slava Сообщений: 3070	На: альтернатива Добавлено: 13 сен 10 14:35 Victor G. Tsaregorodtsev 12 сен 10 16:53 [...Не понимаю вопроса...] Это я увидел. Наверно, плохо формулировал. Простите [...На уровне грубой кластеризации задач и методов - всё получается очевидно (например, не надо использовать для задачи кластерного анализа метод восстановления регрессионной зависимости, и наоборот - для задачи регрессии не надо использовать метод кластерного анализа)...] Конечно, если кто-то вам сказал, к какому классу относится задача, и этот класс уже кем-то исследовался, и там были решения, то вам действительно достаточно знать имя класса и список методов, согласованных с ним. А если этот некто не знает класса, то - кто скажет? И заметьте, еще Глушков как-то заметил, что слово "очевидно" обычно используется там, где нам по существу просто нечего сказать. [...Проблемы эффективного обучения - нет уже давно. Есть проблема обеспечить статистическую репрезентативность обучающей выборки и есть проблема добиться инвариантности решения к тем или иным изменениям описаний-представлений объектов (например, к сдвигам или поворотам объекта на изображении)...] Это - замечательное высказывание! Если вы рассматриваете только те задачи, для которых решения уже удалось найти и умеете понять, относится ли ваша новая задача к их числу. Кажется, я начинаю вас понимать с биржевыми задачами - они вам не интересны ровно потому, что там пока не навели порядок. Удобная точка зрения, но жизнь богаче наших ограниченных представлений, и это - замечательно [...Если под вопросом "какую сеть лучше выбрать" понимался вопрос выбора структуры и/или размера сети - то и здесь многое стало однозначно. Для восстановления обычной регрессионной зависимости хватает MLP-сети с одним скрытым слоем, а вот в задаче распознавания изображений при необходимости обеспечить инвариантность распознавания к тем или иным преобразованиям - надо или брать многослойную сеть, или явно делать сложную предобработку данных перед подачей их сети...] Меня интересуют новые задачи, которые в справочнике не найти. Да и в том случае, если они уже есть в справочнике, то могут быть представлены неожиданным образом, и понять то, что они уже решались, тоже может быть достаточно нетривиальной задачей. Впрочем, я все время вам про это пытаюсь говорить. Похоже - достаточно невнятно. Сорри. [...Если ответил не туда - извиняйте, повторяю, что не понял смысла вопроса...] Вижу, что не поняли. Но очень удивлен, так как не понимаю, как это можно не понимать [Ответ][Цитата]
Victor G. Tsaregorodtsev Сообщений: 3187	На: альтернатива Добавлено: 13 сен 10 18:14 Цитата: Автор: Slava Конечно, если кто-то вам сказал, к какому классу относится задача, и этот класс уже кем-то исследовался, и там были решения, то вам действительно достаточно знать имя класса и список методов, согласованных с ним. А если этот некто не знает класса, то - кто скажет? Ну, "меня терзают смутные сомнения", что, например, желание узнавать будущую погоду на Луне может быть высказано заказчиком так образно, что "решатель" не поймет, что это задача прогнозирования. В общем, Вы интересуетесь в первую очередь фронтиром, а я Вам пишу про возможность решения масс задач стандартными методами и среднеквалифицированными "рабочими" (т.е. пишу про реализуемость ИНДУСТРИАЛЬНОГО подхода). Про фронтир ответ будет ниже. Цитата: Автор: Slava Если вы рассматриваете только те задачи, для которых решения уже удалось найти и умеете понять, относится ли ваша новая задача к их числу. Кажется, я начинаю вас понимать с биржевыми задачами - они вам не интересны ровно потому, что там пока не навели порядок. Удобная точка зрения, но жизнь богаче наших ограниченных представлений, и это - замечательно Я рассматриваю те задачи, где многомерные данные реально располагаются на каком-то многообразии (линейном или нелинейном - неважно) гораздо меньшей размерности, чем размерность исходного пространства признаков. Именно возможность восстановления конфигурации этого многообразия и позволяет надежно решать задачи интер- и экстраполяции закономерности. А когда всё исходное многомерное пространство точек приходится тупо запоминать - то тут только грубая сила поможет (поможет запомнить). Цитата: Автор: Slava Меня интересуют новые задачи, которые в справочнике не найти. Да и в том случае, если они уже есть в справочнике, то могут быть представлены неожиданным образом, и понять то, что они уже решались, тоже может быть достаточно нетривиальной задачей. Здесь на Ваш вопрос будет ответ такой: где-то какие-то задачи могут решать только эксперты, и означенная проблема может требовать именно экспертных знаний. Т.е. в мире может существовать и индустриал с массами неквалифицированных рабочих, и квалифицированные кадры. Востребованы обе группы людей - но для разных задач. Мне кажется, что и для "экспертов" тоже есть стандартизованные механистические наработки. Имеются в виду научная деятельность, деятельность инженера по знаниям при создании классической ЭС (инженеру по знаниям надо решать, каких экспертов привлекать и как их опрашивать - т.е. он может сталкиваться с тем, что решений или стандартизованных представлений задач в "справочнике" нет), ТРИЗ как алгоритм изобретения (т.е. создания новой технической системы),... Честно говоря, написал тут (на последний вопрос) довольно очевидную банальность - может, опять не туда [Ответ][Цитата]
Slava Сообщений: 3070	На: альтернатива Добавлено: 13 сен 10 19:04 Victor G. Tsaregorodtsev 13 сен 10 18:14 [...[...Конечно, если кто-то вам сказал, к какому классу относится задача, и этот класс уже кем-то исследовался, и там были решения, то вам действительно достаточно знать имя класса и список методов, согласованных с ним. А если этот некто не знает класса, то - кто скажет?...] ...В общем, Вы интересуетесь в первую очередь фронтиром, а я Вам пишу про возможность решения масс задач стандартными методами и среднеквалифицированными "рабочими" (т.е. пишу про реализуемость ИНДУСТРИАЛЬНОГО подхода). Про фронтир ответ будет ниже...] В общем, я полагаю, что здесь - за исключением разве что нескольких студентов - все в основном интересуются нерешенными проблемами, маскируя их родовым именем ИИ. Был настолько уверен в очевидности этого тезиса, что никак не мог понять, почему именно так вы высказываетесь. Теперь понял. Спасибо [...[...Если вы рассматриваете только те задачи, для которых решения уже удалось найти и умеете понять, относится ли ваша новая задача к их числу. Кажется, я начинаю вас понимать с биржевыми задачами - они вам не интересны ровно потому, что там пока не навели порядок. Удобная точка зрения, но жизнь богаче наших ограниченных представлений, и это - замечательно...] Я рассматриваю те задачи, где многомерные данные реально располагаются на каком-то многообразии (линейном или нелинейном - неважно) гораздо меньшей размерности, чем размерность исходного пространства признаков. Именно возможность восстановления конфигурации этого многообразия и позволяет надежно решать задачи интер- и экстраполяции закономерности. А когда всё исходное многомерное пространство точек приходится тупо запоминать - то тут только грубая сила поможет (поможет запомнить)...] В этом вы, как я понимаю, не оригинальны. Все разумные спецы в этой области, начиная с ранней книги Неймарка, стоят на этой же позиции. Но остается вопрос - как вы узнаете, есть ли такое многообразие и как вы на него выходите. Что делают другие, я примерно понимаю, а вот ваше ноу-хау могли бы немного приоткрыть [...[...Меня интересуют новые задачи, которые в справочнике не найти. Да и в том случае, если они уже есть в справочнике, то могут быть представлены неожиданным образом, и понять то, что они уже решались, тоже может быть достаточно нетривиальной задачей...] Здесь на Ваш вопрос будет ответ такой: где-то какие-то задачи могут решать только эксперты, и означенная проблема может требовать именно экспертных знаний. Т.е. в мире может существовать и индустриал с массами неквалифицированных рабочих, и квалифицированные кадры. Востребованы обе группы людей - но для разных задач...] Заметьте, речь идет о задачах, которые и для экспертов сложны и не имеют регулярных подходов к их решению. Сложные, так сказать, проф-задачи [...Мне кажется, что и для "экспертов" тоже есть стандартизованные механистические наработки. Имеются в виду научная деятельность, деятельность инженера по знаниям при создании классической ЭС (инженеру по знаниям надо решать, каких экспертов привлекать и как их опрашивать - т.е. он может сталкиваться с тем, что решений или стандартизованных представлений задач в "справочнике" нет), ТРИЗ как алгоритм изобретения (т.е. создания новой технической системы),...] С ТРИЗ и т.п. - понятно. Все это не основа для прорывных решений. [...Честно говоря, написал тут (на последний вопрос) довольно очевидную банальность - может, опять не туда...] Если это - ваше кредо, то - не банальность. И снова - что вам известно про то, что делать с ИНС, когда вы сталкиваетесь с новой задачей, не похожей на то, что решалось прежде Про ИНС говорю лишь только потому, что вы здесь выступаете как их идеолог. [Ответ][Цитата]
Стр.1 (4): [1]  2  3  4 След. > >>