Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.1 (3) След. > >>    Поиск:
Автор	Тема: многомерная интерполяция и аппроксимация на основе теории случайных функций
holod Сообщений: 18	многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 02 сен 09 16:26 Приветствую участников форума! Выложил на ресурсе www.machinelearning.ru статью про машинное обучение. На нее есть ссылка с заглавной страницы в разделе новые статьи - "Многомерная интерполяция и аппроксимация на основе теории случайных функций." Хотелось бы иметь дискуссию, обсудить. Надеюсь статья будет присутствующим интересна. С Уважением, Бахвалов Юрий PS: Прямая ссылка: http://www.machinelearning.ru/wiki/index.php?title=%D0%9C%D0%BD%D0%BE%D0%B3%D0%BE%D0%BC%D0%B5%D1%80%D0%BD%D0%B0%D1%8F_%D0%B8%D0%BD%D1%82%D0%B5%D1%80%D0%BF%D0%BE%D0%BB%D1%8F%D1%86%D0%B8%D1%8F_%D0%B8_%D0%B0%D0%BF%D0%BF%D1%80%D0%BE%D0%BA%D1%81%D0%B8%D0%BC%D0%B0%D1%86%D0%B8%D1%8F_%D0%BD%D0%B0_%D0%BE%D1%81%D0%BD%D0%BE%D0%B2%D0%B5_%D1%82%D0%B5%D0%BE%D1%80%D0%B8%D0%B8_%D1%81%D0%BB%D1%83%D1%87%D0%B0%D0%B9%D0%BD%D1%8B%D1%85_%D1%84%D1%83%D0%BD%D0%BA%D1%86%D0%B8%D0%B9 [Ответ][Цитата]
Андрей Сообщений: 3943	На: многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 02 сен 09 16:51 Цитата: Автор: Бахвалов Юрий При решении задачи многомерной интерполяции или аппроксимации или при машинном обучении по набору примеров требуется связать с помощью некоторой функции значения входных и выходных переменных. 1. Правильно ли я понял, что случайная функция - это совершенно обычная функция, которая выбрана из некоторого множества обычных функций случайно? Т.е. это не "случайная функция", а "случайно выбранная функция"? 2. Насколько я понимаю, суть машинного обучения сводится не только к разделению признаков на классы, но и к выделению признаков. Как Ваш метод поможет выделить признаки, например, графического изображения буквы "А" и распознать её? Спасибо. [Ответ][Цитата]
Slava Сообщений: 3070	На: многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 02 сен 09 18:43 holod 02 сен 09 16:26 [...Выложил на ресурсе www.machinelearning.ru статью про машинное обучение...] Интересно, но сайт недоступен [Ответ][Цитата]
Capt.Drew Сообщений: 4179	На: многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 02 сен 09 20:04 2 Slava: я сразу вырубил.. тут и вирус пришлют в-шудку.. дети-с! [Ответ][Цитата]
holod Сообщений: 18	На: многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 03 сен 09 10:48 2 Андрей 1. Можно задать некое множество функций(то, что Вы понимаете под обычными функциями) а также распределение вероятностей на этом множестве. Тогда в совокупности это можно назвать случайной функцией. Любая функция из заданного множества будет являться реализацией(рассматриваемой случайной функции) с соответствующей ей вероятностью. Т.е. можно считать что случайная функция как-бы превращается в одну из своих реализаций при обращении к ней. Случайная функция - это обобщение понятия случайного процесса и, соответственно понятия случайной величины. 2. Да, само выделение признаков тут не рассматривается. Считается что признаки уже были выделены. Имеется набор числовых значений на входе и выходе. Обучающая выборка. Необходимо найти функцию, связывающую их. Это скорее задача регрессии чем классификации, но может быть прекрасно использована и для разделения классов, что показано в демонстрациях в конце статьи. [Ответ][Цитата]
holod Сообщений: 18	На: многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 03 сен 09 10:52 2 Slava Да, иногда такое бывает. Но все-равно советую. Даже если моя статья Вам не понравится, это очень хороший ресурс. [Ответ][Цитата]
Андрей Сообщений: 3943	На: многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 03 сен 09 12:08 Цитата: Автор: гость holod Можно задать некое множество функций(то, что Вы понимаете под обычными функциями) а также распределение вероятностей на этом множестве. Тогда в совокупности это можно назвать случайной функцией Ок. Множеств функций и распеределений вероятностей на них - бесконечное множество. Вы хотите сказать, что нашли некое универсальное множество (линейных функций?) и распределение вероятностей на нём (нормальное), годящееся для аппроксимации любых функций? Или множество функций и распределение вероятностей следует подбирать для каждой задачи? Ведь совершенно очевидно, что некоторые множества функций, для конкретных задач аппроксимации, окажутся более эффективными, чем другие множества. Эффективные, в смысле количества разных функций используемых для достаточно точной (заданной) аппроксимации. Нельзя ли так поставить задачу, чтобы компьютер пытался не просто множество линейных функций "натянуть" на любое множество входных точек, а чтобы компьютер находил минимальное множество функций (по количеству функций) для аппроксимации каждой конкретной задачи. Цитата: Автор: гость holod Считается что признаки уже были выделены Жаль. [Ответ][Цитата]
Slava Сообщений: 3070	На: многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 03 сен 09 13:38 holod 03 сен 09 10:52 [...Да, иногда такое бывает. Но все-равно советую. Даже если моя статья Вам не понравится, это очень хороший ресурс...] Да, ресурс хороший. Куча знакомых имен. Ну и где там я могу найти вашу статью? - не подскажете Ага, увидел. Сорри. Погляжу. Спасибо [Ответ][Цитата]
Slava Сообщений: 3070	На: многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 03 сен 09 14:24 holod 03 сен 09 10:52 [...Первая часть посвящена использованию основ теории случайных функций применительно к задачам многомерной интерполяции и аппроксимации, а также машинному обучению и их теоретическому обоснованию. Цель теоретической части показать, что машинное обучение в его парадигме “обучения с учителем”, задачи многомерной интерполяции и аппроксимации, могут быть обобщены на основе теории случайных функций...] Только глянул на начало и сразу же полез в список литературы. К сожалению не нашел его. Поэтому вопрос вам - а знакомы ли вы с работами Якова Залмановича Цыпкина (конца шестидесятых - начала семидесятых, если не ошибаюсь) по этой проблеме? Там он, как я помню, еще и фильтрацию добавляет к этому же списку и еще что-то. В общем, советую почитать. Умный он был человек, настоящий ученый А я пока буду смотреть дальше. Удачи [Ответ][Цитата]
holod Сообщений: 18	На: многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 03 сен 09 14:41 2 Андрей Да, для каждой задачи случайная функция может быть выбрана своя со своим множеством реализаций, но для этого необходимо владеть априорной информацией о задаче. Допущение делается следующее - что рассматриваемую нами случайную функцию можно представить в виде (2). В (2) мы не уточняем какие у нас именно координатные функции - какими бы мы их не взяли - все дальнейшие преобразования (1) - (16) будут справедливы. Они выполняются для всего класса случайных функций представимых (2). Доказано! что наиболее вероятная реализация функций (2), удовлетворяющая узлам, какое бы множество реализаций у нее не было, всегда будет выражаться линейной комбинаций сечений ее корреляционных функций и если корреляционная функция известна то найти требуемую реализацию можно решив представленную систему линейных уравнений. Но! Нам может быть неизвестна корреляционная функция (или набор координатных функций). Далее показано, что если ввести минимальный набор допущений, связанных с требованием к инвариантности преобразований связанных со сменой системы отсчета (и свазанных с ним вероятностей реализаций), можно однозначно получить выражение корреляционной (автокорреляционной) функции. Используемая далее случайная функция (20)-(24) имеет множество реализаций, состоящее из всех возможных непрерывных вещественных функций. Таким образом набор допущений: предполагаем что мы имеем дело с реализацией случайной функции вида (2)-(3), а также требуем чтобы результаты "обучения" были инвариантны к переносу, повороту и изменению масштаба системы отсчета - тогда мы имеем точное единственное оптимальное решение. [Ответ][Цитата]
holod Сообщений: 18	На: многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 03 сен 09 14:46 2 Slava Нет, с работами Якова Залмановича Цыпкина не знаком, но спасибо за информацию, я постараюсь познакомиться. Вы случаной не знаете, можно ли ознакомиться с его работами через интернет? На счет списка литературы - в ближайшее время я его постараюсь добавить. [Ответ][Цитата]
Slava Сообщений: 3070	На: многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 03 сен 09 14:49 holod 03 сен 09 10:52 [...Да, иногда такое бывает. Но все-равно советую. Даже если моя статья Вам не понравится, это очень хороший ресурс...] [...Предложенный метод позволяет получить точное решение задачи многомерной интерполяции или аппроксимации (“обучение с учителем”) гарантирующее оптимальность (при определенных минимальных допущениях, указанных в теоретической части)... способности метода обеспечивает “специальная функция”... Использование данной функции позволяет сводить задачи многомерной интерполяции и аппроксимации или самые разнообразные задачи машинного обучения (с определенными допущениями) к решению системы линейных уравнений, гарантируя оптимальность полученного решения, отсутствие переобучения, осцилляций интерполянта и других нежелательных эффектов...] Пока прочел до этого места во введении. Смутило то, что задачи обучения вы рассматриваете как интерполяционные, в то время как они принципиально являются экстраполяционными. Буду читать дальше [Ответ][Цитата]
Slava Сообщений: 3070	На: многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 03 сен 09 14:53 holod 03 сен 09 14:46 [...Нет, с работами Якова Залмановича Цыпкина не знаком, но спасибо за информацию, я постараюсь познакомиться. Вы случаной не знаете, можно ли ознакомиться с его работами через интернет? На счет списка литературы - в ближайшее время я его постараюсь добавить...] Хорошо. Интересно. Что же касается работ Цыпкина, то вряд ли кто-то их оцифровал, но ссылки - уверен - вы найдете. Удачи и прияттного чтения [Ответ][Цитата]
mserg Сообщений: 258	На: многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 03 сен 09 22:05 У меня в комбинаторной оптимизации общего вида встретилось две задачки: Задача 1. Найти количество решений уравнения: s(1)+s(2)+...+s(n) <= b Задача 2. Найти количество решений уравнения: s(1)+s(2)+...+s(n) = b Здесь s(i) – неотрицательные целые переменные не более k. Точнее говоря, интересует логарифм количества решений. Возьмем для примера задачу 1. Надо найти функцию f, которая по числам k, n и b находит логарифм количества решений уравнения (можно приближенно), т.е. по вашим обозначениям записываем: y = f(x), где x = <k, n, b>. Не подскажете, какая функция у Вас получается? Можно ее аналитический вид (Вы ведь ее получаете?)? Данные легко нагенерировать. n можно взять не более 1000, а b по подробнее бы на краях (около 0 и n) и в середине (n/2)... то же самое касается k. И полезно, и проверить легко :-) [Ответ][Цитата]
holod Сообщений: 18	На: многомерная интерполяция и аппроксимация на основе теории случайных функций Добавлено: 04 сен 09 9:52 Вы хотите попробовать решить конкретную задачу? В конце статьи есть ссылка на архив, там есть готовые функции в среде Matlab. Можно провести любой эксперимент. Если Вы ранее не работали в Matlab, то можете подготовить выборку обучения и тестовую выборку для обработки и передать мне, я Вам верну результаты. Аналитическая функция будет вида (60) в статье. Но визуально, думаю, по ней будет сложно судить о свойствах. [Ответ][Цитата]
Стр.1 (3): [1]  2  3 След. > >>