GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (5)След. > >>   Поиск:  
 Автор Тема: Ликбез по машинному обучению
Михайло
Сообщений: 2366
Ликбез по машинному обучению
+1
Добавлено: 24 авг 17 9:16
Машинное обучение занимается вопросами обнаружения и использования закономерностей в данных для их дальнейшего предсказания. Машинное обучение является основой искусственного интеллекта.

(Проблема в том, что некоторые понимают под интеллектом нечто фантастическое, глобальное, чрезмерно умное. Но эти пересуды в сторону, такие интеллекты нетривиальны, они не существуют, хотя были бы более полезны, чем реальные искусственные интеллекты.)

Итак, что значит "обнаружить и использовать закономерности?". Закономерности считаются обнаруженными и используемыми, если количество и величина ошибок прогнозирования ниже некоторых порогов. То есть в машинном обучении попросту методом тыка подбирается решающая функция, которая позволяет достичь хороших результатов прогнозирования. Это есть математическая оптимизация, ну или просто оптимизация.

Пойдем дальше. Во что выливается "перебор решающих функций"? Если взять n-арную функцию (с n входами и одним выходом), то придется перебирать 2^(2^n) функций. Это называется сверхэкспоненциальным перебором, при n=16 придется перебрать 4294967296 функций. Это слишком ужасно для такой простой функции.

Программисты знают выходы из "комбинаторного взрыва": стохастический поиск и эвристический поиск. Оба вида поиска предполагают сокращение объема поиска, неполный перебор. В этих случаях находится не оптимальное значение, а лишь просто хорошее. Машинное обучение не гнушается этим, и это первый шаг искусственного интеллекта в сторону от AGI. Кстати, вы думаете естественный интеллект стоит в стороне от "комбинаторного взрыва"? Ха-ха, комбинаторный взрыв характерен не только для электронных двоичных систем мышления. Это наваждение любых, хоть инопланетных разумов.

Стохастический поиск достаточно прост и довольно часто используется, но гораздо более важной штуковиной в машинном обучении являются эвристики.

Эвристика - это ранее открытая закономерность, которую пытаются (не всегда обоснованно) применять к новым данным. Машинное обучение не пытается объяснять, зачем она занимается таким колдовством, шаманством. Значимым является лишь то, что этот фокус работает!

Объяснение частично лежит в следующем: физика тоже не объясняет, почему физические законы веками не изменяются и строго соблюдаются. Физика лишь констатирует факт стабильных закономерностей. То же самое и машинное обучение. Следует напомнить, что машинному обучению приходится в некоторой доле работать с простыми физическими закономерностями, такими как отражение-преломление-поглощение света, звука.

Машинное обучение - это колдовство. Оно реально работает. Никто вам не сможет объяснить, почему в мире наблюдаются закономерности, которые характерны для многих данных. Точнее объяснить-то можно, но почему так часто и регулярно - это удивительно. Так устроен мир.

Машинное обучение - это колдовство. Это противопоставляет его математической статистике, которая работает по той же схеме, но вовсе не терпит колдовства. Математическая статистика требует от данных общего законообразующего источника. Статистика не работает, если для совместного анализа берутся две выборки из разных генеральных совокупностей.
[Ответ][Цитата]
Михайло
Сообщений: 2366
На: Ликбез по машинному обучению
Добавлено: 24 авг 17 9:30
Вопрос: почему в машинном обучении нужно знать линейную алгебру, сигмоиду, байесову формулу и т.д.? Почему они так интенсивно используются в теории? Это ведь уход в сторону от универсального решения!
Ответ:
Итак, линейная комбинация, сигмоида, формула Байеса - это одни из самых мощных эвристик в нашем мире. Если вы начнете искать закономерности, то быстро найдете именно их. Сейчас правда нашли более мощную эвристику на замену сигмоиде-тангенсоиде - так называемую "rectified linear".
Нам же нужно как-то преодолеть комбинаторный взрыв? Тогда надо знать эти эвристики.

Эх, высшая математика!
[Ответ][Цитата]
Михайло
Сообщений: 2366
На: Ликбез по машинному обучению
Добавлено: 24 авг 17 21:02
Короче, я буду, ребята, продолжать ликбез по машинному обучению, вы реально не сечете поляну, ваши дремучие домыслы о ML будут пугать ваших детей.
[Ответ][Цитата]
Михайло
Сообщений: 2366
На: Ликбез по машинному обучению
Добавлено: 27 авг 17 0:58
Я буду неустанно бороться с вашей терминологией типа "настоящий интеллект", "сильный интеллект" etc. Вы совершенно не понимаете, что это означает. Вы не понимаете процесс мышления, потому совершенно не различаете, какие задачи бывают решаемы, а какие нет. Вам кажется, что любая задача должна быть решаема "настоящим искусственным интеллектом". Вы абсолютно не осознаете следующее: я вас отсылаю к учебнику Воронцова - вы тут же закрываете учебник, для вас там хаос. Какой же у вас "настоящий интеллект"? Полная тупизна.

Ладно, не буду вас загонять в тупик, должен быть хоть какой-то выход. Что вы должны изменить в своих рассуждениях? Интеллект может работать только со специально подобранными входными данными, с хаосом он работать неспособен. То есть требуется чудо - хорошие данные. Практика нашей жизни показывает, что навскидку 50% данных человеческий мозг способен проанализировать, другие 50% - это хаос, от которого предусмотрен защитный механизм в виде отвращения. Нет никакой потребности осваивать все 100%, хотя бы потому что это нереально.

В подтверждение сказанного донесу информацию, которую рассматривают в машинном обучении. Почему в 1980-х годах нейросети плохо распознавали изображения, а в 21-м веке пошел уверенный рост? Ответ: в 1980-х базы изображений составляли десятки изображений размером 32х32, 64х64, потом в 2000-х удалось собрать базы в миллионы изображений. То есть резко повысилось качество входных данных и поэтому те же алгоритмы стали работать эффективнее. К тому же число слоев нейросетей резко увеличилось - все это благодаря развитию микропроцессорной техники.

Итак, запомните, друзья, ДАННЫЕ ОПРЕДЕЛЯЮТ УСПЕХ РЕШЕНИЯ ЗАДАЧИ, А НЕ АЛГОРИТМ. Когда вы тут всераете всем про свое недовольство нейронными сетями и вообще машинным обучением - вы просто необразованные скептики-самоучки, невежи.
[Ответ][Цитата]
гость
188.170.74.*
На: Ликбез по машинному обучению
Добавлено: 27 авг 17 3:32

кажется, что все-таки пока миха плохо сечет поляну.. когда говорят 'нaстоящий интеллект' то иметь в виду могут, конечно, разное, но скорее всeго не имеют в виду ни решение неразрешимых задач (а адаптацию в том или иином виде к факту неразрешимости), ни построение детерминистических моделей для
всего корпуса данных.

критики михиного категоризма говорят о 'незамкнутости' постановки на обучение по прецедентам по воронцову - о том, что нужно погрузить задачу обучения в общий контекст автономной активности интеллекта (жизнедеятельности если угодно). - тогда вопрос сильно усложняется, но думать что 'вопрос об интеллекте' решается внешним заданием признакового описания объектов, целевой функции, множества прецедентов, модели алгоритма (отображения Х->Y), метода обучения, функции потерь, это просто страусиная позиция или поиск ключа под фонарем или смещенная активность - прикладуха это прикладуха, делать то, что можно это хорошо, но глупо думать что текущие востребованные прикладухи исчерпывают завтрашние возможности (тем более что тут же говорится о недавнем прорыве с DL).

кстати, в истории с DL все-таки важны не столько данные, cколько сам алгоритм скрытого извлечения комплексных признаков (воплощенного в архитектуре сети и методе ее обучения).

> Если вход не связан с выходом - это хаос. Третьего не дано.

тут нужно уточнить. Если вход запускает цепочку внутренних преобразований, выходящую на некий аттрактор (инвариантное множество), то выход не зависит от входа, если вход в бассейне притяжения аттрактора. тут вход только стартер автономной динамики на аттракторе (порождающей выход).

тут общая проблематика что интеллект не только энкодер (отображение входа на внутреннее состояние), но и ендекодер, генератор, при преобразовании внутренних моделей внешних регулярностей по эндогенным алгоритмам (в смысле воронцова не только X->Y, но и X->M->Y, M->M' и M'->Y').

в этом смысле интеллект в 'замкнутой форме' должен порождать эвристики порогов различения, cбора данных (памяти), эффективных признаков, объективизации, целенаправленности (потребность-мотив(опредмеченная_потребность)-сдвиг_мотива_на_цель), памяти на прецеденты, релевантности, cкорости обработки информации, вид отображения, cпособ асимиляции подкрепления, уровни ошибок и прочая прочая.

воронцов не столько дает 'высоуровневую информацию' об орбщей проблематике интеллекта, сколько сильно выпотрашивает вопрос и делает чучело интеллекта для решения текущих практических задач - задача на интеллект подменяется задачей на применение интеллекта - задача не в том, чтобы миха сделал обучающуюся систему по рецептам воронцова (и многим другим), а чтобы искусственный агент ВМЕСТО михи смог прочитать неадаптированный вариант книги воронцова и переплюнуть миху в глубине понимания и реализации приобретенных знаний на очередной прикладной задаче.
[Ответ][Цитата]
Luarvik.
Сообщений: 17287
На: Ликбез по машинному обучению
Добавлено: 27 авг 17 3:55
Изменено: 27 авг 17 4:13
Интеллект, разумеется, востребован для решения задач (иначе зачем он сдался), но наш бабуин не учитывает разные контексты постановки задачи, не учитывает разные начальные условия: (1) алгоритм решения известен и (2) алгоритм решения неизвестен.
Решить задачу - это не найти ответ ("что"), а найти способ/алгоритм ее решения ("как").
Ответ - это частный результат, а алгоритм - технология [его получения].
Если решение-ответ - цель, то решение-алгоритм - путь к цели.
В первом случае ответ можно найти и "случайно" (в т.ч. и по статистике), во втором - его сможет получить даже бабуин, и не как бог на душу положит, а совершенно определенным образом и в любое(!) время.

Спрашивается, нужен ли нашему бабуину интеллект, чтобы тупо попользоваться чужими алгоритмами и решить задачу ?
Нет, не нужен - так решают задачи все известные автоматы, в т.ч. и программируемые.
Они выдают нужный ответ и большего от них не требуется. Автомат не должен быть умным или интеллектуальным. В первую очередь он должен быть... исполнительным !..
потому что за него уже подумали и все за него придумали, только бери и делай, что сказано.

Тебе, бабу... э-э-э...Михайло, нужно бороться не с нашей заумной терминологией, а со своей собственной глупостью.
За чужой счет умнее не станешь !
В лучшем случае будешь выглядеть ты поэтом... но только на фоне говна, а среди поэтов так говным-говном и останешься.
[Ответ][Цитата]
Михайло
Сообщений: 2366
На: Ликбез по машинному обучению
Добавлено: 27 авг 17 5:37
Давайте, ребятки, по-хорошему поверим моим словам. Почему я должен постоянно повторять что-то?
У вас две принципиальные ошибки. Формулирую:
1. У интеллекта требуется задать более-менее внятную цель его существования, иначе получится пугало на ветру. Это непонятно? Почему я должен повторять эту истину? Какая религия вас покусала?
2. Интеллект - это не умная машина, которая всегда придумывает что-то новое. Нет, интеллект имеет лишь богатый мир, его разнообразные внешние проявления - это лишь отражение алгоритма и прошлого опыта. Не надо себе представлять фантастические креативные машины. Проще замените эту фантазию на ГСЧ, на ветряное пугало, получится то же самое.
[Ответ][Цитата]
Михайло
Сообщений: 2366
На: Ликбез по машинному обучению
Добавлено: 27 авг 17 21:34
Я помню у нас был преподаватель старенький, профессор, д.ф.н., философ, он книжки писал и других заставлял читать. Мне было интересно, чем занимались уважаемые советские философы в высших партийных школах и вник в его труды.
Это пистец какой-то, он конечно, не тупой был мужик, но он как и все философы думал, что знания - это установление связей между всем окружающими объектами и понятиями. Он был уровня Платона, только отстал по времени на 2500 лет. Но при этом ему не хватало знаний современной науки, надо было читать несложную научную литературу, Воронцова, например.
Он видимо настолько любил философию и собственноручное установление связей между объектами, что остальное считал бесполезным. Вот и результат. Плачевный.
[Ответ][Цитата]
NO.
Сообщений: 10700
На: Ликбез по машинному обучению
Добавлено: 28 авг 17 8:22
Изменено: 28 авг 17 8:25
Время идет в одну сторону, а изменения в людях в другую. Как в древности большинство было темными, а небольшая часть просвещенными, так и сейчас большинству не удастся дорасти в философии до уровня Платона 2500 лет назад. Это касается не только философии. Например медицина гораздо насущнее, чем философия, однако современная бабушка, у которой вся жизнь состоит в лечении, отстает от Гиппократа не на 2500 лет, а вообще навсегда. 99.999% народу не смогут назвать аксиомы Евклида, тоже вроде бы и 2500 лет известные и просто сами по себе очевидные.
Я бы не сказал, что Платон отстал на 2500 лет. Скорее 99% современных людей отстают от Платона. И там дело даже не в Платоне, а вся древнегреческая культура и менталитет стоят внимания. Достоинство греков в том, что там кратко и по делу, а в современной науке такие основы размазаны по тысячам учебников и лишь подразумеваются, вычитать невозможно. Кто не знает классику останется темным "пользователем", сколько бы он не смотрел как бегут цифры календаре.

Установление связей между объектами это позитивизм, а не Платон. Явление как раз из нового времени.
[Ответ][Цитата]
Михайло
Сообщений: 2366
На: Ликбез по машинному обучению
Добавлено: 28 авг 17 12:27
ну бля, неопозитивисты, ёклмн. Вы меня радуете, хорошо, что вы не радикальные конструктивисты, другие фундаментальные сепаратисты и прочие религиозные фанатики.

Вот у меня стоит кофеварка - неживое - она создана для того, чтобы варить кофе, еб вашу мать! Так и любая система, она для чего-то существует. Даже пугало на ветру - и оно тоже не бессмысленно. Но если говорить об интеллекте по сравнению с пугалом, то целевые ограничения должны быть усилены, цели должны быть более конкретны, иначе смысл?
[Ответ][Цитата]
Михайло
Сообщений: 2366
На: Ликбез по машинному обучению
Добавлено: 28 авг 17 20:51
Цитата:
Автор: NO.

Искусственный философ это интересно.

А откуда компьютер возьмет точки чтобы проводить поверхность?
Допустим Михайло в совершенстве владеет построением разделяющей гиперплоскости. И решил он с его помощью написать наконец knn. Какие для этого нужны точки и где их взять? И как потом из гиперплоскости сделать исходник программы? Тоже наверно с помощью проведения гиперплоскости, это же универсальный метод, значит опять нужны какие-то точки.

Точки-прецеденты получаются измерением - это простая операция (АЦП уже есть), а вот получение функции - это нетривиальная операция, особенно когда интеллектом фиксируются лишь дискретные события, которые дают только точки. Нету линий, поверхностей, пространств в готовом для алгоритмизации виде f(y,x1,x2,x3,...)=0.
[Ответ][Цитата]
гость
46.39.230.*
На: Ликбез по машинному обучению
Добавлено: 29 авг 17 17:58
Цитата:
Автор: rrr3
В живом нет ничего живого, оно лишь должно появиться из не живого, как некое производное системы-совокупности не живых элементов. Не должно быть объяснения/понимания целей (или живого, или интеллекта) маленькими целями внутри, как дома маленькими домиками вместо кирпичей. Говорить, что живое обладает целями в обычной беседе и большинстве контекстов вполне допустимо и даже необходимо, но объяснять, что что-то живое потому, что имеет цели, равносильно маслу масляному. Мы же не говорим, что тела притягиваются друг к другу потому, что имеют такую цель. Мы говорим, что есть некая сила притяжения, некая гравитация.

Ликбез.

Если камень с течением времени разрушается, превращаясь из некой формы в горсть песка, то энтропия системы растет и он распадается на менее организованные элементы. По мнению ггг3, "моя логика" состоит в том, что у камня есть "цель", к которой он стремиться, чтобы превратиться в песок. Такой же "целью" можно считать закон всемирного тяготения, по которому тела притягиваются друг к другу. Ну и т.д.

Если мы обратимся к эволюционному процессу, то его блуждание по некоему рельефу и попадание в аттракторы разной степени энропийности так же нельзя называть "целями". Поэтому нет никаких целей, а есть такой же закон природы, как и гравитация.

Все очень красиво и замечательно.

Но. Есть "небольшая" разница между гравитацией и эволюцией. Законы физики - энропийны, законы эволюции - негэнтропийны. Причем энтропия сцеплена с негэнропией, как шестеренки, передавая энергию от одного процесса к другому. При определенных (не всегда существующих) условиях. Тогда возникает ситуация, что, если, где-то энергия убыла, то где-то она и прибыла. А не просто рассеялась в пространстве.

Т.е. в природе существет два таких процесса, совершенно равноправных и перетекающих друг в друга. Первой машиной, которая обеспечила стабильную реализацию такого процесса, стала клетка. Она позволила качать энергию из среды для поддержания своей организации - гомеостаза (как минимум). Есть и второе - повышение эффективности гомеостаза.

Собственно, это и есть целевая функция клетки. Для нейрона - это поддержание внутреннего потенциала на уровне -60 мВ (минус 60). Ну и т.д. Поэтому целевая функция клетки - такой же закон природы, как и сила тяготения, только с другой стороны барьера "энтропия-негэнтропия".

Это качество микросистемы (клетки), которое вытекает из качества состояния макросистемы (эволюции), которое (состояние) притягивается в некий аттрактор. Для энтропийного процесса все происходит с точностью до наоборот. Качества макросистемы (например, хим.соединения) вытекают из свойств, составляющих ее микросистем (молекул).

Такой переход от свойств систем одного уровня к свойствам систем другого уровня известен как метасистемный переход (Турчин) и "логически" не выводим из них. Потому что определяется, во-первых, свойствами элементов, во-вторых законами взаимодействия между ними. Где образуются обратные связи и т.д.

Так что целеполагание клетки и живых систем никак не противоречит физической картине мира. Это просто некое зеркальное отображение по ту сторону негэнропийного барьера.

p.s. Из "стремления" к повышению эффективности гомеостаза как раз и растут "ноги" для формирования все более сложных систем, т.е. интеллекта. Чтобы с меньшими затратами энергии получать результат с большей отдачей.
[Ответ][Цитата]
гость
188.170.75.*
На: Ликбез по машинному обучению
Добавлено: 31 авг 17 3:34

m.> нету иных "божественных" алгоритмов кроме как из машобуча.

по-моему no имеет в виду то, что всегда ('в уме') имеется некое сочетание того чему обучаются и того, что обеспечивает обучение (инфраструктура) - если обучение не заужать на обучение по прецедентам, а рассматривать и, скажем, обучение через эволюцию. то инфраструктурные алгоритмы тоже продукт обучения (предшествующего) - однако 'в исходном пределе' возникнут алгоритмы, которые не из машобуча, а из 'природы вещей' - cвойства примитивов, исходных конструктивных элементов, базовых процессов из взимодействия ('первичных алгоритмов') будут не продуктами машобуча, а привнесенными извне сферы обучаемого. В цикле немонотонности основания могут переопределяться по успешности продуктов, тогда основания тоже в определенной мере продукт обучения (в общем смысле) - однако в цикл переопределения оснований все-таки нужно войти извне этого цикла.
[Ответ][Цитата]
NO.
Сообщений: 10700
На: Ликбез по машинному обучению
Добавлено: 31 авг 17 7:35
У компьютера архитектура не как у мозга, некоторые вещи могут работать намного лучше, этим нужно пользоваться. Робот и задачи себе может ставить такие, о которых человек и не подумает. Например на заводе механическая среда, всё жестко и предсказуемо, но нужны точные расчеты. Человек просто не может просчитать, а робот там должен быть как в своей стихии. Или например фурье у человека только в ухе, а в глазу нет, робот же может всякие периодичности видеть с первого взгляда. Или книгу просмотреть со скоростью гигабайт в секунду, не вдумываясь, а просто найти нужное слово. Такие низкоуровневые вещи иногда дают большую выгоду, естественно матобучением нужно пользоваться. Но интеллект другое, если его заменить матобучением получится что и есть, ничтожно редко он решает задачи очень эффективно, а к большинству задач вообще не подступиться.

Ну сколько есть практичных методов, пусть 16 штук - кусочно-линейная регрессия, марков, байес, диплернинг, knn, форесты, кохонены и т.д. 16 штук это всего лишь 4 бита, это ничто, тут и говорить не о чем. Но если даже и это не знать, это полная профнепригодность.
Когда этим примитивом хвастаются, выглядит это сюрреалистично. Человек очевидно не от мира сего. С планеты из песка, где нет органической жизни, даже камней и металлов нет, ни воды ни атмосферы. Весь мир только россыпи и границы.
[Ответ][Цитата]
NO.
Сообщений: 10700
На: Ликбез по машинному обучению
Добавлено: 31 авг 17 8:04
Ещё не знаю. Недавно Далай Ламу слушал и почудилось, что как информация и идеи это что-то над материальной реальностью, так и сознание это следующий уровень над информацией. Совсем другой природы феномен. Но тоже объективно существующий в определенных системах и любая вещь часть такой системы. Интеллект одна из сущностей этого третьего мира. Информация уровнем ниже. Поэтому описать интеллект словами трудно или вообще нельзя. Как ещё ниже например нельзя сложить идею, например цифру 5, из материальных предметов.
[Ответ][Цитата]
 Стр.1 (5): [1]  2  3  4  5След. > >>