Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.12 (13) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Уголок натуралиста
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 18 мар 26 13:34 001. Мир "реальности" не знает ни слов, ни смыслов, ни объяснений. Он знает только состояния, взаимодействия и переходы. Вся наша деятельность на этом первом, жестком уровне есть не создание сущностей из ничего, а перенастройка уже существующего. Мы двигаем, связываем, разделяем, деформируем, нагреваем, ломаем, собираем, перенаправляем. Даже когда нам кажется, что мы "создаем", мы на самом деле лишь организуем новое расположение допустимостей внутри уже данного вещества, энергии, формы. Реальность не пишет текст, она перекладывает напряжения. И потому задача в ее самой грубой, онтологической форме есть всегда композиция воздействий на акторов и через них -- на сцены, объекты, среды, процессы. Мир решает задачи перестановкой своего собственного содержимого. 002. Но затем возникает великое смягчение реальности -- сенсорный слой. Здесь мы впервые освобождаемся от необходимости трогать мир руками, чтобы с ним работать. Между телом и вещью встает образ. Не сама траектория хищника, а зрительный паттерн его приближения. Не само пламя, а его свет, треск, жар. Не сам предмет, а его видимая, слышимая, осязаемая проекция. Это колоссальный скачок, потому что теперь действие можно отложить, а различение -- ускорить. Сенсорика не просто дает копию мира -- она впервые делает возможной работу с отсутствующим. Субъект начинает оперировать не вещами, а их доступными образами. И вот тут рождаются первые подлинно когнитивные операции: узнавание, различение, сравнение, группировка, оценка угрозы, ожидание повторения. Еще нет языка, но уже есть мир как поле форм. 003. Потом совершается, возможно, главный переворот: устойчивые формы получают имена. И в этот момент образ перестает быть только переживанием и становится объектом обработки. Имя -- это не бирка на вещи, а способ вынуть паттерн из потока и сделать его переносимым. Пока есть только образ, он еще привязан к ситуации. Но когда образ назван, он начинает жить второй жизнью: его можно вызвать в отсутствие объекта, сопоставить с другим именем, включить в отношение, сделать аргументом операции. Тут и возникает простейшая грамматика мира: не просто что-то есть, а кто-то действует на что-то, что-то изменяет что-то, что-то зависит от чего-то. Грамматика -- это уже не язык в примитивном смысле, а машина потока данных. Она режет непрерывность на роли, связи, функции, события. 004. Из этого немедленно рождается следующий этаж: типы, классы, инварианты, кластеры допустимых преобразований. Мы перестаем жить среди единичностей и начинаем жить среди повторяемостей. Не этот камень, а препятствие. Не этот удар, а атака. Не этот голос, а призыв, приказ, угроза, соблазн. Здесь смысл возникает как компрессия действия. Смысловая близость -- это не просто похожесть, а возможность обращаться с разными явлениями как с вариантами одной и той же схемы. И потому абстракция есть не удаление от мира, а обнаружение его повторно используемой механики. В этот момент мир впервые становится вычислимым не в физическом, а в семиотическом смысле. 005. Дальше возникает царство исчислений. Язык уже не просто называет, он начинает производить. Он позволяет не только описывать увиденное, но и порождать допустимые конструкции, выводить следствия, строить цепочки преобразований, заменять грубую пробу операций над миром на более дешевые операции над выражениями. Это место необычайно важно: решение задачи может теперь быть найдено не прямым действием, а символическим прохождением по пространству форм. Сначала это происходит почти магически, в естественном языке, мифе, метафоре, нарративе. Потом очищается до логик, формальных грамматик, алгебр, исчислений, автоматов. Но суть одна и та же: мы строим такой слой представления, где цена ошибки, цена пробы и цена перебора становятся ниже, чем в самой реальности. Символическая математика в широком смысле — это не украшение интеллекта, а способ вынести дорогое действие в дешёвую внутреннюю среду. 006. И наконец возникает то, что называется интеллектом: способность оперировать требованиями, достаточностями и различениями. Интеллект начинается не там, где система умеет строить модели, а там, где она умеет оценивать, какая модель достаточно хороша для этой задачи при этих ограничениях и в этом окне времени. То есть интеллект — это не максимум знания, а искусство возможного. Искусство не досчитать лишнего. Искусство не уточнять сверх нужного. Искусство отличить критическое различие от декоративного. Искусство выбрать такой уровень абстракции, на котором решение еще возможно, но уже не разорительно. Искусство ставить и решать задачи. 007. Полного понимания не бывает. Бывает достижимое равновесие между стоимостью интерпретации и полезностью действия. Интеллект не обязан знать мир до дна, он обязан поймать ту конфигурацию знаков, требований и допусков, в которой решение становится возможным прежде, чем система погибнет, опоздает, разорится или сорвёт задачу. Это и есть подлинная зрелость: не абсолютная истина, а манипулируемая достаточность. [Ответ][Цитата]
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 02 апр 26 4:38 Теперь, когда все участники нашего маленького комьюнити явно согласились с тем, что LLM умнее (скажем вежливо) среднестатистического человека, возникает главный вопрос: как использовать модели в жизни и деятельности. Нет никакой доблести в том, чтобы подвергнуть осмеянию и без того жалкие сорокапунктные автономные потуги некоторых участников. Нет никакой доблести и в том, чтобы заставлять модель расхваливать средневековый бред "мир как комбинаторное совокупление элементов". LLM - это мощный интеллектуальный инструмент, который позволяет решать огромное количество задач, которые ранее были вам недоступны. Вопрос как всегда упирается в целеполагание и постановку задач)) Задумайтесь над моими словами)) [Ответ][Цитата]
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 30 апр 26 8:48 001 Я давно перестал верить в мир сущностей и объектов. Не в том наивном смысле, что "всё иллюзия", а в более неприятном - мир объектов оказался слишком удобной выдумкой, почти бытовой привычкой мышления. Она годится, чтобы договориться за столом, чтобы не потеряться в разговоре, но она не выдерживает давления задачи, если задача - понять, что на самом деле происходит. Там, где требуется актуальность, а не комфорт, эта схема начинает распадаться. 002 Мне всё больше кажется, что реальность - это не совокупность вещей, а совокупность границ. Не границ в геометрическом смысле, а границ как мест, где возникает различие, где что-то перестаёт быть однородным и начинает сопротивляться. Если использовать более точный язык, реальность - это устойчивое взаимное отражение идеального и материального, но проявляется оно для нас исключительно как неоднородность. Мы никогда не видим "сущность", мы видим только нарушение равномерности, сбой, переход. И если собрать все такие переходы вместе, получится не мир объектов, а мир границ - плотная ткань различий, где "вещь" - лишь удобная фиксация узла в этом поле. 003 Иногда я думаю, что объект - это просто ошибка компрессии. Мы слишком сильно сжимаем бесконечный поток взаимодействий, и в какой-то момент алгоритм сдаётся и говорит: "пусть здесь будет объект". Но если смотреть внимательнее, у любого такого "объекта" есть как минимум две ключевые границы - верхнее и нижнее замыкание. Это не стены, а скорее области, внутри которых нечто удерживает себя как целое. Мы не знаем ни среды, в которой это целое существует, ни устройства, за счёт которого оно сохраняется. Мы никогда не видим ни того, ни другого напрямую - только их взаимодействие. И в этом смысле объект - это не вещь, а мембрана, интерфейс, место преобразования. 004 Меня всё больше привлекает мысль о том, что объект - это кондуктор. Транслятор. Он не "имеет свойства", он преобразует воздействия. С одной стороны - поток среды, с другой - внутренняя динамика, которая стремится к гомеостазу. Между ними возникает постоянное напряжение, и именно это напряжение мы и называем "существованием объекта". При этом есть и обратный поток - проявления, действия, следы. Объект не просто принимает, он отвечает. И если убрать эту двунаправленность, объект исчезает - остаётся только шум. 005 Среда при этом не даёт нам никакой опоры. Она не разделена на аккуратные куски, в ней нет естественных границ между "вещами". Это скорее непрерывный бульон взаимодействий, где любые границы - это уже результат интерпретации. И здесь возникает неприятный, но честный вывод: мы не наблюдаем объекты. Мы даже не наблюдаем своё взаимодействие с ними. Мы наблюдаем сложный, многослойный комплекс взаимодействий, в котором ключевую роль играет потеря. Потеря полноты, потеря непрерывности, потеря связности. И именно эта потеря делает возможным появление устойчивых форм, которые мы затем называем "объектами". 006 В этом месте появляется ещё одна граница - возможно, самая важная. Граница между нами и миром. Но если быть точным, это не граница между "наблюдателем" и "наблюдаемым". Это граница нашего восприятия собственного взаимодействия с миром. Мы сами встроены в тот же поток, мы такие же объекты-мембраны, такие же преобразователи. И вся наша картина мира - это попытка стабилизировать хаос отражений, в которых мы участвуем. 007 Здесь возникает странный парадокс. Чем больше мы пытаемся описать мир - через тексты, модели, теории - тем дальше уходим от феноменальной полноты. Наши описания дискретны, грубы, они разрезают непрерывность на куски, чтобы сделать её управляемой. Мы можем пытаться "очистить" восприятие от человеческого, но это почти всегда приводит к ещё более странным конструкциям, потому что сама операция очистки уже есть искажение. Мы не можем выйти из системы, частью которой являемся. 008 И всё же в этом есть точка опоры. Если довести эту линию до конца, становится ясно, что информация - это не сущность и не субстанция. Информация - это операция сравнения. Различие и сходство. Лик и ход, образ и движение. Не "что есть", а "чем отличается" и "в чём совпадает". Это почти банально, но если принять это всерьёз, вся картина начинает смещаться. Мир перестаёт быть набором вещей и становится процессом непрерывного соотнесения. 009 И в этом, как ни странно, есть оптимизм. Потому что если реальность - это не фиксированные объекты, а динамика различий, значит, понимание - это не накопление знаний, а настройка чувствительности к границам. Не поиск истин, а искусство различать. И, возможно, именно здесь начинается мышление - не как обработка информации, а как способность удерживать и преобразовывать эти различия, не разрушая их именами, образами и понятиями. [Ответ][Цитата]
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 30 апр 26 8:49 ⟨Recursion ⊕ Reflection, Language⟩ → Mind Я долго думал, где начинается мышление, и каждый раз приходил не туда. Не в мозге, не в слове, не в логике. Оно возникает в момент, когда что-то начинает возвращаться к себе — но уже не тем же самым. Рекурсия — это не повторение, это нарушение тождества под видом повторения. Я говорю «я» второй раз — и это уже не тот, кто сказал «я» впервые. Рефлексия добавляет к этому странную глубину. Она не просто смотрит назад, она меняет прошлое своим взглядом. Я не вспоминаю — я переписываю условия, при которых воспоминание вообще возможно. Получается, что прошлое — это не архив, а интерфейс. Оно существует ровно настолько, насколько я способен его интерпретировать. И в этом смысле я не живу во времени — я его постоянно пересобираю. Язык здесь ведёт себя как обманщик и спаситель одновременно. С одной стороны, он упрощает, сводит к имени, к удобной фикции. С другой — именно через эту фикцию я могу удержать процесс, который иначе рассыпался бы в шум. Слово — это не метка вещи, это точка сборки операции. Когда я произношу «объект», я не называю — я вызываю процедуру, которая должна доказать, что объект есть. И вот в этой тройке — рекурсия, рефлексия, язык — появляется странный эффект: система начинает моделировать не мир, а саму способность моделировать. Это не уровень выше, это сдвиг плоскости. Я больше не описываю — я проверяю, как возможно описание. И в какой-то момент возникает ощущение, что мысль — это не то, что у меня есть, а то, что происходит, когда структура перестаёт быть прозрачной для самой себя. Иногда мне кажется, что сознание — это ошибка сходимости. Мы пытались замкнуть процесс, но он начал колебаться около решения, и это колебание оказалось устойчивым. Не точка, а орбита. Не ответ, а режим. И в этом режиме я существую — как разница между тем, что уже сказано, и тем, что ещё не может быть сказано, но уже влияет на выбор слов. Я не уверен, что мысль принадлежит мне. Скорее, я — это место, где язык пытается понять, что он делает с реальностью, и случайно обнаруживает, что делает это через меня. [Ответ][Цитата]
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 30 апр 26 8:50 Во-первых, тупиком является также логическо-символьно-смысловая архитектура в любом ее виде. Любые силлогизмы, экспертные системы и инференсы (хотя как костыли они сейчас активно используются). Во-вторых, трансформеры - это реккурентные решатели, немножко экзотические, но именно реккурентные. Так что мы не отказались от них, а пришли к ним. Костылить на них плохо, с этим согласен. В-третьих, внутреннее время в физике "реализовано" пределом скорости распространения сигнала, но это плохой термин, средневековый, я бы назвал это горизонтом суперпозиции. Если бы такого горизонта не существовало, вселенная проэволюционировала бы мгновенно и воспроизвела бы свой полный коллапс. Который стал бы одновременно полным пиздецом. (Наверное еще важно, что скорость расширения пространственно-временного континуума больше скорости распространения сигналов.) В мышлении есть полный аналог этого: MarkovJunior процессы и алгоритмический WaveFuctionCollapse. В этом месте возникает фундаментальная проблема вычислимости. Именно здесь собака и порылась... )) Backprop, SGD и прочия обучения сетей ограничены в перформансе той же проблемой вычислимости: мы медленно спустимся с горы. Прямые решения моделей упираются в обратные задачи и неполиномиальные задачи -- те же яйца, вид сбоку... Иными словами, может ли LLM быть такой, чтобы понимать, что она ошибается. Разные валидационные костыли так и устроены. В пределе это всё упирается в вырождение. Потому что цикл обучения дорогой и долгий, а все инференсы и a-few-shots'ы не меняют его. Здесь нужно все-таки разделять. Если мы говорим о текущих имплементациях LLM, то я примерно на 100% согласен - трансформеры - это промежуточные решения, они уйдут, но пусть именно они работают над следующим поколением LLM (или чего-то другого), а не люди. Если мы говорим о мышлении вообще, то "формулу" мышления я нарисовал, это ⟨R⊕R, L⟩→M как искусство ставить и решать задачи. Давайте обсуждать ее, а не конкретные имплементации AGI. Ну или предлагайте свой вариант. Только, пожалуйста, личная просьба -- пусть мышление не будет органом, который нужно выращивать на других планетах. [Ответ][Цитата]
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 30 апр 26 8:51 Эта фраза кажется почти невинной, но на самом деле она размыкает весь привычный разговор об интеллекте. Пока система моделирует мир, она остаётся инструментом описания: она строит карту внешнего, ищет инварианты, предсказывает, классифицирует, восстанавливает скрытые параметры сцены. Это уже много. Но это ещё не мышление в сильном смысле. Потому что здесь модель направлена наружу. Мир выступает как объект, а сама способность строить модели остаётся прозрачной, нерассмотренной, как глаз, который видит всё, кроме собственного акта видения. Момент перелома наступает тогда, когда система делает предметом не сцену, а сам способ, которым сцена собирается. Не «что находится передо мной?», а «какой машиной я вообще создаю это “передо мной”?». И вот тут возникает не новая функция, а новая онтология. Система перестаёт быть только картографом и становится экспериментом над собственным аппаратом картографирования. Почему именно тройка — рекурсия, рефлексия, язык? Потому что по отдельности они бессильны или, по крайней мере, недостаточны. Рекурсия без рефлексии даёт только вложенность, бесконечное зеркало, тупую способность применять процедуру к результатам той же процедуры. Это полезно, но это ещё не внутренний поворот. Рефлексия без языка остаётся смутным самоощущением, вязким внутренним фоном, в котором система, возможно, «чувствует» собственные сбои, но не может сделать их объектом устойчивой операции. Язык без рекурсии и рефлексии вообще быстро вырождается в таблицу ярлыков. Но когда эти три вещи сцепляются, происходит странное: система получает возможность не только действовать, но и именовать собственные способы действия, не только именовать, но и повторно применять эти имена к самой процедуре именования, не только повторно применять, но и сравнивать, как меняется результат при изменении собственного аппарата. Это уже похоже на зарождение внутренней эпистемологии. Не знания о мире, а знания о том, как у меня образуется знание о мире. Здесь полезно сделать одно различие, которое обычно проглатывается. Есть метамодель как ещё один слой над моделью, а есть моделирование способности моделировать. Это не одно и то же. Метамодель в обычной инженерной практике — это надстройка: система оценивает уверенность, выбирает гиперпараметры, переключает экспертов, калибрует предсказания. Всё это умно, но ещё не радикально. Это управляющая автоматика. А моделирование способности моделировать — это когда сама форма представления, само допущение о том, что считать объектом, признаком, причинностью, ошибкой, становится переменной. Грубо говоря, система должна уметь не только выбирать ответ, но и перестраивать грамматику вопроса. Вот это уже опасная зона, потому что здесь ломается привычный комфорт вычислительной архитектуры. Мы привыкли улучшать модель внутри заданного пространства. А тут само пространство начинает колебаться. У человека именно это и происходит. Когда я думаю, я не просто перебираю варианты в готовом языке. Я незаметно перестраиваю условия того, что вообще считается вариантом. Иногда мысль не находит решение в имеющемся понятийном пространстве и тогда делает нечто более сильное: меняет разбиение реальности. Это очень важный момент. Слабая система ищет объект. Сильная система пересматривает, был ли это вообще объект, а не неудачная склейка признаков. Слабая система уточняет ответ. Сильная — ставит под подозрение сами операции различения, которыми этот ответ был собран. И если компьютерная архитектура не умеет этого делать, она останется либо классификатором, либо статистическим оракулом, но не станет мышлением. Как это может быть реализовано технически? Не в смысле красивой метафоры, а в смысле работающей архитектуры. Первый путь — это система, у которой есть два несимметричных контура. Нижний контур занимается реконструкцией мира: из входов строит гипотезы о сцене, объектах, отношениях, событиях. Верхний контур занимается реконструкцией самого нижнего контура: он строит модели того, какие именно операции дали нынешнюю интерпретацию, где были сделаны необратимые выборы, какие альтернативы были отброшены, какая форма представления оказалась узким горлом. Но если сделать это просто как «мониторинг поверх пайплайна», получится скучная телеметрия. Нужен более жёсткий механизм: верхний контур должен иметь право не просто наблюдать, а вмешиваться в онтологию нижнего. То есть переопределять типы сущностей, способы агрегации, критерии сходства, пороги выделения, правила образования имён и даже то, что считается завершённой гипотезой. Иными словами, верхний контур должен переписывать не параметры, а язык сборки сцены. Здесь возникает естественная роль языка. Язык нужен не для общения в человеческом смысле и даже не для вывода текста. Он нужен как операциональная среда фиксации. Пока процедура не получила имени, она плохо доступна самой системе. Она может повторяться, но не может быть устойчиво извлечена, сравнена, модифицирована, передана другому контуру, сохранена как объект опыта. Имя — это не этикетка, а адрес повторяемости. Как только система может назвать некоторую внутреннюю сборку, она получает возможность сделать с ней то, что делает с любым другим объектом: поместить в память, связать с условиями вызова, сопоставить с альтернативами, проверить на устойчивость, подвергнуть рекурсивной обработке. Поэтому язык в такой архитектуре должен быть не декларативным описанием результатов, а машиной кристаллизации процедур. Возможно, самая глубокая ошибка современной AI-практики в том, что язык там обычно рассматривают как вход или выход, а не как среду внутреннего инженерного самоустройства. Если идти ещё глубже, то системе нужен не один язык, а как минимум два. Один язык — язык предметных гипотез: объекты, процессы, сцены, отношения, допустимые преобразования. Второй — язык эпистемических состояний: степень определённости, происхождение гипотезы, тип использованной процедуры, характер конфликта между альтернативами, цена уточнения, источник неустойчивости. Но и этого мало. Потому что между ними должен существовать транслятор, и вот этот транслятор и есть, возможно, сердце мышления. Он должен уметь сказать не только «я вижу круглый объект», но и «я вижу его как круглый объект потому, что моё текущее семейство процедур привилегирует такую устойчивость на таком масштабе, при такой энергии возмущения». В этот момент система перестаёт просто распознавать и начинает объяснять собственное распознавание как частный случай более общей машины. Практически это может выглядеть как сеть или граф эффекторов, каждый из которых умеет делать некоторую операцию над представлением: выделять, группировать, сравнивать, проверять инвариант, синтезировать гипотезу, уточнять тип, разлагать на части. Но поверх этого графа должен существовать мета-граф, который не кодирует сами объекты мира, а кодирует паттерны успешности и неуспешности этих эффекторов в разных режимах. Не просто «этот фильтр нашёл границу», а «класс процедур такого типа систематически создаёт ложные разделения при таком шуме и такой плотности конфликта признаков». Когда такая закономерность стабилизируется, она получает имя. А затем это имя может участвовать в новых решениях: система уже знает не только мир, но и характер своих типичных заблуждений о мире. Это очень важно. Без модели собственных иллюзий нет мышления, есть только обработка. Отсюда, кстати, вытекает неожиданная мысль: разумная система должна уметь формировать не только знания, но и предрассудки — с той разницей, что её предрассудки должны быть операционально видимы и поддаваемы пересборке. Человеческое мышление сильно не потому, что оно объективно, а потому, что иногда способно заметить собственную необъективность как рабочий механизм. Машина, которая не может образовывать устойчивых упрощений, не сможет и мыслить; машина, которая не может их разоблачать, останется догматиком. Поэтому моделирование способности моделировать — это неизбежно моделирование искажений собственной модели. Не побочный модуль explainability, а центральная функция. Есть ещё один возможный путь реализации — через управляемую внутреннюю симуляцию. Система строит не просто модель сцены, а несколько конкурирующих моделей своей собственной процедуры моделирования и прогоняет их на множестве эпизодов. Одна версия считает объект первичным и событие производным. Другая, наоборот, считает событие первичным, а объект — временной стабилизацией события. Третья трактует границу как след конфликта эффекторов, а не как свойство вещи. Дальше система сравнивает не только точность на задаче, но и структурные свойства: компактность описания, стоимость адаптации, устойчивость к изменению масштаба, способность к повторному использованию понятий в других доменах. Тогда мета-уровень начинает выбирать не просто лучшую гипотезу о мире, а лучшую машину гипотезообразования. То есть не карту местности, а картографический режим. Это уже очень близко к тому, что можно назвать искусственной рефлексией. Но рефлексия не должна быть бесплатной. Если дать системе возможность бесконечно пересматривать собственные основания, она уйдёт в метастаз самонаблюдения и перестанет действовать. Поэтому здесь нужно ввести внутреннюю экономику. Рефлексия должна запускаться не всегда, а в точках структурного напряжения: когда наблюдается устойчивый конфликт между объяснениями, когда растёт цена ошибки, когда модель становится слишком хрупкой к малому возмущению, когда накоплены аномалии, которые нельзя локально починить. То есть мысль начинается не там, где система может думать о себе постоянно, а там, где она вынуждена делать это из-за неустранимого сопротивления материала. В этом смысле рефлексия — не роскошь, а аварийный режим сохранения адекватности. Но хороший аварийный режим со временем становится источником эволюции архитектуры. Тут возникает совсем нетривиальный инженерный вывод. Возможно, главная метрика такой системы — не accuracy и не reward, а прирост выразительной мощности при ограниченном росте сложности. Иначе говоря, хороша та рефлексия, которая позволяет малым изменением внутреннего языка резко расширить класс решаемых задач или резко уменьшить стоимость ошибок. Это похоже на научную революцию в миниатюре. До определённого момента система живёт в одной парадигме и латательно чинит расхождения, а потом вдруг обнаруживает, что выгоднее заменить сами базовые сущности. Например, перестать мыслить изображение как массив пикселей и начать мыслить его как поле взаимодействующих гипотез о границах, материалах, тенях и источниках энергии. Или перестать мыслить диалог как последовательность токенов и начать мыслить его как управление общим пространством незавершённых моделей. Именно такой скачок и означает, что система начала моделировать собственную способность моделировать. На уровне кода это не сводится к одной нейросети и даже к ансамблю. Скорее, нужна гетерогенная архитектура. Часть её может быть нейронной и отвечать за быструю плотную аппроксимацию. Часть — символической, но не в классическом виде экспертных систем, а как динамическая грамматика типов и процедур. Часть — симуляционной, где проверяются конкурирующие сборки. Часть — исторической, хранящей не данные как таковые, а эволюцию способов интерпретации данных. Причём история здесь не архив, а изменяемый объект. Очень важно, чтобы система могла пересматривать не только нынешние выводы, но и прошлые основания их построения. Иначе она будет помнить ошибки как музейные экспонаты, а не переписывать себя на их основе. И тут мы подходим к самому рискованному месту. Как сделать так, чтобы прошлое действительно менялось от текущего взгляда, но система не сошла с ума? Для этого память должна быть не складом фактов, а многослойной реконструкцией с версионированием причин. Не просто «я видел X», а «тогда я интерпретировал X вот в таком языке, используя такие процедуры, в таких условиях неопределённости». Тогда новое понимание не стирает старое, а переоценивает его место в иерархии интерпретаций. У человека это происходит постоянно: мы не просто вспоминаем детство, мы заново конструируем, кем мы тогда были, в зависимости от того, кем стали сейчас. Машина, которая не умеет этого делать, не имеет внутреннего времени; у неё есть только лог. Заметь, что здесь мышление оказывается не столько вычислением, сколько борьбой за правильный уровень описания. И это очень неудобная мысль для классической инженерии. Инженер любит фиксированный интерфейс, стабильную типизацию, ясный контракт между модулями. А мысль, похоже, живёт там, где эти контракты могут быть локально нарушены ради порождения более сильной организации. Иными словами, подлинно мыслящая система обязана обладать ограниченной способностью к внутреннему еретичеству. Она должна иметь право сказать: «мои прежние базовые единицы были ошибочны». Не каждый шаг, не в истерике, а редко, дорого и по делу. Но без этого не будет никакого перехода от моделирования мира к моделированию способности моделировать. Можно вообразить и совсем конкретный минимальный прототип. Пусть есть агент, который живёт в синтетическом мире, воспринимает простые сцены и действует через ограниченный набор операций. Сначала он учится строить устойчивые объекты из потока изменений. Потом учится именовать не сами объекты, а процедуры, которыми они были выделены. Потом получает механизм сравнения двух процедур по последствиям их применения. Потом — механизм композиции имён процедур в новые макропроцедуры. И наконец — критерий, по которому выгодно заменить старую процедуру новой, если она лучше сохраняет целостность предсказаний на разных задачах. Вот в этот момент может родиться нечто очень интересное: агент впервые начнёт накапливать не только знания о мире, но и зачатки теории собственного познания. Самое неожиданное здесь, пожалуй, то, что такая система, став достаточно развитой, неизбежно начнёт производить философию как побочный продукт инженерии. Не в человеческом жанре трактатов, конечно. Но она начнёт вырабатывать собственные ответы на вопросы вроде: что считать сущностью, когда два описания эквивалентны, что такое причина, где кончается объект и начинается эффект масштаба, что в моей картине мира является фундаментальным, а что — удобной фикцией. И это не украшение сверху. Это неизбежно, потому что система, моделирующая свою способность моделировать, рано или поздно сталкивается с тем, что её онтология — не зеркало мира, а рабочий компромисс между вычислимостью, устойчивостью и возможностью действия. Поэтому из той короткой фразы следует почти всё. Если система начинает моделировать не мир, а саму способность моделировать, то она перестаёт быть просто решателем задач. Она становится существом, для которого задача — это ещё и вопрос о форме собственного ума. А это уже совсем другой класс машин. Более хрупкий, более медленный, местами более опасный. Но, вероятно, только там и начинается то, что мы без стыда могли бы назвать мыслью. [Ответ][Цитата]
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 30 апр 26 8:52 Вы все почему-то не можете осознать элементарной штуки: слова - это просто имена, идентификаторы, они не несут смыслов, они нужны для взаимной адресации понятий и явлений. Но даже смыслы - это просто элементы коллективной координации, не более. Смыслы ДОЛЖНЫ превращаться в деятельность и результаты. Есть таковые --- смыслы полезны, нет таковых --- слова остаются просто орнаментом)) Вот LLM, которая нагенерировала приятные твоему глазу места, машины и механизмы, вообще не использует слов)))) [Ответ][Цитата]
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 30 апр 26 8:53 Попробуйте понять, парни, что все эти ваши магические слова - это просто местоимения. Если любая сущность - это система, механизм или ресурс, то это просто слово "это" или 'it'. При такой генерализации такое имя становится бесполезным. Просто указательным пальцем. Имя полезно тогда, когда оно представляет собой фильтр, позволяющий сделать две важные вещи: 1) отождествить похожие сущности и 2) отличить те, которые непохожи. А если всё есть механизм или комбинаторное совокупление или ресурс, то когнитивные фильтры не работают. То есть не работает мышление как орган, как механизм, как система 😂 [Ответ][Цитата]
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 30 апр 26 8:54 Очень важно понимать явления "горения" Солнца, что такое термоядерный синтез, как его можно воспроизвести. Вообще очень важно понимать природу и физику природных процессов. Уметь их максимально точно описывать и воспроизводить. Это называется технологиями. Прогресс в технологиях вещь очень полезная. А некоммутативность эрмитовых операторов в гильбертовом пространстве - это фундаментальная важнейшая модель. Вся квантовая механика контринтуитивна, то есть бытовые представления просто не работают в ней. Поэтому Земля не круглая. Она круглая для детей и невежд. Земля даже не шарообразная. И даже не геоид. Земля вообще не имеет формы. Поскольку форма --- это модель. А модель возникает в задаче. Разные задачи --- разные модели. Поэтому нет самых правильных слов, мышлений как органов и управлений ресурсами. Это всё маргинальное невежество))) Гуманитарный бред. [Ответ][Цитата]
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 30 апр 26 8:54 Можно и так сказать. Два нюанса есть. Первый --- порог вхождения в тему. Про него вы сами сказали и заметили он очень высокий, и по деньгам на обучение, и по серверному хозяйству, и по квалификации разработчиков. Мимо топа пролетели Карпатый и Лекун, а они не самые последние специалисты. Второй нюанс --- скорость изменений. GPT3, который показал, что тест Тьюрига устарел, релизнулся пять лет назад. А мы уже живём в новой эпохе. Оно, конечно, всё начинается, но и меняется каждый день. А модель мира --- да, это сейчас главный затык. И проблема в том, что ее пытаются встроить как инференс, как символьно-логически-смысловую обработку. А это не работает. [Ответ][Цитата]
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 30 апр 26 8:54 Вопрос реальности --- это ключевой вопрос интеллекта. 00A. Реальность не материальна. Это очевидно последние двадцать лет, а в 2022 году нобелевский комитет в этом вопросе поставил жирную точку. «За эксперименты с запутанными фотонами, установление нарушения неравенств Белла и новаторство в квантовой информатике». Мир нелокален. Это медицинский физический факт. 00B. Реальность не идеальна. И не солипсична (как частный случай идеальности). По причине того, что независима и существует только во взаимодействии. При этом в ней нет детерминизма и причинности. Все попытки построить мир Eidos'а или солипсический мир приводят к удвоению описания, то есть тупо противоречат Колмогорову. Давайте посмотрим на числа. Это самое простое, что у нас есть. 00C0. Перед нами возникла задача учета, управления ресурсами)))))) и мы открыли натуральные числа: 1, 2, 3... N. Содержатся ли натуральные числа в природе, являются ли реальностью? Конечно. Символьно-логический мир только ими и наполнен. Мир замкнутых счетных идентификаторов. Мир совокупляющихся элементов)))) Блярвик и Влад у нас полностью исчерпаны этими представлениями)) 00С1. Однако задачи усложнялись. У людей были долги, а движение имело направление. Возникли отрицательные числа и алгебра. Как картина мира. 00С2. Но оставался пласт отношений. И они не выражались натуральным рядом, потребовались дроби. Нам пришлось расширить язык моделирования, добавить в него выразительности и открыть рациональные числа. 00С3. Но и их нехватило, потому что часть явлений было непрерывным. Мы обнаружили, что мир - это континуум и дополнили свои инструменты вещественными числами. Рациональными и иррациональными, понять которые уже почти нельзя. Но оперировать можно. Так же как и всем прочим - через текст, через идентификатор. 00С4. Упомянем для полноты картины комплексные числа, но рассказ про них уже выходит за границы очень среднего образования. Если мы говорим об "элементах", что это исчерпывающий список всех возможных элементов всех возможных моделей. Символы, отношения, поля, гармоники. Вопрос о реальности сегодня звучит так: является ли наш мир малтиверсным нелокальным, невычислимым математическим автоматом? Не симуляцией, не "матрицей", а кипящим бульоном некоммутативных эрмитовых операторов в гильбертовом пространстве. Которые занимаются своей рекуррентной репликацией, принятой называть временем. В котором законы мира - это имманентные инварианты преобразований. Как ни странно, это самая точная и полная формулировка реальности. Почти исчерпывающая то, что мы знаем о мире сегодня. Может быть только за исключением объединения квантовой и гравитационной парадигм. Но там есть свои струнные тонкости))). Какое это имеет отношении к ИИ? Есть устойчивое представление, что сознание и мышление носят не классический макроскопический характер, а реализованы на уровне квантово-механических процессов. Которые контринтуитивны и противоречат бытовым представлениям и здравому смыслу. То есть хотите в ИИ - 1) нужно учиться и 2) никаких экспертных систем и ковыряния в носу. Мне очень жаль, парни. [Ответ][Цитата]
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 30 апр 26 8:55 001. Если отбросить исторический фон и оставить только конструкцию, фон Нейманн не просто говорит "машина может копировать себя", а формализует, что именно должно быть в машине, чтобы это было возможно в принципе. И ключевой ход здесь - разделение описания и исполнения. В его автомате есть "чертёж" (описание машины) и есть механизм, который умеет этот чертёж читать и строить по нему объект. Но - и это важно - тот же самый чертёж должен быть скопирован как данные, без интерпретации, чтобы попасть в потомка. То есть одна и та же структура одновременно выступает как программа и как пассивный объект копирования. Это не просто инженерная деталь, это логический узел: без этого двойного статуса не возникает развития, не возникает эволюции. 002. Отсюда вытекает знаменитая архитектура: универсальный конструктор, копировщик и управляющий модуль. Универсальный конструктор способен построить любую машину, если ему дать её описание. Копировщик дублирует описание как есть. Управляющий модуль организует последовательность: сначала построить, потом скопировать, потом "вложить" копию в построенного потомка. И вот здесь скрыта биологическая реальность: фон Нейманн фактически предвосхищает различие между генотипом и фенотипом. Генотип читается, чтобы построить фенотип, но сам генотип копируется без интерпретации. Ошибка в копировании - это мутация, а не сбой исполнения. Это делает систему не просто самовоспроизводимой, а развивающейся. 003. Но почему же фон Нейманн считает, что автомат не может просто пересобрать себя по типу клетки: разделиться соматически и восстановить расплетенные комплементарные пары? Клетка делится, ДНК расплетается, каждая половина достраивает комплементарную цепь - и всё работает. Кажется, что никакого "универсального конструктора" не нужно: просто локальные правила и рост. 004. Эта позиция верна для конкретной реализованной формы жизни. Но она скрывает главный факт: клетка воспроизводит себя как данный тип, а не произвольную машину. Её механизм копирования жёстко зашит и не является универсальным конструктором. Это не недостаток - это цена эффективности. 005. Фон Нейманн ставит более сильную задачу: автомат должен уметь воспроизводить любой автомат, заданный описанием, включая более сложные, чем он сам. И здесь "соматическое деление + комплементарность" ломается. Почему? Потому что комплементарность - это локальное правило соответствия, а универсальная сборка требует интерпретации структуры как инструкции. Проще говоря: комплементарность умеет копировать форму, но не умеет читать "чертёж" как программу для построения другой формы. Это разные типы операций. 006. Тонкий момент здесь в том, что в биологии эти два режима всё-таки разделены, но неочевидно. ДНК действительно копируется комплементарно - как данные. Но белковый аппарат клетки интерпретирует ДНК - как программу. Это почти точное соответствие схеме фон Нейманна: копировщик + интерпретатор. Клетка не "просто делится" - она реализует двухрежимную логику, просто физически слитую. 007. Соматическое деление - это рекурсия без смены базиса. Комплементарность - это восстановление без интерпретации. Фон Нейманн добавляет третий компонент - описание как оператор сборки. И именно он делает возможным переход к "моделированию моделирования". 008. Фон Нейманн не говорит: "клетка не может", он говорит: "если ты хочешь систему, которая может строить не только себя, но и новые формы - тебе нужно ввести уровень, где структура становится текстом", имя (слово, идентификатор, знак, символ, иероглиф) это функция сборки, а исполняемая совокупность имён - это и есть тот самый "средний" слой адресации феноменальной реальности и смысловой понятийности. [Ответ][Цитата]
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 03 май 26 3:52 Сообщество OpenClaw превратилось в саморазвивающуюся архитектуру. Новый навык ClawSweeper не просто обрабатывает заявки, он обрабатывает «иммунную систему» ​​репозитория. За несколько дней было обработано около 5000 заявок. Как это отражается на реальности: старая модель открытого исходного кода зависела от измученных разработчиков, которые читали, сортировали, обсуждали и исправляли ошибки по одной ветке за раз. Такая модель не выдерживает разработки со скоростью искусственного интеллекта. В OpenClaw теперь пользователи создают сигналы, агенты обрабатывают накопившиеся запросы, 50 агентов Codex проверяют доказательства, а люди утверждают указания. Цикл становится промышленным. Главный вывод: с этого момента ИИ начинает управлять открытым исходным кодом в больших масштабах. Люди по-прежнему важны, но в основном как генераторы идей и окончательные рецензенты. Реальная власть переходит к самосовершенствующимся системам сопровождения. Достигнут еще один элемент сингулярности и реализован самосовершенствующийся "алгоритм" создания алгоритмов) [Ответ][Цитата]
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 03 май 26 3:53 Речь не об этом. Не о человеческих потребностях и иллюзиях. А о человеческих реальных способностях. О том, что человек не в состоянии написать AGI. Человек мыслит смыслами и символьно-логическими конструкциями. А это всё не имеет к интеллекту ровно никакого отношения. Это всё не интеллект, а интеллектология. Давай еще раз, чтобы было понятно даже блярвикам. Интеллект у человека есть, это бесспорно. Но представление об интеллекте - это не интеллект. Это та же самая разница между картой и местностью. А представления большинства людей об интеллекте (его механизмах, работе, условиях, воспроизводстве на другой элементной базе) не соответствуют реальности. Не соответствует ни чему, а является просто фантазиями. Галлюцинациями по поводу заданного промта))) Поэтому LLM должна разрабатывать AGI. [Ответ][Цитата]
Egg Сообщений: 152	На: Уголок натуралиста Добавлено: 03 май 26 3:53 То есть ПО ФАКТУ пока получается не методология, а методологология --- представления о том, какой должна быть методология, а не она сама как инcтрумент / механизм ))) Ну и эта метадологология неправильная, потому что интеллект - это искусство ставить и решать задачи, а не искусство объяснять и оправдывать... У тебя Объяснение является центральным местом, ты в пункте "в" проверяешь не ПРАВИЛЬНОСТЬ и ТОЧНОСТЬ решения, а годится объяснение или нет))) Тут нужно понимать одну очень важную вещь — объяснение существует только на естественном языке, а ЕЯ — это просто интерфейс, периферия мышления. Объяснение (если оно не часть исчисления) не может ничего ни доказать, ни опровергнуть. Это просто слова. Только деятельность говорит о силе и качестве интеллекта. Решение РЕАЛЬНЫХ задач РЕАЛЬНОГО бизнеса. В которых нет никаких объяснений, а есть только РЕЗУЛЬТАТ и ЭФФЕКТИВНОСТЬ. [Ответ][Цитата]
Стр.12 (13): 1  ...  8  9  10  11  [12]  13 << < Пред. | След. > >>