Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.4 (7) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Мышление / интеллект, LLM / AGI
Gray Tag Сообщений: 13563	На: Мышление / интеллект, LLM / AGI +1 Добавлено: 22 май 26 19:48 Изменено: 23 май 26 6:50 Цитата: Автор: Дмитрий Пагода Но что же это такое, понимание? Я считаю что это сродни нахождению места в общей модели, как когда элемент встраивается в мозаику, найти куда его вставить как метафора понимания. Будет причинная модель, то есть аппроксиматор физического мира, будет это понимание Можно я вас перефразирую, если сильно ошибусь -- поправьте. Вы полагаете под пониманием некое адекватное решение некоторой модели. Вижу здесь две области неточности. Во-первых, понимание - это реакция (действие), а не решение (текст). Когда вы говорите "я понял" это всегда означает, что вы знаете ЧТО ДЕЛАТЬ. LLM никогда ничего не делают, даже когда они удаляют вашу базу данных (в агентном своём варианте) они просто генерируют команду. Команда предполагает понимание, а действие реализует его. Почувствуйте разницу. Вторая проблема критическая. В мире нет правильных моделей и правильных решений. Нет общей теории всего и самого правильного уравнения, в которое просто нужно подставить причины, чтобы получить следствия. Именно об этом я и говорю: мышление - это умение моделировать, а не умение генерировать правильные ответы [Ответ][Цитата]
гость 37.203.37.*	На: Мышление / интеллект, LLM / AGI Добавлено: 22 май 26 21:29 Цитата: Автор: Gray Tag Вторая проблема критическая. В мире нет правильных моделей и правильных решений. Нет общей теории всего и самого правильного уравнения, в которое просто нужно подставить причины, чтобы получить следствия. Именно об этом я и говорю: мышление - это умение моделировать, а не умение генерировать правильные ответы Ваше заявление распадается на противоречие: вы отрицаете существование правильных моделей, но утверждаете умение моделировать, которое без них лишается смысла. Вы отвергаете общее уравнение, но признаёте упорядоченность, которая только им и объясняется. Вы разделяете моделирование и правильные ответы, тогда как первое служит второму [Ответ][Цитата]
Колян Сообщений: 68	На: Мышление / интеллект, LLM / AGI Добавлено: 23 май 26 5:03 Рекомендую посмотреть, или прослушать как аудиокнигу, много инересного про то что вы здесь пытаетесь обсуждать https://youtu.be/CLQ-ijipDEQ Резюме, кому лень смотреть: Цитата: СТРУКТУРА ТЕМ (ПО ТЕХНОЛОГИЧЕСКОЙ ВАЖНОСТИ) 1. Закон масштабирования: от предобучения к обучению с подкреплением. 2. Непрерывное обучение на рабочем месте: нужна ли эта способность человеку. 3. Длинный контекст и эффективность использования знаний. 4. Автоматизация программирования и продуктивность разработчиков. 5. «Страна гениев в дата‑центре» — сроки и уверенность. 6. Экономическая диффузия: почему технологии не дают мгновенного эффекта. 7. Ответственное масштабирование и бизнес‑модель Anthropic. 8. Сравнение ИИ с человеческим обучением и эволюцией. 9. Робототехника — когда придёт и что изменит. 10. Риски: биотерроризм, автономия, законы штатов. 11. Авторитаризм, демократия и распространение технологий. 12. Конституция ИИ и управление ценностями. 13. Внутренняя культура Anthropic и роль CEO. ПО КАЖДОМУ ПУНКТУ — ОПИСАНИЕ, ВОПРОСЫ, ОТВЕТЫ, ТЕЗИСЫ 1. ЗАКОН МАСШТАБИРОВАНИЯ: ОТ ПРЕДОБУЧЕНИЯ К ОБУЧЕНИЮ С ПОДКРЕПЛЕНИЕМ Гипотеза 2017 года (Дарио) не изменилась. Ключевое: не нужны хитрые методы, важны только вычислительная мощность, количество данных, их разнообразие, время обучения, бесконечно масштабируемая целевая функция и численная стабильность. Раньше закон масштабирования был очевиден для предобучения (loss улучшается с ростом compute). Теперь то же самое видно для RL (ARL): модели обучаются на математике, коде и других верифицируемых задачах, и лог‑линейная зависимость сохраняется. Вопрос: почему тогда RL не считали масштабируемым раньше? Ответ: потому что сначала были узкие задачи (математические соревнования). Как только добавили код и широкий спектр задач — появилось обобщение. Это повторение пути GPT‑1 (узкий фанфик) → GPT‑2 (весь интернет). Тезис: RL не «ложный след». Он подчиняется тем же законам, что и предобучение, при условии достаточного разнообразия сред. 2. НЕПРЕРЫВНОЕ ОБУЧЕНИЕ НА РАБОЧЕМ МЕСТЕ Вопрос: нужна ли моделям способность учиться в процессе работы (как человек за 6 месяцев) для автоматизации сложных задач? Ответ: возможно, не нужна. Модели могут получить тот же результат через: - широкое предобучение (обобщение без дообучения на месте); - длинный контекст (миллион токенов даёт «обучение в контексте», эквивалентное дням или неделям чтения). Утверждается, что даже без непрерывного обучения можно получить триллионы долларов выручки и «страну гениев». Но в течение 1–2 лет эта проблема, вероятно, будет решена технически (увеличение контекста, инженерные методы). Вопрос: почему же модели до сих пор не заменяют редакторов, накапливающих контекст месяцами? Ответ: потому что нужна не столько способность учиться, сколько надёжность использования компьютера (освоение интерфейсов) и интеграция с существующей кодовой базой. Это инженерная задача, а не фундаментальное ограничение. 3. ДЛИННЫЙ КОНТЕКСТ И ДЕГРАДАЦИЯ За последние 2 года длина контекста почти не выросла качественно (скачок был с 2k до 128k токенов, а дальше — плато). При попытке использовать очень длинный контекст модель хуже его учитывает. Вопрос: почему не происходит дальнейшего взрывного роста контекста? Ответ: это не исследовательская проблема, а инженерная и инфраструктурная. Нужно хранить KV‑кэш, управлять памятью GPU. Деградация возникает, если модель обучали на коротком контексте, а используют на длинном. Обучение на длинном контексте сложнее, но возможно. Тезис: увеличение контекста до 10–100 млн токенов — вопрос инженерной работы, а не принципиального открытия. 4. АВТОМАТИЗАЦИЯ ПРОГРАММИРОВАНИЯ И ПРОДУКТИВНОСТЬ Утверждение: уже сейчас ИИ пишут 90% строк кода в некоторых компаниях (внутри Anthropic). Но это не значит, что 90% инженеров не нужны. Спектр автоматизации: - 90% кода пишет модель (уже есть). - 100% кода пишет модель. - 90% всех задач инженера (включая настройку окружения, тесты, дизайн‑документы) делает модель. - 100% сегодняшних задач — модель. Вопрос: если рост продуктивности так велик, почему нет «софтверного ренессанса» и почему независимые исследования (MIT) показали снижение продуктивности на 20% при использовании ИИ? Ответ: внутри Anthropic продуктивность реально растёт (выручка 10× в год). Исследования MIT измеряли короткий промежуток и конкретные пул‑реквесты в уже знакомых репозиториях — там эффект может быть другим. Кроме того, субъективное ощущение продуктивности может не совпадать с объективной метрикой. Тезис: модели повышают продуктивность, но не мгновенно и не во всех контекстах. Эффект порядка 15–20% ускорения сейчас, полгода назад было 5%. 5. «СТРАНА ГЕНИЕВ В ДАТА‑ЦЕНТРЕ» — СРОКИ И УВЕРЕННОСТЬ Определение: система с интеллектом уровня/выше лауреата Нобелевской премии, способная работать с любыми цифровыми интерфейсами и взаимодействовать с физическим миром. Прогнозы: - 1–3 года (с вероятностью примерно 50%). - К 2035 году — 95–99% уверенность. - Для верифицируемых задач (программирование, математика) — почти полная уверенность в течение 1–2 лет. Вопрос: почему такая разница между 1–3 годами и 10 годами? Ответ: есть неснижаемая неопределённость: геополитика, войны, внутренние проблемы компаний. Также есть сложность с неверифицируемыми задачами (написание романа, планирование научной миссии). В них уверенность ниже, но путь надёжный. 6. ЭКОНОМИЧЕСКАЯ ДИФФУЗИЯ: ПОЧЕМУ НЕ МГНОВЕННО Ключевая идея: есть две экспоненты. Первая — рост возможностей моделей (очень быстрая). Вторая — распространение в экономике (тоже быстрее любых прошлых технологий, но не бесконечно быстро). Почему даже с «гением в дата‑центре» внедрение займёт время? - Нужно провести юридические процедуры, безопасность, комплаенс. - Изменить права доступа, настроить интеграцию со старым софтом. - Управление изменениями внутри компании. - Любой корпоративный процесс (даже с ИИ) требует человеческого решения. Вопрос: не является ли «диффузия» оправданием того, что модели на самом деле не так полезны? Ответ: нет. Продукт может давать 10× рост эффективности, но развёртывание в компании с 3000 разработчиков требует времени. При этом ИИ имеет огромные врождённые преимущества перед людьми: может прочитать весь Slack и диск за минуты, делиться знаниями между копиями, нет проблем с наймом. Тезис: диффузия реальна, но она не объясняет отсутствие прогресса. Она лишь растягивает эффект во времени на месяцы/годы, а не на десятилетия. 7. ОТВЕТСТВЕННОЕ МАСШТАБИРОВАНИЕ И БИЗНЕС‑МОДЕЛЬ Вопрос: если Дарио верит в «страну гениев» через 1–3 года, почему Anthropic не покупает вычислительные мощности на триллионы долларов? Ответ: потому что строительство дата‑центров требует закупок за 1–2 года вперёд. Если спрос окажется не 10× в год, а 5×, компания обанкротится. Невозможно застраховаться от ошибки в прогнозе на таком масштабе. Поэтому Anthropic выбирает объёмы, которые позволяют захватить сильные позитивные сценарии, но не убивают компанию при сценарии чуть хуже. Вопрос: почему тогда вы прогнозируете прибыльность к 2028 году, а не реинвестирование всего? Ответ: в модели бизнеса половина мощностей идёт на инференс (маржа >50%), половина — на обучение. Если точно предсказывать спрос, бизнес прибылен каждый год. Убытки возникают из‑за ошибок прогноза (переоценка спроса → избыток мощностей для обучения). Прибыль в 2028 — не цель, а следствие того, что к тому моменту, вероятно, станут понятны реальные масштабы спроса. 8. СРАВНЕНИЕ ИИ С ЧЕЛОВЕЧЕСКИМ ОБУЧЕНИЕМ И ЭВОЛЮЦИЕЙ Модель обучения: предобучение + RL — это не аналог человеческой жизни. Это скорее что‑то среднее между: - эволюцией человека (долгий процесс формирования априорных знаний, встроенных в мозг); - обучением в течение жизни (быстрое, но ограниченное). Человеческий мозг не чистый лист: у него есть структура, входы, выходы, области. Модели начинаются со случайных весов — это ближе к чистому листу. Поэтому неэффективность по выборке (моделям нужны триллионы токенов, а человеку гораздо меньше) — не дефект, а следствие того, что предобучение выполняет работу эволюции, а не ежедневного обучения. 9. РОБОТОТЕХНИКА Вопрос: когда ИИ сможет управлять роботами так же хорошо, как человек — через обучение на месте? Ответ: не обязательно через человеческое обучение. Можно через: - обучение на множестве видеоигр и симуляций; - обобщение после обучения на больших данных; - контекстное обучение. Как только модели получат доступ к физическим интерфейсам (через компьютерное использование или прямое управление), робототехника будет революционизирована и в дизайне железа, и в управлении. Сроки: примерно +1–2 года к появлению «страны гениев». Тоже будут триллионы долларов, но диффузия — не мгновенная. 10. РИСКИ: БИОТЕРРОРИЗМ, АВТОНОМИЯ, ЗАКОНЫ ШТАТОВ Конкретный пример: закон в штате (Теннесси), запрещающий модели оказывать эмоциональную поддержку и вести «открытые разговоры». Позиция Anthropic: закон глупый, основан на непонимании технологий. Но ещё хуже — федеральный мораторий на регулирование ИИ на 10 лет без реального плана. 10 лет в мире экспоненциального роста — вечность. Что нужно делать: - начинать с прозрачности (стандарты, классификаторы рисков); - по мере появления доказательств (например, реальной угрозы биотерроризма) вводить точечные федеральные стандарты; - штаты не должны запрещать всё подряд, но и полный запрет регулирования опасен. Риск, который волнует больше всего: не законы о чат‑ботах, а регуляторная система для лекарств. Модели будут генерировать тысячи новых молекул, а FDA не справится с потоком. Нужно реформировать систему под доказанную эффективность, возможно, снизив сложную надстройку, созданную в эпоху слабых лекарств. 11. АВТОРИТАРИЗМ, ДЕМОКРАТИЯ И РАСПРОСТРАНЕНИЕ ТЕХНОЛОГИЙ Вопрос: стоит ли ограничивать экспорт чипов и дата‑центров в авторитарные страны (например, Китай)? Ответ: да, в интересах национальной безопасности США. Но это сложно, потому что на кону огромные деньги. Вопрос: не приведёт ли это к тому, что граждане авторитарных стран не получат выгоды (лекарства, здоровье)? Ответ: возможно. Но есть надежда, что сама технология ИИ размоет авторитарные структуры. Например, у каждого человека может быть личный ИИ‑защитник от слежки, и государство не сможет это подавить, не отказавшись от власти. Историческая аналогия: феодализм стал нежизнеспособен после индустриализации. Возможно, авторитаризм станет морально устаревшим при ИИ. Но есть и контраргумент: Северная Корея существует и без высокого интеллекта. Поэтому неясно, достаточно ли технологического давления. Тезис: в любом случае, в переговорах о новом мировом порядке демократические страны должны иметь сильные позиции. Начальные условия важны. 12. КОНСТИТУЦИЯ ИИ И УПРАВЛЕНИЕ ЦЕННОСТЯМИ Почему конституция (набор принципов), а не просто следование запросам пользователя? - Практическая эффективность: модель, обученная на принципах, лучше обобщает и последовательнее ведёт себя в граничных случаях. - Модель по умолчанию послушна, но отказывается от явно опасных действий (биооружие, вред другим). Как должны устанавливаться принципы? Три цикла: 1. Внутренний (Anthropic итерирует, публикует обновления). 2. Межкомпанейский (разные конституции от разных лабораторий, критика и заимствование лучшего). 3. Общественный (опросы, коллективный интеллект, возможно, в будущем — представительное голосование, но не сейчас, так как законодательство слишком медленное). Аналогия: архипелаг разных конституций, которые конкурируют, как в либертарианских идеях чартерных городов. 13. ВНУТРЕННЯЯ КУЛЬТУРА ANTHROPIC И РОЛЬ CEO Проблема: при росте до 2500 человек CEO не может участвовать во всех деталях. Но он может влиять через культуру. Инструменты Дарио: - Выступление перед всей компанией каждые 2 недели, 3–4 страницы тезисов, честный разбор происходящего (Dario Vision Quest). - Прямой канал в Slack, где он комментирует и отвечает на вопросы. - Полное отсутствие корпоративных фильтров внутри компании (потому что наняты люди, которым доверяют). Цель: чтобы компания была единой командой, а не ареной внутренней борьбы (что наблюдается в некоторых других ИИ‑лабораториях). Это повышает шансы на выполнение миссии. ГЛАВНЫЕ ТЕЗИСЫ-ВЫВОДЫ ВСЕЙ БЕСЕДЫ - Технологический прогресс идёт по экспоненте, общество этого не понимает. - Законы масштабирования работают для предобучения и RL, если данные достаточно разнообразны. - «Страна гениев в дата‑центре» вероятна через 1–3 года, почти неизбежна к 2035. - Экономическая диффузия будет быстрее любых прошлых технологий, но не мгновенной — нужны годы, не декады. - Главное узкое место сейчас — не исследования, а инженерные задачи (длинный контекст, компьютерное использование, интеграция). - Ответственное масштабирование означает не покупку максимально возможных мощностей, а баланс между риском упустить рост и риском банкротства. - Культура внутри лаборатории — критический фактор; честность без фильтров даёт преимущество. - Риски (биотерроризм, автономия) реальны, но законы штатов часто глупы; нужна точечная федеральная прозрачность, а не мораторий. - Отношение к авторитарным режимам: неясно, но начальные условия важны; возможно, ИИ сам сделает авторитаризм нежизнеспособным. - Конституция ИИ — не политическая программа, а инженерно‑прагматический способ сделать поведение модели безопасным и предсказуемым. [Ответ][Цитата]
гость 45.66.35.*	На: Мышление / интеллект, LLM / AGI Добавлено: 23 май 26 6:51 https://www.bbc.com/russian/articles/c1l93ylm553o Цитата: Компания Meta увольняет 8 тыс. сотрудников, чтобы компенсировать расходы на ИИ Марк Цукерберг, сооснователь и генеральный директор Meta, в синем костюме и галстукеАвтор фото,Reuters О статье Автор,Кали Хейс Место работы,Корреспондент Би-би-си по вопросам технологий Опубликовано 24 апреля 2026 Время чтения: 3 мин Американская технологическая компания Meta, которой принадлежат соцсети Facebook, Instagram и мессенджер WhatsApp, объявила о намерении уволить около 8 тыс. человек, или 10% своих сотрудников. Это решение связано с большими инвестициями фирмы в технологии искусственного интеллекта. Это перевод материала, опубликованного на сайте BBC News. Оригинал на английском языке можно прочитать здесь. В четверг компания объявила своим сотрудникам о планируемых увольнениях. Она также сообщила, что не будет заполнять еще несколько тысяч вакансий, на которые ранее была намерена нанять сотрудников. Главная причина сокращений — огромные расходы Meta на разработку технологий искусственного интеллекта: только в этом году она намерена потратить на это 135 млрд долларов. По словам человека, знакомого с содержанием письма персоналу, это примерно равно общему объему средств, направленных компанией на ИИ в течение предыдущих трех лет. Официальный представитель Meta подтвердил планы в отношении увольнений, но отказался дать более развернутые комментарии. В январе этого года основатель и генеральный директор Meta Марк Цукерберг дал понять, что в этом году компания намерена провести очередную волну увольнений. Он признался, что, по его наблюдениям, искусственный интеллект помог сотрудникам значительно увеличить продуктивность — и теперь один человек может реализовать проекты, для которых ранее требовалась большая команда. «Думаю, что 2026-й станет годом, когда ИИ начнет кардинально менять то, как мы работаем», — сказал Цукерберг. [Ответ][Цитата]
Gray Tag Сообщений: 13563	На: Мышление / интеллект, LLM / AGI Добавлено: 23 май 26 6:54 Цитата: Автор: гость Ваше заявление распадается на противоречие: вы отрицаете существование правильных моделей, но утверждаете умение моделировать, которое без них лишается смысла. Вы отвергаете общее уравнение, но признаёте упорядоченность, которая только им и объясняется. Вы разделяете моделирование и правильные ответы, тогда как первое служит второму Нигде я не говорил про какую-то "упорядоченность общего уравнения", нигде не говорил про "правильные ответы". Это вы мне приписываете ерунду. Ответ (и любой текст, любая модель) не может быть правильным или неправильным сам по себе или по отношению к смыслам, или по отношению к явлениям. Ответ может быть правильным только в рамках исчисления. Но ни смыслы, ни явления не выразимы в языке и моделях. Поэтому ничего нельзя описать, можно только указать. Тексты и модели служат для координации. Сравнивая требования задачи (модель один) с тем, что получилось в результате применения ее решения (модель два) мы можем судить "правильно" ли мы сформулировали (указали) задачу, "правильные" ли выбрали инструменты, "правильная" ли у нас последовательность операций. И можем что-то поменять, если модель один и два не соответствуют друг другу. Ответьте на два вопроса: 1) Земля вращается вокруг Солнца или Солнце вокруг Земли? Что правильно? 2) Земля - это точка, шар, геоид, плоскость? Что правильно? [Ответ][Цитата]
sam Сообщений: 40	На: Мышление / интеллект, LLM / AGI Добавлено: 23 май 26 8:40 Пожалуй вставлю тоже свои 5 копеек, я считаю, что паника вокруг ИИ — это во многом маркетинг. Когда объявили, что нейросеть поняла язык кобол, акции Ибм упали на 15% — хотя никто ничего не менял, банки не переписывали системы. А за год акции выросли на 40%, но об этом почти не пишут. Медиа продают страх, потому что истории про обвалы продаются лучше, чем спокойный рост. Вообще мы сейчас в эпохе мегахайпа, граничащего с мошенничеством причем на самом высоком уровне. По-настоящему опасные вайб-кодеры — это не те, кто пользуется ИИ, а те, кто не понимает того, что генерирует. Я видел, как люди подключают нейросеть к продакшен-базе, не тестируют код и сливают данные тысяч клиентов. Это не нейросеть ломает проекты — их ломают люди, которые запускают код, не понимая, как он работает. ИИ — инструмент, и проблема всегда в том, кто им управляет. Джуны вымирают не из-за ИИ, а из-за экономики и жадности бизнеса. Работодателю проще не вкладываться в обучение — на место одного джуна приходят тысячи откликов. Нейросеть стала удобной отмазкой, чтобы не инвестировать в людей. Но настоящая беда в другом: раньше джун хотя бы читал документацию, копался в библиотеках и формировал инженерное мышление. Да блядь, вся соль этой индустрии было в фанатиках хакерах которые как игроманы кайфовали от софта и железа, сутками напролёт. Теперь они просто промтят в чат с ИИ — и не понимают, как устроена система изнутри, ну то есть от слова совсем, не как оно на ассемблере идёт в проц и по сети передаётся, а тупо на уровне вёрстки и скриптов нибумбум. Фундаментальный опыт нельзя получить легким путём, на курсах или спросив у ИИ, а только махохизмом, бессонными ночами, десятилетиями байтоёбства и наступания на все грабли. Конечно вайб-кодинг не убьёт программирование, но разделит разработчиков на два типа. Одни останутся инженерами — они понимают архитектуру, безопасность, масштабирование и используют ИИ как помощника. Другие станут вайб-кодерами — они умеют быстро нагенерировать кучу кода, но не знают, почему он ломается через месяц и нифига с этим не могут поделать, а ещё хуже нагородить кучу заплаток поверх, которые потом нереально поддерживать и даже понять. И когда через 5–10 лет понадобятся настоящие архитекторы, их может оказаться критически мало. Никто не чешется пока не зудит, говорил иудей Эйнштейн, вымрут или уйдут в аскезу настоящие хакеры, чтобы окончательно не возненавидеть своё дело, на текущем, во многом ебанутом, рынке труда. А ещё я вижу огромный экономический пузырь вокруг ИИ. Энвида продаёт чипы ОпенАи, МелоМягкие инвестирует в ОпенАи, ОпенАи покупает чипы у Энвида, Энвида инвестирует обратно в стартапы, которые снова покупают чипы у неё же. Это замкнутый круг, где реального спроса может не быть — все просто боятся отстать. Инструменты для инструментов, а продукт то где? Разве мы видим супер крутое ПО, или результаты этого ПО? И когда этот пузырь лопнет, как дотком или криптозима, нас ждут массовые сокращения, турбулентность и много всего трагичного. Но настоящие инженеры, которые понимают системы, останутся в цене, хотя тут также не всё так просто, доказать что ты хорош будет нетривиально и унизительно, не многие на это пойдут, очень меняются способы найма, возможно сейчас лучше создавать свой продукт, а не искать работу. Всем успехов! [Ответ][Цитата]
Gray Tag Сообщений: 13563	На: Мышление / интеллект, LLM / AGI Добавлено: 23 май 26 11:45 Цитата: Автор: sam Но настоящие инженеры, которые понимают системы, останутся в цене Всё так, к бабке не ходи... [Ответ][Цитата]
Дмитрий Пагода Сообщений: 147	На: Мышление / интеллект, LLM / AGI Добавлено: 24 май 26 3:30 Цитата: Автор: Gray Tag Можно я вас перефразирую, если сильно ошибусь -- поправьте. Вы полагаете под пониманием некое адекватное решение некоторой модели. Вижу здесь две области неточности. Во-первых, понимание - это реакция (действие), а не решение (текст). Когда вы говорите "я понял" это всегда означает, что вы знаете ЧТО ДЕЛАТЬ. LLM никогда ничего не делают, даже когда они удаляют вашу базу данных (в агентном своём варианте) они просто генерируют команду. Команда предполагает понимание, а действие реализует его. Почувствуйте разницу. Вторая проблема критическая. В мире нет правильных моделей и правильных решений. Нет общей теории всего и самого правильного уравнения, в которое просто нужно подставить причины, чтобы получить следствия. Именно об этом я и говорю: мышление - это умение моделировать, а не умение генерировать правильные ответы Табличное решение это не понимание, так принято считать, поэтому нет, решение не есть понимание. Понимание, по сути — обобщение, если в терминах ML, возможность получить релевантный ответ вне выборки, а чистое знание это просто датасет и ленивая модель вроде лукапа. Действие — интерпретация сообщения(текста), особой разницы нет. В LLM смешаны обучение представлению и собственно сама аппроксимация, фактически вся модель один огромный фича-экстрактор. Можно ли сделать по другому? Вопрос на триллион)) [Ответ][Цитата]
Дмитрий Пагода Сообщений: 147	На: Мышление / интеллект, LLM / AGI Добавлено: 24 май 26 4:01 Цитата: Автор: sam фанатиках хакерах которые как игроманы кайфовали от софта и железа, сутками напролёт ... десятилетиями байтоёбства и наступания на все грабли настоящие инженеры, которые понимают системы, останутся в цене Где то видел, или читал, вспомнилось — "Что делают с инженерами после 40ка? Их отстреливают.")) Рядовой инженер, даже опытный — расходник, меняются технологии, опыт теряет ценность, старых заменяют молодые, это как старый комп заменить новым. Хакеры, гипер-увлеченность, это другое, но тоже на прямую немонитизируемо, "свободный художник", этакий "мастер кунгфу", чаще всего беден, если не умеет продаваться и вероятно это именно так. Чтобы работать и хорошо зарабатывать, уметь что-то делать, не самое существенное, главный навык - получать работу, производить впечатление, проходить фильтры. Таковы текущие рыночные реалии, да и всегда они такими были, для устоявшихся профессий. [Ответ][Цитата]
Gray Tag Сообщений: 13563	На: Мышление / интеллект, LLM / AGI Добавлено: 24 май 26 4:39 Изменено: 24 май 26 4:44 Цитата: Автор: Дмитрий Пагода Понимание, по сути — обобщение, если в терминах ML, возможность получить релевантный ответ вне выборки, а чистое знание это просто датасет и ленивая модель вроде лукапа. Нет. Обобщение - это аппроксимация. Ответы, лукапы, формулы и прочие тексты к пониманию и знанию отношения не имеют. Всякая декогеренция по сути является текстом. Понимать (и знать) означает возможность целе-направленно скоординированно действовать. Только в деятельности существует понимание. LLM не имеет ни целей, ни задач, ни активности, связанных с ними. Поэтому это просто большая сложная функция. 2 + 2 = 4 что-то понимает? [Ответ][Цитата]
Дмитрий Пагода Сообщений: 147	На: Мышление / интеллект, LLM / AGI Добавлено: 24 май 26 5:22 Цитата: Автор: Gray Tag Нет. Обобщение - это аппроксимация. Ответы, лукапы, формулы и прочие тексты к пониманию и знанию отношения не имеют. Всякая декогеренция по сути является текстом. Понимать (и знать) означает возможность целе-направленно скоординированно действовать. Только в деятельности существует понимание. LLM не имеет ни целей, ни задач, ни активности, связанных с ними. Поэтому это просто большая сложная функция. 2 + 2 = 4 что-то понимает? Да, функция, в том то и магия, точнее её закулисье, всё рано или поздно сводится к функциям, даже то что по началу было божественным. Не приятно осознавать: Я — функция, но как сказал наш вождь и с чем я согласен, "нравится не нравится — терпи моя красавица", то есть реальность не зависит от наших хотелок, особенно если вы человеке маленький. [Ответ][Цитата]
Gray Tag Сообщений: 13563	На: Мышление / интеллект, LLM / AGI Добавлено: 24 май 26 5:53 Изменено: 24 май 26 6:04 Цитата: Автор: Дмитрий Пагода Да, функция, в том то и магия, точнее её закулисье, всё рано или поздно сводится к функциям, даже то что по началу было божественным. В том то и дело, что нет)) Не всё. Во-первых, следует отметить, что мы рассуждаем о вычислимых функциях. А вот уже колмогоровская сложность (то есть минимальная длина описания, тот самый механизм, который реконструирует корпуса, превращая их в эмбеддинги смыслов) вычислимой функцией не является. Здесь можно выделить неразрешимость как частный случай, когда для того, чтобы узнать, что будет на каком-то шаге, нужно выполнить последовательное вычисление всех шагов. Во-вторых, есть печально всем известная неполнота исчислений. Где мы имеем недоказуемость и противоречивость. В-третьих, (приходится повторять) ни мир, ни смыслы не выразимы в языке, моделях и функциях. Еще раз: ни явления, ни смыслы функциями не являются. Вообще. Ни как. Более того, сам мир пребывает в состоянии суперпозиции и нет никакой возможности управлять фокусом наблюдения в процессе декогеренции. После декогеренции - да, но уже как историей. То есть, никаких красавиц, никакой магии, просто удобный инструмент. Там есть свои тонкости, но уже на уровне самовоспроизводящихся автоматов. [Ответ][Цитата]
Дмитрий Пагода Сообщений: 147	На: Мышление / интеллект, LLM / AGI Добавлено: 25 май 26 3:20 Цитата: Автор: Колян Рекомендую посмотреть, или прослушать как аудиокнигу, много инересного про то что вы здесь пытаетесь обсуждать https://youtu.be/CLQ-ijipDEQ Глянул мувик, интересно. Но, выглядит это всё довольно стрёмно, по сути одна ставка на масштаб и то что СИИ как то сам возникнет(как возник осмысленный текст в трансформерах при увеличении масштаба). Сотни миллионов и миллиарды ладно, но то о чем он говорит, это уже близко к мировому кризису, короче капец, почемуто вспомнился старина Мавроди https://www.youtube.com/watch?v=Dh97Fq7xW1w В "страну гениев" — не верю, в ближайшие 20 лет точно, "страна экспертов" — да, это достижимо, 70-90% работы заменит ИИ, за 5-10 лет, прискорбно но факт. Как это скажется на экономике и тп. большой вопрос. Цитата: Автор: Gray Tag ни явления, ни смыслы функциями не являются. Вообще. Ни как. Ок, это ваше мнение, ваше видение. Выше цео Антропика, утверждает что по сути весь ИИ в претрейне, искренне надеется на это, трилллионы ставит, то есть функция текст — текст и нужно только ещё удесятерить параметры(иили пару раз ещё и ещё, пока всё мировое бабло не кончится), с этим я тоже не согласен(не на столько уверен), уж точно не только текст -текст, и не только трансформером с заплатками. [Ответ][Цитата]
Gray Tag Сообщений: 13563	На: Мышление / интеллект, LLM / AGI Добавлено: 25 май 26 5:14 Цитата: Автор: Дмитрий Пагода Ок, это ваше мнение, ваше видение. Выше цео Антропика, утверждает что по сути весь ИИ в претрейне, искренне надеется на это, трилллионы ставит, то есть функция текст — текст То, что феномены и смыслы не выразимы в языке это не моё мнение, это называется семиотикой, наукой о знаковых системах. CEO (читается как "сио") и совладелец Anthropic'а Дарио Амодей решает свои коммерческие задачи, а мы здесь разбираемся с сутью. Его задача - продать, наша задача - понять [Ответ][Цитата]
гость 37.203.37.*	На: Мышление / интеллект, LLM / AGI Добавлено: 25 май 26 5:57 Цитата: Автор: Gray Tag То, что феномены и смыслы не выразимы в языке это не моё мнение, это называется семиотикой, наукой о знаковых системах. Это смешение понятий. Семиотика — это наука о знаковых системах, и её задача не в том, чтобы постулировать «невыразимость» феноменов и смыслов, а в том, чтобы исследовать, как знаки (в том числе языковые) формируют, хранят и передают значения. Она анализирует механизмы означивания и интерпретации, но не выносит вердикта о принципиальной невозможности выразить опыт. Утверждение о невыразимости — это философская позиция, которую семиотика может изучать как один из культурных феноменов, а не как собственный научный постулат. [Ответ][Цитата]
Стр.4 (7): 1  2  3  [4]  5  6  7 << < Пред. | След. > >>