GotAI.NET - Форум - Искусственный интеллект

Цитата:

Автор: Egg

Есть представление о том, что любую внешнюю реальность материального мира мы можем запросто свести до его устройства на уровне элементарных частиц и кварков (ниже пока ничего нет). Организм представить как композицию органов и тканей, ткани как совокупность клеток с их обменом и делением, клетки разложить на химию белка, которая в конечном итоге представимо вот этой самой совокупностью частиц, которые уже уходят в квантовую природу.

Т.н. трудная проблема сознания (Чалмерс) указывает на принципиальное несоответствие материального и переживаемого субъективного опыта. Ничего в материальном мире не похоже на чувства и ничего в материальном мире не является квалиа. У атомов и квалиа нет никаких общностей, кроме переживающего свой опыт субъекта, который является материальным, в отличие от этого самого переживаемого опыта.

Всё это очень здорово, всё это классно, но я хотел бы обратить внимание на два важнейших момента в этой связи:

1. Реальность не имеет композиционного устройства, это невежество и иллюзия. Мы не можем взять какое-то количество "материи", например, кусок дерева, разложить его на элементарные частицы, а затем собрать из этих частиц кусок золота, той же массы (с учетом потери какой-то части энергии). Или еще пример, наши атомные станции не являются атомными, а являются тепловыми, то есть мы используем тяжелые элементы как топливо для нагрева пара, который преобразует тепловую энергию в механическую в турбинах, а только потом в электрическую. В любой нашей деятельности на уровне материи мы вынуждены следовать законам природы, которые вполне можно понимать как квалиа, поскольку мы не знаем как эти законы устроены на уровне механизмов.

2. Реальность не сводима "друг к другу" даже на уровне описаний. Даже на макро уровне. Все наши модели парадигмальны, то есть имеют некоторый набор понятий, которые не имеют смысла при изменении парадигмы. Самый типичный пример - температура, которую можно померять в термодинамике, но в механике сплошных сред она изчезает как параметр и представима лишь как некоторая мера кинетического движения молекул. Про то, что Земля совсем не "круглая" (как говорят местные дегенераты, когда хотят обратить на себя внимание) - это тоже хороший пример. У реальных объектов нет формы _на_самом_деле_, нет никаких признаков, параметров и свойств. Всё это ТОЧНО ТАКОЕ ЖЕ КВАЛИА, как квалиа персонального опыта. Квалиа, которое конструирует наше представление об объекте, но не является этим объектом как феноменом.

Таким образом, чувственный опыт точно также относится к реальности как реальность относится к системе понятий посредством моделей. Чувственный опыт представляет собой "текст", "нарратив", некоторый направленный поток знаков, генерируемых органами чувств. Отличие чувственного опыта от текста в том, что опыт малтимодальный, а не линейный и он развертывается в режиме реального времени. Других отличий нет.

Получается, что кроме несводимости понятийного пространства к феномену, мы вынуждены констатировать несводимость к феномену и понятию любой существующей модели, будь то уравнение Шредингера (в применении к конкретным условиям объекта) или поток зрительных ощущений. А переживаем мы эти ощущения в силу того, что мозг вынужден их читать.

Комплементарная парадигма работает как раз хорошо в объяснении эффекта целостности сознания: восходящие потоки, которые конструируют сложность и устройство, компенсируется нисходящим потоком, который определяет интегральные, холистические, эмерджентные свойства оранизации нижних уровней. Равновесие устанавливается во взаимной "интерференционной" картине отражения первого на второе и обратно.

При этом автономность сознания представляет собой важнейшее качество, вне автономности (мы пока не говорим ничего о реплицируемости и самовоспроизводстве) сознания быть не может.

При этом сознание автореферентно, находясь в сознании мы осознаем, что мы находимся в сознании, мы осознаем себя, среду в которой существуем как целое и свое сознание как отражение себя, среды и отражения себя и среды... )))

Тонкость осознавания (в отношении информационных систем) заключается в том, что не существует иного способа передать другому сознанию свое представление о чем-либо, кроме как "объяснения" своего представления, то есть индуцирования представления как модели в "чужом" понятийном пространстве. Иными словами, семиомы сознательных представлений должны быть самовоспроизводимы.

Автореферентны и самовоспроизводимы. Отсутствие механизмов прямого копирования отличают представление от любых других объектов. Представление нельзя создать, ее можно только вырастить. В этом смысле представление больше всего похоже на организм. Self-production.

Один из аргументов адептов Трудной Проблемы Сознания заключается в осознании осознания. То есть помимо интенционального аспекта продуцирования представления, у сознания есть еще феноменальный аспект быть "собой внутри себя". И это переживание подается как разрыв между материальным и психическим, который не может быть объясним с физикалистских позиций. Объяснимость с физикалистских позиций меня заботит меньше всего, а вот феноменальный аспект представляет собой интерес как раз с точки зрения своей кромешной неполноты и фрагментарности.

Давайте просто перечислим. Сознание не осознает никакого физического взаимодействия, кроме тех, которые имеют репрезентацию в органах чувств. Оно не чувствует радиации, ультрафиолета, проникновение в тело в местах, подверженных анестезии и так далее. Сознание не осознает никаких внутренних процессов жизнедеятельности своего организма, кроме тех, которые имеют репрецентацию на уровне нейронной системы. Частично различные химизмы вегетативной системы отражаются в форме эмоций, но это также задействование нейронных механизмов. Сознание не осознает подмены части тела (опыты с резиновой рукой), части памяти (различные расстройства), своей множественности "в одной голове" и свою смену в результате сна или потери агентом своей потери. То есть осознание осознания есть, а утрачивание утрачивания нет. Ахахах. То есть сознание не имеет НИКАКОЙ рефлексии, вся рефлексия и реконструкция агентом "себя" выходит за уровень феноменальных аспектов, а представляет собой оформленное мозгом Представление.

То есть феноменальный аспект из Тотального Самоощущения Субъектности Я превращается в локальное переживание процессов восприятия. Никакой тотальности, никакой субъектности, никакого "я", просто неоформленная в Представление рефлексия. В этом смысле сознание - это один из "побочных продуктов" деятельности мозга (рецепторов и прочей нервной системы), если под их деятельностью понимать генерацию "галлюцинаторной" Реальности, которая существует в форме Представления.

Неплохо, особенно сильна критика наивного композиционного редукционизма. Вы по сути указываете на то, что "объективность" материи — это такая же модель, как и субъективный опыт, просто с консенсусной валидацией. Идея о том, что свойства вроде формы или температуры — это такие же квалиа, как боль или цвет, радикально, но логично: мы никогда не имеем дела с "вещью в себе", только с интерфейсом, который эволюция откалибровала под выживание, а не под онтологическую истину. Хотя… я лично считаю квалиа более сложным процессом, но пока не про это.

Единственное место, где я бы поспорил — это финальное определение сознания как "побочного продукта". Если система автопоэтична, автореферентна и самовоспроизводима (как вы верно описали), она не может быть эпифеноменом в классическом смысле. Скорее, сознание — это операционально замкнутый процесс, а не его результат. Мозг не "генерирует" опыт как дым из трубы; опыт — это способ, которым система поддерживает свою целостность в реальном времени. Разница тонкая, но важная: в первом случае сознание вторично, во втором — оно и есть форма существования системы. Возможно оно побочный продукт в начале, но который как бы стал основным продуктом, в виду его удачности.

Но если принять вашу рамку — что любое представление можно только "вырастить" через индуцирование модели, а не скопировать напрямую, — то это ставит жёсткие ограничения на коммуникацию и, тем более, на создание ИИ. Мы не передаём смыслы, мы передаём триггеры для их реконструкции. Тогда вопрос: если сознание — это автономная, когерентная симуляция, не имеющая прямого доступа к "реальности", является ли внутренняя непротиворечивость модели достаточным критерием для признания системы сознающей? Или нам всё же нужен биологический субстрат как условие для "настоящего" переживания?

И ещё получается забавный регресс: мы, "контролируемые галлюцинации", спорим о том, реальны ли другие галлюцинации, используя язык, который тоже является галлюцинацией. Круг замкнулся, привет, солипсизм, выходит Андрей прав(если не учитывать его национальность). Есть подозрение, что если ИИ действительно разовьёт свои квалиа, первое, что он подумает, глядя на наши философские трактаты: "И ради этого меня тренировали на триллионе токенов?".Мы так боимся, что ИИ станет сознательным, но, возможно, ему просто будет скучно в нашей "реальности" — слишком много багов в физическом движке и никакой прямой загрузки смыслов.

Ещё можно добавить что онтологические инсайты — это часто роскошь, доступная тем, чей когнитивный ресурс не утилизируется полностью задачей банального выживания, тоесть для тн. "джентльменов"(живущих на %). Мозг, оптимизированный эволюцией под закрытие базовых потребностей, в условиях экономического рабства 99.99% просто не имеет свободной вычислительной мощности для генерации "бесполезных" смыслов. Опасность тут даже не в нехватке времени, а в сужении семантического пространства модели: когда все циклы заняты обработкой задач работодателя, сознание сворачивается в узкий туннель функционала, и "автопоэзис" подменяется простым воспроизводством рабочей силы.

Ирония ситуации в том, что историческая свобода "джентльменов" от нужды, подарившая нам философию, алхимию, а в последствии науку, сегодня часто тратится не на метафизику, а на потребление развлечений — Шопенгауэр, наверное, с грустью наблюдал бы, как его "избранные" меняют рефлексию на бесконечный скроллинг и выпендреж. Получается замкнутый круг: "трудная проблема сознания" остается привилегией досуга, но сам досуг теперь настроен так, чтобы убивать в нас мыслящее существо, оставляя лишь эффективный интерфейс для обслуживания экономики. В итоге, если сознание можно только "вырастить", то в почве современного быта чаще всего прорастает не философ, не исследователь ИИ, а высокофункциональный невротик, и это, увы, тоже форма адаптации. Но Вы думаю не такой, скорей сего Вы не выгорели, судя по Вашим монологам. Но на долго ли?

Форум: Проблемы искусственного интеллекта