GotAI.NET - Форум - Искусственный интеллект

А.Л.Шамис

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ - МИФ ИЛИ РЕАЛЬНОСТЬ?

В тексте статьи жирным шрифтом выделены названия следующих затрагиваемых тем:
Направление Искусственный интеллект.
Распознавание и восприятие.
Нейронные сети и нейрокомпьютер.
Тест Тьюринга.
Синергетика.
Живое и неживое.
Эмоциональные механизмы управления поведением и работой мозга.
Может ли машина мыслить?

Большая часть этих тем подробнее рассматривается в книгах "Пути моделирования мышления" и "Модели поведения, восприятия и мышления".
Термин "Искусственный интеллект" (ИИ) используется в двух разных смыслах. Во-первых, ИИ может отождествляться с искусственным (машинным) мышлением. В этом случае вопросы: возможен ли искусственный интеллект? и может ли машина мыслить? - это один и тот же вопрос. Во-вторых, ИИ это название научного направления. В последнее время часто говорят об успехах ИИ, о том, что компьютер скоро сравняется по интеллекту с человеком. Например, называется интервал 2015-2030 год. Появляются страшилки о соперничестве между машинами и человеком, о победе машин и подчинении человека. Попробуем насколько возможно разобраться с этими проблемами и несколько успокоить читателя.
Направление Искусственный интеллект
В Советском Союзе направление "Искусственный интеллект" пришло на смену кибернетическому и бионическому бумам первой половины 60-х годов. Интеллектуализация машин велась под разными флагами. Один из них назывался бионика. Общая цель бионики фомулировалась как перенос в технику "изобретений" природы. Одной из наиболее важных задач считалось использование в вычислительной технике знаний из области нейрофизиологии мозга. Однако достаточно быстро выяснилось, что переносить из нейрофизиологии в вычислительную технику нечего, при этом не только потому, что физиология не располагает достаточной конструктивной и целостной информацией о работе мозга, но и попросту потому, что эта информация вычислительной технике не нужна. Современная вычислительная машина на мозг не похожа. Устройство и принципы работы современной вычислительной машины не имеют ничего общего с устройством и принципами работы мозга.
Тем не менее, сначала оптимистам казалось, что вот-вот произойдет революция и вычислительная машина начнет думать по-человечески. Однако, ничего подобного не произошло. Стало ясно, что полноценного искусственного мышления быстро построить нельзя. Поэтому стали говорить, что нужно заниматься не научными спекуляциями и не исследованиями с непонятной перспективой, а искусственным интеллектом - т.е. просто машинным решением трудноформализуемых задач - таких задач, которые человек решает, а машина нет. Таким образом, первоначально ИИ не претендовал на прямое моделирование мышления человека
И всетаки, с самого начала явно или неявно предполагалось, что эти работы позволят сформулировать обобщения и выработать специфические методы ИИ, ведущие, в конечном счете, к машинному мышлению. Представители возникшего направления полагали (и полагают), что к пониманию и моделированию мышления полезно идти от специфики задач к методам их решения, вводя "интеллект" как механизм, необходимый для решения.
Какие задачи традиционно относят к области ИИ? Оказалось,что таких задач много. Это понимание машиной естественного языка, т.е. вопрос-ответные системы и доступ к базам данных на естесственном языке, перевод с одного языка на другой, анализ изображений 3-х мерных сцен, доказательство теорем, игры, базы данных, базы знаний и др.
Определенные комплексные исследования велись под флагами "экспертные системы" и "интегральные роботы". В экспертных системах центральными моментами были базы данных, информационный поиск и общение человека с базами данных, распознавание ситуаций по признакам и связывание ситуаций с рекомендациями и, в некоторых случаях, с управляющими действиями. При создании роботов главные вопросы это зрительное восприятие трехмерных сцен и управление движением тележки или манипулятора. Роботы используются в программируемых технологических операциях, например таких, как покраска автомобиля, либо как игрушки.
Перечисленные выше задачи, повидимому, можно действительно считать специфическими трудноформализуемыми "человеческими" задачами, и возникает проблема выявления в этих задачах общности, определяющей необходимость мышления. Однако, конструктивных обобщений методов ИИ, применимых к разным задачам и принципиально отличающихся от традиционных способов решения создано не было. В частности, сейчас машины прекрасно играют в шахматы. Практический уровень игры машины сопоставим с уровнем игры чемпиона мира. Машина решает эту задачу за счет мощных вычислительных возможностей в основном перебором сравниваемых вариантов с добавлением некоторого числа простых эвристических правил оценки сравниваемых позиций.
Если задача машинной игры в шахматы поддалась "силовому" решению, то успех в решении многих других задач практически отсутствует. Так не был реализован японский проект ЭВМ 5-го поколения, направлявшийся на создание естественных зрительных и речевых форм связи между человеком и компьютером. Выяснилось, что для реализации этого проекта недостаточно построить "глаз" и"ухо". Оказалось, что нужно еще и понять как работает мозг. (Впрочем, это было ясно многим с самого начала). По той же причине отсутствует качественное продвижение в решении таких задач, как анализ 3-х мерных сцен и перевод с одного языка на другой. Точно так же и роботы как и 30 лет назад остаются либо устройствами для выполнения сложных стандартных технологических операций, либо все более и более сложными игрушками, не идущими в своем обучении и поведении дальше условного рефлекса или, как максимум, динамического стереотипа.
Говорят, что любая "интеллектуальная" система управления, перевода или восприятия должна уметь строить и использовать семантическую модель мира. Это безусловно верно, как верно и то, что достаточно общего решения эта проблема пока еще не имеет. Тем более, что в системах ИИ строятся, как правило, не активные модели, а пассивгые описания.
Итак, можно сказать, что направление работ "Искусственный интелект" объеденяет под общим названием весьма разнообразные разрозненные исследования, и не станет наукой, пока не будет создана хотя бы в каком-то приближении целостная теория работы мозга и получен хотя бы гипотетический ответ на вопрос: что такое мышление? К сожалению, обнадеживающих перспектив этого в рамках направления ИИ в настоящее время не просматривается.Сумма решенных "интеллектуальных" задач мышления не образует. Пассивные алгоритмические системы ИИ к решению проблемы искуственного мышления не ведут. Не случайно в названиях некоторых популярных книг и статей появляются такие слова, как: "голый король", "король умер", "новый ум короля".
Распознавание и восприятие.
К исследованиям в области ИИ примыкают работы по распознаванию образов. Традиционные программы или устройства распознавания образов это чаще всего пассивные признаковые системы классификации объектов, рассматриваемых по отдельности. Серьезных теоретических успехов, имеющих значение для понимания механизмов мышления, на этом направлении не получено. Эти системы не обладают такими свойствами живого восприятия как целостность, целенаправленность и "распознавание с пониманием", основывающееся на использовании модели среды.
Перцептивное мышление (мышление при восприятии) включает не только узнавание отдельных объектов, но и целостное восприятие окружающей среды. Кроме того перцептивное мышление не ограничено только этим. Восприятие и умозрительное моделирование среды в процессе перцептивного мышления должно основываться на принципах целостности, целенаправленности и активности. Должны разворачиваться и взаимодействовать процессы "снизу-вверх" и"сверху-вниз" в иерархически организованной модели проблемной среды, отражающей двусторонние связи между частным и общим, а также между частями и целым. Восприятие должно умозрительно разворачиваться во времени и в пространстве за пределы непосредственно отражающегося в мозге с помощью органов чувств фрагмента среды. Должно происходить управление процессом восприятия с понятийного уровня. Восприятие должно основываться на предвидении, формирующем "акцептор восприятия" и гипотезы восприятия. Должен использоваться контекст и максимально полная семантическая модель проблемной среды.
Классическое распознавание образов прямого отношения к перцептивному мышлению не имеет. Описанное в [1, 2] "восприятие с пониманием" можно считать упрощенной, но в то же время важной частью перцептивного мышления.
Нейронные сети и нейрокомпьютер.
Серьезных теоретических успехов, имеющих значение для понимания механизмов мышления нет и у направления, называемого нейронаукой.
Это в первую очередь относится к окутанным чуть ли не мистическим туманом искусственным или формальным распознающим нейронным сетям (ФРНС). Часто их рассматривают даже как какой-то аналог мозга. В последнее время в текстах просто пишут "нейронные сети", опуская прилагательные искусственный или формальный. На самом деле, ФРНС - это просто пассивный признаковый классификатор, строящий разделяющие гиперплоскости в пространстве признаков.
Используемый в этих сетях формальный нейрон - это сумматор с пороговым элементом, подсчитывающий сумму произведений значений признаков на некоторые коэффициенты, являющиеся ни чем иным, как коэффициентами уравнения разделяющей гиперплоскости в пространстве признаков. Если сумма меньше порога, то вектор признаков находится по одну сторону от разделяющей плоскости, если больше - по другую. Вот и все. Кроме классификации по признакам никаких чудес. Сеть из формальных нейронов может также аппроксимировать плоскостями нелинейные разделяющие поверхности и объединять по результату несвязанные области пространства признаков. Это и делается в многослойных сетях.
Во всех случаях ФРНС - это пассивный признаковый классификатор, выделяющий области в фиксированном пространстве признаков. Никаких других задач ФРНС решать не может, причем задачу распознавания ФРНС решает не лучше обычных признаковых распознавателей, использующих аналитические методы. Еще меньшими возможностями в плане распознавания образов обладают идущие от перцептрона Розенблатта растровые нейронные распознаватели. Хотя такие распознаватели, в которых образуются ансамбли одновременно активируемых входной информацией нейронов, могут в некоторых случаях обладать ассоциациями по сходству и, в принципе, ассоциациями по смежности во времени.
К понятию формальная нейронная сеть часто добавляется понятие нейрокомпьютер. Этот термин не очень удачен. Системы, к которым он обычно применяется, компьютерами не являются. Нейрокомпьютеры в каком-то приближении можно разделить на три группы. Первая группа это просто уже упоминавшиеся формальные распознающие нейронные сети.
Вторая группа это системы, построенные на тех же формальных нейронах, но решающие другие задачи. Это могут быть задачи, близкие по своему смыслу задаче распознавания. Например, кластеризация. Это могут быть и совсем другие задачи. Общим в системах этой группы является то, что в них используются формальные нейроны, строящие, чаще всего, разделяющие гиперплоскости в многомерном пространстве каких либо векторов, характеристик или признаков. С помощью гиперплоскостей и их объединения в конкретных задачах специальным образом организуется отделение или выделение каких-то входных или промежуточных векторов. На основе этого выделения и формируется результат. Специфика в этих системах и их особенности определяются как самой задачей, т.е. тем, что нужно выделить, так и способом выделения нужных объектов. В общем случае специфическими решаемыми проблемами в этих системах являются задача автоматического нахождения коэффициентов в уравнениях разделяющих гиперплоскостей и задача формирования общего результата на основе использования результатов работы нескольких (многих) нейронов. Последнее так же как и при распознавании решается введением дополнительных нейронных слоев и специфической организацией связей между нейронами.
Третья группа - это специальные частные системы, строящиеся на особых элементах. Перичислять и пытаться обобщать эти изобретения не представляется необходимым, поскольку это могло бы увести нас слишком далеко в сторону от основной рассматриваемой темы. Отметим лишь, что чаще всего в основе специальных нейрокомпютеров лежит какой-то особый способ распознавания образов. Безусловно, интересный оригинальный, тем более физиологичный, способ распознавания может быть шагом в направлении понимания работы как отдельных механизмов мозга, так и мышления в целом. Но только первым, или одним из первых шагов. К сожалению, часто такой шаг объявляется последним, или одним из последних.
Оценивая успехи так называемой нейронауки, можно, в отличие от распространенного мнения, сказать, что создание пассивных ФРНС и растровых распознавателей, а также строящихся на сходных принципах пассивных устройств или программ, называемых нейрокомпьютерами, не является заметным шагом в понимании и моделировании нейронных механизмов мозга.
Более подробно формальные пассивные нейронные сети, а также гипотезы об активных нейронных сетях рассмотрены в [1,2].
Синергетика. Развиваемый в этом новом направлении подход иногда называют теорией всего и говорят о возможности применения аппарата синергетики к описанию любых систем, в том числе живых и даже мозга. Синергетика использует аппарат нелинейной динамики для описания изменений в мультистабильных системах, теряющих устойчивость при внешних воздействиях и попадающих в результате происходящих изменений в новое стабильное состояние. Такой процесс характерен для теряющих устойчивость пассивных неживых систем. Активные живые системы постоянно находятся в состоянии неравновесия. Теряя устойчивость и начиная движение к состоянию равновесия они за счет внутренней и внешней работы возвращаются в состояние неравновесия. Переход от неравновесия к равновесию в каких-то фазах существования и развития живого также существует. Однако представляется, что главное как в поведении живых организмов, так и в работе мозга это активное целенаправленное поддержание неравновесия. Две главные решаемые мозгом задачи это построение иерархической модели среды и использование этой модели для быстрого решения многопереборных многоэкстремальных задач поведения путем сведения этих задач к малопереборным одноэкстремальным [1,2]. Все это в целом апаратом нелинейной динамики не описывается. В связи с этим претензии синергетики на роль теории всего не выглядят обоснованными.

Тест Тьюринга. Что такое мышление? Общего определения не существует, поэтому на этот вопрос можно давать разные ответы. Можно и не давать никаких ответов, а просто использовать тест Тьюринга для определения мыслит или нет конкретная программа или машина. В соответствии с этим тестом важен только результат процесса мышления и не важно как он достигается. Тест состоит в следующем. Есть образец - мышление человека, с которым сравнивается мышление машины. Конкретная программа (машина) мыслит, если человек ведя с ней диалог не может определить с кем он общается - с машиной, или с человеком. Может ли компьютерная программа, созданная в рамках алгоритмического подхода, развиваемого в направлении ИИ, пройти тест Тьюринга? Такую программу написать можно. Трудности будут состоять в том, что человек пытаясь "разоблачить" машину будет ориентироваться не только на содержание ответов и вопросов, но и на сложность фраз, экспрессию, эмоциональную окраску текста и т.п. Но эти трудности преодолимы. Будут ли машины (программы) прошедшие тест Тьюринга соперчничать с человеком и стремиться к его подчинению. Нет не будут, если они останутся чисто алгоритмическими пассивными системами, не нмеющими потребностей, целей, желаний и эмоций. Например не станут системами, которые не только умеют выигрывать в шахматы у человека, но и хотят это делать.
Живое и неживое. Будем считать, что мышление - это свойство живого мозга, необходимое для жизни организму, обладающему потребностями, желаниями и управляемым эмоциями поведением. Поэтому, прежде чем говорить о перспективах создания мыслящей машины нужно уточнить принимаемые значения терминамнов живое и неживое. В основе понимания и базовых задач мышления и физических способов их решения мозгом должно лежать определение того, чем принципиально отличается живая материя от неживой. Такое определение дает принцип устойчивого неравновесия Э.С.Бауэра: "все и только живые системы никогда не бывают в равновесии и исполняют за счет своей свободной энергии постоянно работу против равновесия, требуемого законами физики и химии при существующих внешних условиях".
Из закона устойчивого неравновесия следует, что клетки организма должны быть активны постоянно выполнять работу по восстановлению разрушающейся структуры за счет объмена и органического синтеза белка, направленную на сохранение неравновесия и свободной энергии. В отношении нейронов головного мозга к этому добавляется гипотеза о том, что непрерывное уменьшение неравновесия не работающих нейронов сопровождается снижением их возбудимости, а восстановление неравновесия сопровождается повышением возбудимости и обеспечивается как внешними информационными возбуждениями, так и взаимными возбуждениями синергического взаимосодействия. (Эта гипотеза в некоторой степени пересекается с гипотезой Емельянова-Ярославского). Таким образом все клетки живого организма в том числе и клетки мозга должны возбуждаться, т.е. быть постоянно активны. Отдельные эксперименты по моделированию активных нейронных сетей проводились. Полученные результаты носят чисто иллюстративный характер .
Из закона устойчивого неравновесия следует также, что все живое в отличие от объектов неживой природы должно обладать постоянным активным поведением, направленным не на достижение состояния уравновешивания со средой, а на достижение целевых ситуаций удовлетворения непрерывно возникающих и возрастающих потребностей. Поведение должно подчиняться принципу оптимальности maxT [1,2] - максимизации времени пребывания системы внутри области допустимых значений эмоциональных переменных - потребностей. (У человека и некоторых животных к первичным физиологическим потребностям добавляются вторичные, связанные со сложным социальным синергическим способом существования.)
Эмоциональные механизмы управления поведением и работой мозга.
В поведении животных и человека используется локальный выбор. Реализацией локального правила выбора варианта поведения, направленного на выполнение принципа maxT без определения и сравнения всех точных до конца прослеживаемых возможных траекторий поведения, являются эмоциональные оценки. Кроме того, эмоциональную оценку получает состояние и работа нейронных механизмов мозга.
Эмоциональные оценки, используемые для управления поведением, складываются из нескольких компонент. Во-первых, на эмоциональный фон влияет совокупное значение текущих как первичных физиологических, так и вторичных психологических потребностей. Во-вторых, на эмоциональный фон влияет соотношение необходимого и возможного, определяемое скоростями возрастания потребностей и возможными скоростями их уменьшения в достижимых целевых состояниях взаимодействия со средой. Третьей составляющнй является эмоциональная оценка живыми организмами возможных вариантов поведения в ситуации альтернативного выбора. Еще одна составляющая эмоциональной оценки ситуации связана с восприятием среды и зависит от совпадения или не совпадения воспринимаемой органами чуств ситуации с предвидимой.
Таким образом, эмоциональная оценка живым организмом своего состояния, своих возможностей, вариантов поведения и ситуаций взаимодействия со средой очень многопланова. Выразить все это условной единой формулой эмоций, конечно можно, но не представляется полезным. Кроме того, выделенные выше составляющие эмоций проблему не исчерпывают.
Один из иных аспектов эмоций - это мощные эмоциональные состояния, например, страх, горе, восторг, отчаение. Именно ощущения, связанные с этими состояниями и называются эмоциями в обычном житейском плане. Можно предположить, что подобные эмоциональные состояния играют, главным образом, роль прерываний или блокировок механизма эмоционального выбора среди альтернативных линий поведения, в ситуации, когда все действия бесполезны, не нужны или вредны, либо полезны только рефлекторные действия, например, замереть, бежать, кричать и т.п.
Эмоциональные оценки работают и при управлении нейронными механизмами работы мозга. В [1,2] высказывается предположение, что эти оценки используются для поддержания оптимального уровня неравновесия нейронов сети и как следствие работают в процессе восприятия и поведения. Так эмоциональные оценки возникают при формировании в нейронной сети, поддержании и гашении стабильных и кратковременных очагов возбуждения при постановке и решении поведенческих и формальных задач мышления.
Есть еще один аспект эмоций, который иногда противопоставляют поведенческому. Н.Гумилев выразил этот аспект, сказав: "Все это так, но как же быть с зарею, которую ни съесть ни выпить ни поцеловать?" Можно также вспомнить, что почему-то приятно смотреть на пламя костра, морской прибой, приятна или неприятна музыка, абстрактная живопись.
Предположения о механизме и приспособительном смысле подобных не имеющих очевидного поведенческого аспекта эмоциональных реакций можно сформулировать только с учетом представлений о необходимой активной работе нейронов, направленной на поддержание их оптимального неравновесного состояния.
Интеграция эмоциональных оценок и выбор варианта поведения происходит в эмоциональном центре нервной системы. Поведение в кончном счете направлено на максимизацию положительных и минимизацию отрицательных эмоциональных оценок. В животном мире управление поведением, основанное на локальных эмоциональных оценках, как правило работает правильно, реализуя направленность поведения на максимаизацию времени существования, то есть выживание, особи и вида.
У человека в современном цивилизованном обществе с его широкими возможностями формирования и удовлетворения многочисленных не вполне естественных, а часто и вполне неестественных вторичных потребностей, это, к сожалению, не всегда так. Формирование расширенной области управления с добавлением неестественных эмоциональных переменных может приводить к получению неправильного результата управления поведением, то есть принцип maxT, реализуемый в искусственно расширеной области управления, может приводить к результату, в значительной степени не отвечающему задаче максимизации времени существования особи и вида.
Еще значительно хуже и опасней возможность непосредственного химического или электрического воздействия на эмоциональный центр. Такое воздействие может сопровождаться прямым получением положительных эмоций и иногда почти полностью нарушать работу эмоционального центра по управлению поведением. Иллюстрацией этого являются наркомания, а также эксперименты, посвященные исследованиям самораздражения. В этих экспериментах животное может постоянно нажимть на рычаг, посылая через вживленный в мозг электрод идущие в эмоциональный центр электрические импульсы, и делает это до полного истощения, забывая о всех других потребностях.
Можно ли создать машину, обладающую потребностями, желаниями и управляемым эмоциями поведением? Можно. Но потребности будут задаваться извне искусственно. А желания и эмоции будут просто вычисляемыми параметрами, а не живыми ощущениями.
Может ли машина мыслить?
Бурная дискуссия по этому вопросу, проходившая в 60х годах прошлого века ни к каким убедительным результатам не привела просто потому, что не было определено что такое мышление. В конечном счете все свелось к тесту Тьюринга и стало понятно, правда не сразу, что этот тест машина, в принципе, пройти может, но это еще ничего не значит. Для того, чтобы мыслить по-человечески машина должна научиться решать неалгоритмические творческие задачи. Это в рамках рзвиваемого в направлении Искусственный интеллект алгоритмического подхода невозможно. Такая точка зрения отражена в очень популярной книге Р.Пенроуза "Новый ум короля".
Важнейшей функцией мозга, отличающей творческое человеческое мышление от мышления компьютера часто называется сознание. Под сознанием обычно понимается нечто большее, чем просто активация актуального фрагмента нейронной модели проблемной среды. Это нечто большее, как правило, считается интуитивно понятным и четко не определяется. В последнее время вслед за Р.Пенроузом в поисках не определенного четко и невычислимого феномена сознания часто опускаются вглубь нейрона на молекулярный уровень или на уровень нанобиологии и добавляют к нерешенным проблемам мышления нерешенные проблемы квантовой механики. Попутно вновь всплывает ничем не обоснованный и, казалось бы, давно уже похороненый со времен Мак-Каллока и Розенблатта вопрос о биологических вычислениях внутри клетки, но теперь уж

Форум: Проблемы искусственного интеллекта