GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (3)След. > >>   Поиск:  
 Автор Тема: Китайская Комната Серла
Ilya Geller
Сообщений: 3945
Китайская Комната Серла
Добавлено: 11 июл 20 12:32
Кита́йская ко́мната (англ. Chinese room) — мысленный эксперимент в области философии сознания и философии искусственного интеллекта, впервые опубликованный Джоном Сёрлом в 1980 году. Цель эксперимента состоит в опровержении утверждения о том, что цифровая машина, наделённая «искусственным интеллектом» путём её программирования определённым образом, способна обладать сознанием в том же смысле, в котором им обладает человек. Иными словами, целью является опровержение гипотезы так называемого «сильного» искусственного интеллекта и критика теста Тьюринга.

Этот философский аргумент до сих пор является одним из самых обсуждаемых в области когнитивистики. Некоторые исследователи даже определяют когнитивистику как «исследовательский проект по опровержению аргумента Сёрла». Только с 2010 по 2014 год было выпущено более 750 статей в научных журналах, где обсуждается мысленный эксперимент Сёрла[1].

Наблюдатель, знающий китайские иероглифы, через щель передаёт в комнату иероглифы с вопросами, а на выходе ожидает получить осознанный ответ. Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа. Фактически инструкция — это подобие компьютерного алгоритма, а Сёрл исполняет алгоритм так же, как его исполнил бы компьютер[2].

В такой ситуации наблюдатель может отправить в комнату любой осмысленный вопрос (например, «Какой цвет вам больше всего нравится?») и получить на него осмысленный ответ (например, «Синий»), как при разговоре с человеком, который свободно владеет китайской письменностью. При этом сам Сёрл не имеет никаких знаний об иероглифах и не может научиться ими пользоваться, поскольку не может узнать значение даже одного символа. Сёрл не понимает ни изначального вопроса, ни ответа, который сам составил. Наблюдатель, в свою очередь, может быть уверен, что в комнате находится человек, который знает и понимает иероглифы[2].

Таким образом Сёрл заключает, что хотя такая система и может пройти тест Тьюринга, но при этом никакого понимания языка внутри системы не происходит, а значит тест Тьюринга не является адекватной проверкой мыслительных способностей. Доводы Сёрла направлены на критику позиции так называемого «сильного» искусственного интеллекта, согласно которой компьютеры с соответствующей программой на самом деле могут понимать естественный язык, а также обладать другими ментальными способностями, свойственными людям. Гипотеза слабого искусственного интеллекта, напротив, лишь говорит о том, что компьютеры способны имитировать ментальные способности человека, поэтому Сёрла она не интересует.

Формально аргументацию можно представить так:

Если гипотеза «сильного» ИИ верна, тогда существует такая программа для китайской письменности, при запуске которой в вычислительной системе эта система будет понимать китайскую письменность.
Я могу исполнить программу для китайской письменности без понимания этой письменности.
Следовательно, гипотеза «сильного» ИИ неверна.
Второй пункт обосновывается мысленным экспериментом «китайской комнаты». Вывод говорит о том, что запуск такой программы не ведёт к пониманию языка. Более общий вывод Сёрла говорит о том, что любые манипуляции с синтаксическими конструкциями не могут приводить к пониманию[1].


Моя система основана на идее Лексического Клонирования, на том что на основе анализа текстов, произведенных и используемых личностью, возможно воспроизведение его внутреннего мира, мышления компьютером. То что я прав свидетельствуют успехи Waymo, OpenAI, Майкрософта и многих других.
[Ответ][Цитата]
гость
78.29.112.*
На: Китайская Комната Серла
Добавлено: 03 окт 20 10:27
Вывод из "китайской комнаты" некорректен. Человек в комнате играет роль центрального процессора, исполняющего программу - но когда мы говорим "этот человек знает китайский язык", мы вовсе не имеем в виду, что отдельные нейроны головного мозга (своего рода процессоры) этого человека понимают китайский язык. Другими словами, как человек в целом знает китайский язык, не зная его по частям (будучи разделённым на составляющие его тело клеточки), так и "китайская комната" в целом знает китайский язык, не зная его по частям (человек, книга, комната). Если мы извлекли человека из китайской комнаты - мы "убили" китайскую комнату, как если бы извлекли из живого человека все его нейроны (поштучно, отделяя от остальных).
[Ответ][Цитата]
Ilya Geller
Сообщений: 3945
На: Китайская Комната Серла
Добавлено: 03 окт 20 10:46
Я не утверждаю что «Китайская комната» (основанная на моей технологии) что-то знает и/или имеет интеллект. Я утверждаю что создал систему которая подражает человеку, производя такие же как человек действия и результаты. Речь идет только об паразитировании на человеческом знании и мышлении, подражании ему, что отвечает требованиям NIST TREC QA. Вот и все.
Действительно, невозможно в кусок неодушевленного материала вдохнуть жизнь и интеллект.
[Ответ][Цитата]
гость
78.29.112.*
На: Китайская Комната Серла
Добавлено: 03 окт 20 12:43
Цитата:
Автор: Ilya Geller

Действительно, невозможно в кусок неодушевленного материала вдохнуть жизнь и интеллект.

Эх, жаль, нет в тебе никакой романтики... Или ты считаешь, что в тебе есть какие-то "одушевлённые материалы"? Может, ты их и в таблице Менделеева указать можешь? Вот углерод - это одушевлённый или неодушевлённый материал? Кислород, водород? Какие из "одушевлённых материалов" вдыхают в твою мясную тушку "жизнь и интеллект"? Просто интересуюсь.
[Ответ][Цитата]
Luarvik.
Сообщений: 17161
На: Китайская Комната Серла
Добавлено: 03 окт 20 13:37
Изменено: 03 окт 20 13:41
Цитата:
Автор: 78.29.112
Другими словами, как человек в целом знает китайский язык, не зная его по частям (будучи разделённым на составляющие его тело клеточки), так и "китайская комната" в целом знает китайский язык, не зная его по частям (человек, книга, комната). Если мы извлекли человека из китайской комнаты - мы "убили" китайскую комнату, как если бы извлекли из живого человека все его нейроны (поштучно, отделяя от остальных).

"человек, книга, комната" - список неполный. За скобками как-то стыдливо остался - или спрятался, или намеренно был обойден вниманием - создатель, т.е автор инструкций(программы), которые(-ую) [лишь] ИСПОЛНЯЕТ(!) человек в комнате...
"Китайская комната" - типичный фокус, рассчитанный на невнимательность. Почему такие фокусы удаются ? Только лишь потому, что человек не замечает, в каком месте его обманывают. Что-то скрыто, какая-то важная деталь, ключик и всё - приплыли ! "Ловкость рук и никакого мошенства", как говорится.
Здесь в самую пору бы задуматься кое-кому, что вера в чисто алгоритмический интеллект - идиотизм кухонного разлива, но нет же - приход у этой церкви весьма обширен, стада верующих тучны и плодовиты на изощренные оправдания.
..
Ничего ваша комната не понимает и понимать не может, по определению (читайте условия задачи, черт возьми !).
Если кто и понимает при таком раскладе, то это в лучшем случае система, состоящая из автора инструкций, несомненно знающего китайский язык, и исполнительного аппарата, называемого "китайской комнатой". В худшем случае (для ревностных прихожан, а попросту говоря - для баранов) аппарат сей вполне можно заменить любым другим или вообще отбросить за ненадобностью. Что остается ? Точнее - КТО ?

Сёрл прав не только относительно синтаксических конструкций("что"), но и по отн. к [алгоритмическим] манипуляциям("как") с ними - ни то, ни другое, ни по-отдельности, ни вместе взятое, не требует ни интеллекта, ни хоть какого бы то ни было, даже минимально-минимального понимания.
[Ответ][Цитата]
Ilya Geller
Сообщений: 3945
На: Китайская Комната Серла
Добавлено: 03 окт 20 13:43
Не интересует почему и как; задача — найти адекватное решение проблеме NIST TREC QA.
Решение найдено, обнаружено как сделать язык понятным компьютеру.
[Ответ][Цитата]
Luarvik.
Сообщений: 17161
На: Китайская Комната Серла
Добавлено: 03 окт 20 13:48
Изменено: 03 окт 20 13:48
Единственное, в чем Сёрл прокололся, так это в том, что не объяснил, что следует понимать под пониманием, что естественным образом порождает как вопиющую двусмысленность, так и совершенно непринужденную произвольность в толковании.
Как говорится - "Следите за руками !"
[Ответ][Цитата]
Ilya Geller
Сообщений: 3945
На: Китайская Комната Серла
Добавлено: 03 окт 20 13:53
Понимание есть совпадение сегментов текста и таковых в мозгу того кто текст читает.
[Ответ][Цитата]
Luarvik.
Сообщений: 17161
На: Китайская Комната Серла
Добавлено: 03 окт 20 13:57
Что, собственно, подразумевается под "пониманием языка" ?.. а почему только языка ?
Вот летит какому-нибудь долбоёбу кирпич на голову, он это видит и уворачивается, мы говорим - понимает, и что вокруг происходит, и что делать, и каковы последствия, если... если вовремя не сообразить.
Почему, с какого такого бодуна не у одного поколения "жаждущих искусственного", понимание сосредоточено только лишь на лингвистике ? А всего остального разве не существует ? Разве не было ничего до языка ?
[Ответ][Цитата]
Luarvik.
Сообщений: 17161
На: Китайская Комната Серла
Добавлено: 03 окт 20 13:58
Изменено: 03 окт 20 14:14
Цитата:
Автор: Ilya Geller
Понимание есть совпадение сегментов текста и таковых в мозгу того кто текст читает.

Чего ?!

Иля, ведь очень легко можно устроить так, что если ты, скажем, даже просто пёрнешь вот в эту штуку



, то всегда найдется тот, кто громогласно возопит- "Утка! Утка!"
Мало того, через некоторое время этот кто-то будет утверждать, что не только слышал утку, но и ВИДЕЛ ее собственными глазами и что хуже всего - у него появится целое стадо последователей, которые будут тупо повторять и повторять за ним, как заведённые, изо дня в день и из года в год, не особо напрягая извилины.
[Ответ][Цитата]
mss
Сообщений: 2605
На: Китайская Комната Серла
Добавлено: 03 окт 20 14:18
Цитата:
Автор: Luarvik.

Что, собственно, подразумевается под "пониманием языка" ?.. а почему только языка ?
Вот летит какому-нибудь долбоёбу кирпич на голову, он это видит и уворачивается, мы говорим - понимает, и что вокруг происходит, и что делать, и каковы последствия, если... если вовремя не сообразить.
Почему, с какого такого бодуна не у одного поколения "жаждущих искусственного", понимание сосредоточено только лишь на лингвистике ? А всего остального разве не существует ? Разве не было ничего до языка ?


Вместо понимает мы можем сказать и знает - знает что делать, знает какие последствия но не понимает по чему. Это про тот случай когда человек обучается (знаниям) без понимания путём зубрёжки. Пологаю что животные скорее всего "зубрят" без понимания.

И заметьте - ни слова про язык и речь.
[Ответ][Цитата]
Ilya Geller
Сообщений: 3945
На: Китайская Комната Серла
Добавлено: 03 окт 20 14:20
Повторяю? NIST TREC QA поставил задачу нахождения ответов в тексте, на поставленный компу вопрос. Задача решена.
Если вы считаете что этого недостаточно — барабан вам на шею! Вперед! Формулируйте задачу, находите в России академическую контору которая организует конкурс на ее решение (по примеру NIST TREC).
[Ответ][Цитата]
Luarvik.
Сообщений: 17161
На: Китайская Комната Серла
Добавлено: 03 окт 20 14:32
Цитата:
Автор: mss
И заметьте - ни слова про язык и речь.

Это к вопросу о том, чем обучение [с пониманием] отличается от банальной дрессировки.
Цитата:
Автор: mss
Вместо понимает мы можем сказать и знает - знает что делать, знает какие последствия но не понимает по чему.

Это тонкий вопрос: можно ли говорить, что кто-то что-то ДЕЙСТВИТЕЛЬНО знает, если он не понимает того, что якобы знает ? При всем при том, что эти "знания" он может и передать дальше т.ск. "по кругу". А там то же самое - тупо зазубрить, так же тупо исполнить и передать далее, без какого бы то ни было понимания. Между прочим, такой метод передачи "знаний" в чел. истории практиковался довольно интенсивно, да и в наши дни используется для... (NB!) сокрытия информации, как если бы Вас попросили передать кому-то зашифрованную записку.
Да, иногда бывает так, что мы как будто знаем что делать и делаем, и получается правильно и адекватно, но не всегда знаем, ПОЧЕМУ именно так нужно делать. Это не всегда нужно, если затачиваться исключительно на результат.
[Ответ][Цитата]
Luarvik.
Сообщений: 17161
На: Китайская Комната Серла
Добавлено: 03 окт 20 15:50
Цитата:
Автор: 78.29.112
Ну и кто в таком случае является создателем инструкций человеческого мозга? Эволюция с её естественным отбором ничего не знает ни про китайцев, ни про китайский язык, она только перемешивает гены и отбраковывает неудачные комбинации. Учитель китайского языка не изобретал китайский язык, он лишь ретранслирует знания, полученные от своего учителя, а тот - от своего, и так по цепочке до прапрапраучителя китайского (древнекитайского) языка. Ну да, нельзя забывать, что язык - живая система, и развивается со временем, каждый человек делает свой вклад в его развитие; но ты же утверждаешь существование единственного СОЗДАТЕЛЯ, отрицая тем самым естественное эволюционное развитие, не так ли? И кстати, почему книга правил в китайской комнате не может наполнять сама себя? Пусть там будут правила, необходимые для обучению китайскому языку - и тогда никакой всемогущий и всезнающий создатель (лишняя сущность) больше не будет нужен. Но да, Сёрл этого не предусмотрел, иначе его эксперимент приводил бы к совершенно противоположным результатам...

Я так думаю, что Вы просто не до конца врубаетесь, о чем речь.
А между тем, речь идет о банальном программировании "китайской комнаты".
Программы(алгоритмы) создаются ?
Создаются.
Скульптор не создает камень, но только придает ему необходимую форму.
Здесь та же история: роль программиста-создателя - формообразование... из "камня", который уже есть внутри. Свой собственный "гранит науки", добытый трудами тяжкими, или доставшийся по наследству - без разницы.
[Ответ][Цитата]
mss
Сообщений: 2605
На: Китайская Комната Серла
Добавлено: 03 окт 20 15:57
Изменено: 03 окт 20 15:57
Цитата:
Автор: Luarvik.
Здесь нужно разбираться не с тем, как мы ОПИСЫВАЕМ происходящее при понимании, а с тем, что на само деле происходит в мозгах за очень короткое время


Есть метода по проще. Я на тэде слыхал как один хрен рассказывал, что в момент понимания в случайной активности нейронов вдруг возникала синхронизация. Не во всей голове конечно но по райёнам. Скажем если слышать не знакомый язык височная активность не синхронизирована. Если знакомый язык но не понятно что, то синхронизировалась только височная. Если понятен смысл то вместе с височной синхронизировалась и теменная. Короче чем глубже понимание тем всё более глубокие области начинали синхронизироваться.

Вот что происходит в мозгах за очень короткое время! И что это даёт? Как проясняет суть понимания?

Ответ - да никак.
[Ответ][Цитата]
 Стр.1 (3): [1]  2  3След. > >>