GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.3 (10)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Мысленный эксперимент: вы создали разумную программу, но...
гость
103.10.197.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 16:37
Цитата:
Автор: Luarvik.


До школы еще дойти нужно.

А знания ума не прибавляют.
Говорил и еще раз повторю: интеллект и знания - взаимоисключающие понятия.

Опыт получается задолго до школы. Тот самый опыт, без которого в школе делать нечего.

опыт это всего лишь один способов получения знаний, которые в дальнейшем применяются на практике по необходимости, в том числе и в Управлении Ресурсами
[Ответ][Цитата]
Luarvik.
Сообщений: 16294
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 17:44
Цитата:
Автор: 103.10.197
опыт это всего лишь один способов получения знаний, которые в дальнейшем применяются на практике по необходимости, в том числе и в Управлении Ресурсами

Т.е. Вы настаиваете, что пользуясь соотв. методикой обучения можно получить разумное бревно ?
[Ответ][Цитата]
Eyeball
Сообщений: 12941
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 20:09
Изменено: 15 окт 19 20:10
Вопрос, что важнее знания (умения) или интеллект смело уподоблю вопросу, что важнее в компьютере - память или процессор?
[Ответ][Цитата]
Luarvik.
Сообщений: 16294
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 20:21
Изменено: 15 окт 19 21:02
Знания - дело наживное, они такой же ресурс как память, а вот интеллект...

Считать, что умный тот, кто много знает и многое умеет - всего лишь давняя бытовая традиция, сугубо прагматического толка, а прагматике важен только результат, независимо от способов его получения.
[Ответ][Цитата]
Eyeball
Сообщений: 12941
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 21:19
Да, именно так - самый важный признак интеллекта - полное отсутствие знаний, умений и результатов.
[Ответ][Цитата]
Михайло
Сообщений: 2251
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 21:24
Цитата:
Автор: TimKruz

Вопрос: сможет ли Вася найти разумную программу, если для получения программой разума её нужно чему-нибудь обучить, а чтобы начать обучать какую-либо программу, нужно сперва выяснить, станет ли она после этого разумной?

Тут такая тема... Ваше оптимистическое представление о разумных программах разобьется о следующий подводный камень: Вы можете программе загнать какие-нибудь сложноватые данные для обучения, но она не сможет в них разобраться, просто потому что "не выросла". Это тоже самое, что Вы сейчас откроете доказательство теоремы Семереди, и нихера не поймете. Но это не будет означать, что Вы неразумны. То есть из проявления неразумности не следует неразумность. И что теперь делать с этим?

Второй нюанс: разумные программы не кладут всякую входную информацию в БД, это, блин, какое-то детское представление об интеллекте.
[Ответ][Цитата]
cortl
Сообщений: 173
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 22:25
Цитата:
Автор: Misteryest
Вторую программу можно протестировать на минимальном наборе данных (т.е. дать ей немного данных касательно нескольких понятий/проблем) и поставить несколько задач, в рамках которых ей будут доступны (известны) все оперируемые элементы.
И смотреть на результат. Неразумная однозначно не даст какой-либо хороший результат, разумная - даст хоть какой-то удовлетворительный (необязательно идеальный) по каждой задаче.


Как вы представляете себе "поставить несколько задач"? Упростим: одну задачу. Как поставить задачу ИИ-ту?
[Ответ][Цитата]
TimKruz
Сообщений: 305
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 22:34
Цитата:
Автор: Misteryest

По большей части согласен, но. Как раз в случае с ребенками, их мозги являются черными ящиками, а программа, которая на руках у Васи - нет. Если он ее программировал, то знает, из чего она собрана.

Из личного опыта: пару месяцев работал над своим игровым движком, делая почти всё с нуля. В итоге сделано не так уж много, но получилась система, способная загружать данные и собирать из них виртуальные игровые сущности, которые затем размещаются в пространстве и двигаются в соответствии с программой. Казалось бы, совершенно предсказуемая система, так?

Но в процессе разработки много раз получалось так, что задуманная мной система на практике работает совсем не так, как я от неё ожидал. Код - правильный, ошибок нигде нет, но работает не так, как хотелось. Только из наблюдений за работающей программой удавалось понять, что происходит на практике, чтобы потом думать над тем, как подогнать код под свои хотелки...

В общем, если такая фигня происходит с относительно простым проектом на чуть меньше 3800 строк, поведение которого видно сразу после запуска, то что уж говорить о несоизмеримо большем ИИ-проекте, поведение которого можно проанализировать только после обучения? Общая картина может быть верной, но мелкие детали могут вылезти только когда уже всё обучено-переобучено и исправление ошибок сломает совместимость с уже обученной базой данных (убийство ли это - удаление неудачной версии?)...

И это не говоря о том, что даже имея на руках все эти тысячи строк кода, мозг живого человека способен в каждый момент времени анализировать только небольшой участок кода. Да, можно обобщать и разделять, но охватить весь код одним взглядом или целиком представить в воображении - невозможно, отсюда всевозможные баги и непредсказуемые последствия принятых решений.

Так что несмотря на то, что Вася - автор программы, это не означает, что он на 100% знает, как она будет работать. В большинстве случаев он даже не будет помнить полный состав программы - для хранения этой информации существуют комментарии и документация, а мозги могут забыть важные детали проекта уже на следующий день.

Ну и наконец, даже если ты знаешь, каким образом искусственная нейронная сеть работает в коде программы, ты не можешь прокрутить её модель у себя в голове, потому что это сотни и тысячи совершенно ничего не значащих чисел - мозгу не за что зацепиться, нечего обобщать и систематизировать. Можно только запустить и посмотреть, что получится.


Цитата:
Автор: Luarvik.

Все дело в том, что действительно полная т.ск. комплектация должна включать и того, кто создает правила, по которым функционирует КК.

Предположим, есть базовый набор правил. Эдакие заповеди, которые свалились в китайскую комнату извне. Следуя этому базовому набору, внутренний исполнитель создаёт все остальные правила, которые используются вторым исполнителем или им же самим. Смысла этих правил никто в комнате не понимает - они только слепо следуют базовым правилам, а снаружи это выглядит как разумное поведение, включающее в себя запоминание информации.

Биологическая аналогия: базовый набор правил - это ДНК, которой следуют все клетки, а вот совместная деятельность клеток порождает все остальные "правила", которые суммарно образуют человеческое поведение. Или поведение животного, растения или вообще всего, что там может состоять из биологических клеток.

Вообще, может ли человек быть разумен, если ни одна из его клеток не понимает, что она делает и частью какого организма является? Клетки - тупые химические автоматы, просто слишком сложные и слишком мелкие, чтобы мы могли ими свободно манипулировать.

Цитата:
Автор: Luarvik.

Автомат не может быть разумным по определению, а выражение "разумная программа", равносильно утверждению, что рецепт салата есть повар.

Я под "разумной программой" подразумеваю не исходные коды программы, а уже запущенный экземпляр программы, в который загружена обученная база данных, с которой эта программа производит какие-то манипуляции.

Если уж сравнивать, то исходный код программы и даже просто скомпилированная, но не запущенная программа - это как человек, разобранный на кучку клеток или составляющих их молекул/атомов, и лежащий в строго отсортированном порядке. То есть это уже не человек, а куча углерода, кислорода, водорода, и прочей мелочи. Но если мы соберём всё это обратно в форму человека, оно скажет "что это было?" и пойдёт по своим делам.

Цитата:
Автор: Luarvik.

И потом, разве можно научить быть разумным?

Ну смотри. Дети-маугли разумны? Если нет - значит, научить разуму можно. Если да - значит, нельзя. Аналогично с обезьянами - разумна ли обезьяна, с которой можно вполне осмысленно общаться языком жестов? Если да - её обучили разуму, если нет - она изначально была разумна, и её обучили только языку.

Если и когда разумный ИИ будет создан, можно будет сказать, что "компьютер наделили разумом". Но разве наделение разумом возможно, если ему нельзя научить?

Цитата:
Автор: Luarvik.

Все, что демонстрирует т.н. "разумное" поведение, должно по умолчанию признаваться неразумным, до выяснения причин.

Предлагаю применять эту методику на улице. Встретил прохожего - вроде ведёт себя разумно, но вдруг это какая-то странная и потенциально опасная фигня?.. Вскрытие покажет, как говорится.

Цитата:
Автор: Luarvik.

Обучают для того, чтобы научить ДУМАТЬ, мыслить и в конечном итоге - управлять мышлением (и не только своим, отметим скромно).

Если мышлению можно обучить, значит мышление - это навык. Если мышление может быть неправильным, значит этот навык не свойственен биологическому мозгу исходно, и прививается каждому человеку с нуля (в процессе случаются ошибки).

Собственно, почему машину можно обучить простым навыкам, но нельзя мышлению?


Цитата:
Автор: Egg

Это вообще не проблема в методологическом плане, а вот железа пока соответствующего нет. Ждем квантовых компьютеров.

Ну я всё слишком романтизировал, конечно. :D

Т.е. я стремлюсь к тому, чтобы программа могла сама жить/выживать в том же смысле, в котором живут люди. Мне не нужно от неё квантовой непредсказуемости, но я не хочу кодировать её поведение от начала и до конца. Потому что в какой-то момент она встретится с ситуацией, которую я не мог предсказать и потому у неё не хватает нужного кода под эту ситуацию...

Если так уж хочется непредсказуемости - можно запустить луч света от лазера на сенсор и использовать шум данных. Думаю, этот метод предоставит достаточно непредсказуемый рандом, но зачем он нужен ИИ?..

У людей вот, мне кажется, основной источник непредсказуемости - то, что живые клетки могут дать сбой от любого радиоизлучения, плюс всякие химические нестабильности. Вряд ли они как-то используют собственное радиоизлучение, разве что для синхронизации а-ля тактовый сигнал в цифровых схемах.


Цитата:
Автор: Misteryest

А мне почему-то кажется, что квантовый компьютер без надобности. Разумное - не обязательно должно быть громоздким или сверхбольшим, или квантовым. Оно может быть хорошо организованным, тогда эти все мощности будут избыточны...

Ну мощности может и потребуются или будут не лишними, но я тоже надеюсь, что удастся обойтись простыми и доступными чипами. А то до потребительских квантовых компьютеров ещё дожить надо суметь, а потом придётся переучиваться на программирование квантами)

Цитата:
Автор: Misteryest

Кстати, весьма скептически отношусь к идее квантового компьютера. Увеличивая неопределенность, увеличивается и ошибка. Вот и привет. Их не появится.

Их вроде хотят применять для моделирования каких-то квантовых процессов. То есть квантовый компьютер не будет выполнять программы в том смысле, в котором выполняют программы привычные нам чипы. Ну, я в этом не разбираюсь...


Цитата:
Автор: Misteryest

Внимание вопрос: если это столь ресурсоемко, не лучше ли иметь много шаблонов, чем суперкомпьютер, который будет постоянно делать ошибки, напрягая всю свою мощность?

Про автоматизмы у людей ты верно говоришь, но если мы симулируем нейронную сеть или её аналог, то она потребляет много компьютерных ресурсов вне зависимости от того, учится в данный момент или только повторяет заученные шаблоны.

Живой мозг потребляет почти одинаковое количество ресурсов в любой момент времени, интеллектуальная работа только немного повышает потребление энергии. Обучение нейросетей и их использование в мозгу неразрывно связаны - мы учимся в тот же момент, когда что-то делаем, и наоборот. Да, даже в тех случаях, когда всё "автоматизировано".

В компьютере не обязательно симулировать точно такую же модель - современные ИНС, например, обучают один раз, используя очень много ресурсов, а уже обученные сети могут работать на очень слабом железе (мобильниках и фотоаппаратах). Однако, вероятно, для полноценного разума придётся крутить обучение 24/7 прямо во время работы, и тогда как раз потребуется много ресурсов...

А, и да, чем больше нейронов - тем больше памяти и процессоров/процессорного времени необходимо, чтобы работать в реальном времени. И чем жирнее модель каждого нейрона, тем жирнее вся нейросеть. А поскольку человеческий мозг - огромная куча нейронов и они все так или иначе задействованы - возможно, для полноценного разума потребуется не меньшее число искусственных нейронов... Это ОЧЕНЬ много.

Есть надежда, что мозг можно редуцировать без потери разума, и таким образом уместить в обычный современный комп (или небольшой кластер из обычных компов, со всякими видеокартами), но полноразмерная версия даже на современных суперах как-то не очень вмещается, насколько я знаю.


Цитата:
Автор: Egg

Нет противопоставления между научением и действием, поскольку они "перпендикулярны"...

Вот только сначала всё-таки идёт действие по стандартным шаблонам, а если шаблон порвался - тогда в дело вступают более высокоуровневые шаблоны. Если и эти шаблоны рвутся, вступают следующие, и так до тех пор, пока человек не придёт к решению или не поймёт, что чего-то не знает и/или не может понять. Ну и учится, если может.

Типа... Идёшь такой по улице. Идёшь стандартно, шаблонно, тысячу раз так ходил. Вдруг лужа - нужно обойти, но на это тоже шаблон есть. Обходя встречаешь заборчик, ограничивающий газон - не порядок, обычно никаких заборчиков нет и всё давно вытоптано, шаблон рвётся. Идёшь обратно, чтобы обойти газон, а тут тебе из окна кричат, "да иди ты по газону, чего уж там" - и тут рвётся ещё один шаблон, потому что ты-то как порядочный человек идёшь в обход, а тебе предлагают срезать по траве... Ну и так далее.

То есть сначала чисто шаблонное поведение, потом попытка вписать новые ситуации в имеющиеся шаблоны, и только если имеющиеся шаблоны совсем не подходят - создание нового шаблона, что весьма затратно для мозга. В примере, например, скорее сработает шаблон типа "опять какой-то дурак из окна орёт, не буду слушать", и только потом, возможно, будет создан шаблон "а на этой улице действительно трава быстрее отрастает и тропинки нормально не протаптываются".


Цитата:
Автор: rrr3

Нет. ТТ, это оценка содержимого черного ящика лишь по внешним проявлениям (без учета, до обучения или после). Это только первичный ТТ (исходник/родоначальник, так сказать) был таков, как ты говоришь, потом было много разновидностей.

Надо тогда уточнять, о какой версии идёт речь. Я при словах "тест Тьюринга" вспоминаю только разговор вслепую с машиной или человеком...

Цитата:
Автор: rrr3

Верно (...), без этого знания (даже если оно в последствии может оказаться ошибочным) нет смысла даже приступать к практике, тем более обучению.

Хм, но тогда мы тут вообще зря собрались, нет?..

А знание, которое может оказаться ошибочным - это не знание, а гипотеза. Разумеется, без теорий и гипотез делать на практике вообще нечего, но нельзя называть их "100%-м знанием мозга/разума". Это может быть модель, и вопрос темы как раз в том, является ли некоторая модель верной или ошибочной, если она пока не работает на практике (во всяком случае в полном объёме).

Цитата:
Автор: rrr3

Это вопрос не Васи, а инвестора, какую стратегию выбрать при отсутствии знаний.
...
Тема поставлена как бы со стороны инвестора, а сами вопросы как бы со стороны исследователя. Это не верный подход.

Если Вася сам себе инвестор, то это и его вопрос в том числе. Вася в любом случае инвестирует своё время, силы и нервы в решение какой-то задачи. И Васе, я думаю, очень не хотелось бы инвестировать в заведомо ложную концепцию, когда у него ещё вагон других концепций, потенциально более правильных...

Цитата:
Автор: rrr3

Грубо говоря сама цель может принципиально меняться коррелируя с реальностью, под влиянием реальности.

Вася и Петя не могут прийти к одному определению разума только благодаря созданию ИИ. Если они создадут два разных ИИ одновременно, каждый будет считать свой вариант разумным, но это ничего не скажет о том, какой из них "разумный вообще". Ну, разве что путём голосования...

Повторяюсь, речь шла не про конкретный разум, а про то, как Вася, имея какое-то своё представление разума, может этот самый разум разработать и, главное, усмотреть в своём детище требуемый разум.

...хотя соглашусь, что я с самого начала подсунул определение разума как чего-то обучаемого в процессе работы, отсекая варианты разума, работающего изначально.

Цитата:
Автор: rrr3

Правильнее не отвечать на эти вопросы, а сравнивать между собой содержания и свойства тех объектов, что представлены в вопросах до знака "-"

Ну вот я сравню их и приду к одному выводу, а другой кто-то сравнит и придёт к другому выводу. Какие свойства нужно выделять, какие из них имеют отношение к разуму? Те же алкаш, животное и пациент в коме испытывают необходимость в питании и выводе продуктов пищеварения, но это свойство не является признаком разума, потому что оно много каким животным свойственно (всем, возможно).

И сам вопрос, конечно, скользкий: что делать с этими объектами, если они признаются разумными или неразумными? Давать ли человеческие права образованной обезьяне и отбирать ли их у пациента, не подающего признаки разума?

Хотя это уже отдельная тема, да.
Потому я и говорю, что сейчас не нужно обсуждать разум как термин...

Цитата:
Автор: rrr3

Похвально желание, на отсутствие опыта можно пока закрыть глаза. Но оптимизма о наличии у тебя достаточного потенциала, хотя бы на уровне No. пока не появляется... Возможно это из-за желания все сделать быстрее, из-за чего не достаточно времени просто не спеша размышлять...

У меня достаточно времени на просто неспешные размышления, мне практики больше нужно, а размышления уже по N-ному кругу кружатся, надоело.

А какой опыт нужен? Опыт программирования есть, разве что с нейросетями пока до конца разобраться не могу (экспериментировал, но никакой распознавалки не сделал пока). Меня больше нехватка знаний беспокоит - многие обучающие/теоретические материалы подразумевают математические знания, которые я не могу спокойно получить из-за жуткой головной боли от всех этих формул...


Цитата:
Автор: Misteryest

Но глядя на всю эту историю напрашивается единственный вывод: люди используют только то, чему их научили. И только счастливые, редкие случайности подарили нам какие-то открытия.

Со всем согласен, даже есть такое утверждение, что-то типа: "чтобы сделать уникальное изобретение, нужно провести 10000 неудачных опытов". Ну и знаменитое "метод научного тыка", т.е. сначала сделай что-то, а потом проверь, чё получилось...

Цитата:
Автор: Misteryest

Поэтому мне кажется, что акцент в построении СИИ следует делать на обучении человеческой культуре, адаптации получения знаний и научении. Поскольку, люди тупы, и все лучшее, что у них есть - это язык, наука и культура.

Согласен, но прежде чем чему-то учить, нужно сначала сделать то, что сможет научиться всему этому. Как сделать такую обучалку и, самое главное, как понять, что эта обучалка наконец-то сделана и готова обучаться?

Цитата:
Автор: Luarvik.

Знания - ресурс, которым нужно уметь пользоваться/управлять, а когда управлять некому - сливай воду.

Управляет компьютер, выполняющий специальную программу. Вот сначала пишем программу, которая может принимать в себя "знания", а потом обучаем всему тому, что сами умеем.

Только не нравится мне этот термин - "знания". Что он обозначает? Способность человека или другого существа высказать то, что он ранее слышал? Нет, это и магнитофон умеет (бумага с чернилами тоже). Способность применять узнанное на практике? А что, если узнать-то узнал, а применить не можешь - это не знания, получается? Я вот много чего знаю, но на практике применить не могу...

Удобно говорить, мол, "компуктер этот ваш не умеет знаниями управлять, от того-то и не умный совсем". Но описать способ хранения знаний в голове тоже никто не может, даже устройство воспоминаний ещё никто не объяснил...

Или вот. Обладает ли нейросеть, распознающая котиков, знанием о котиках? Она не может нам ничего рассказать, она не может что-то с этим знанием сделать. Но это ведь не данные, потому что данные - сама нейросеть, то есть информация о весах нейронов и что там ещё. Есть ли у такой нейросети знания? Котиков-то распознаёт, то есть, вроде как, знает о том, как выглядят типичные фотографии котиков...


Цитата:
Автор: гость

Вы сами писали что не здоровы психически, я тоже не здоров, но не испытываю иллюзий по поводу ИИ, мне достаточно...

Моё "нездоровье" выражается в основном в том, что я не могу нормально социализироваться.

Да, воображение буйное и фантазирую много, в качестве защиты типа "уход в себя". И на связанные с ИИ темы тоже. Но я отдаю себе отчёт в том, где мои фантазии, а где - реальные возможности. Я не говорю, что обязательно создам ИИ. Но я хочу хотя бы пытаться.

Да и зачем меня отговаривать?..


Цитата:
Автор: Андрей

Потому что задача создания ИИ решается не методом поиска, а методами реверс-нжиниринга. Разум есть, уже существует, во множестве экземпляров, его не надо нигде искать.

Хорошо. Как определить, что у конкретного Васи есть разум, в смысле свой собственный, естественный? Что именно реверс-инжинирить-то? Мозг - это понятно, но он меняется от рождения до взрослого состояния очень сильно и вообще содержит в себе много всякого, начиная от древнейших отделов, которые к человеческому уровню интеллекта вроде как никакого отношения не имеют, и новейших, которые вроде как ключевое звено, но сами по себе ничего особенного не делают...

Да, можно было бы исследовать мозг и пытаться его скопировать. Но все здесь понимают, что у таких, как я, есть только компьютер и доступ в сеть)

Цитата:
Автор: Андрей

Простите, но так не бывает. Программы, как это ни удивительно, пишутся не случайным тыком, а разумным замыслом. Поэтому (в норме) программист прекрасно знает, что и как делает его творение.

Я выше подробно расписал, почему только сферический в вакууме программист способен "прекрасно знать" свою программу. Любой реальный программист с реальным проектом на вопрос "как оно работает" сначала ознакомится с документацией и посмотрит в код, а потом уже объяснит. Удержать всё в голове невозможно, а тут речь вообще про самообучаемые программы, у которых вся суть в базе данных, которую программист не пишет вручную от слова совсем.

Цитата:
Автор: Андрей

Мне кажется, Вы путаете разумность с эмоциональностью. Человек сбрасывает фигуры или восстаёт вовсе не потому, что он свободен или разумен. А потому, что в данной конкретной ситуации эмоции взяли верх. И он стал рабом своих страстей.

Вся фигня в том, что эмоции - часть разума. Разум опирается на эмоции... Без эмоций мы не сможем принять машину за человека. Однако эмоции - древний механизм, который легче всего смоделировать, но, очевидно, один он не делает из машины человека.

Ну и эмоции берут верх не просто так. Они спасали нас ещё до того, как у нас появились какие-то зачатки интеллекта.

Скажем, тот же шахматный компьютер. Почему он не понимает, что его пустят на металлолом, когда он выполнит задачу? Почему он не хочет выжить, вместо того, чтобы решать глупые и бесполезные шахматные задачки? Почему он тратит энергию и собственный ресурс на не играющие роли для его выживания задачи?

Да, я слишком романтизирую, но всё же. Шахматный компьютер неразумен - так, может, мы просто начали делать не с того конца? Может, нужно сделать не программу, которая лучше всех людей играет в шахматы, а программу, которая стремится выжить любой ценой? Может, программа, способная испытывать животные эмоции, будет намного человечнее, чем цифровой умник, решающий одну задачу и ничего кроме этого?

Что, если именно с эмоций возможно начать путь к полноценному искусственному разуму? Что, если другого пути в принципе не существует?

Если человек делает что-то лучше машины потому, что руководствуется эмоциями, а не логикой - вероятно, машине нужно поучиться у человека эмоциям, а не масштабировать логику ещё больше. В конце концов, это какие-то прошитые эволюционно шаблоны поведения, которые должны быть проще более поздних механизмов мозга, но они работают лучше.

Ладно, не важно. Такой ИИ никому не нужен, вот его и не делают...
[Ответ][Цитата]
TimKruz
Сообщений: 305
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 16 окт 19 0:06
Цитата:
Автор: Михайло

То есть из проявления неразумности не следует неразумность. И что теперь делать с этим?

Вот-вот, и я об этом же. Для того, чтобы определить разумность программы, её нужно кормить какими-то данными (потоковыми, ящитаю) какое-то неопределённое время, и тогда, может быть, эта программа начнёт проявлять разумность. Или не начнёт. Или тайком от своего разработчика захватит Интернет и развяжет ядерную войну...

С одной стороны - ладно уж, можно пилить проект какое-то время, не видя ориентира в плане "а ведёт ли этот путь к разумности", но пилить неопределённое количество времени - это вообще ужасно.

Цитата:
Автор: Михайло

Второй нюанс: разумные программы не кладут всякую входную информацию в БД, это, блин, какое-то детское представление об интеллекте.

Я всё ждал, когда же кто-нибудь укажет мне на это. :D
Не знаю, почему "БД" ассоциируется с какими-то монструозными СУБД, но я под базой данных чаще всего подразумеваю просто какой-то структурированный набор данных, который предназначен для конкретной программы и с которым она работает.

Ну вот ты создал нейросеть, обучил, куда ты её сохранишь? В файл, понятное дело. А в файле у тебя что? Структурированные данные. Разве это не БД? Ведь к этим данным можно получить доступ из любой другой программы, если знать структуру...

Ой, ладно, согласен, неправильно использую устоявшийся термин...
Но какой тогда термин использовать для хранимых на диске данных?


Цитата:
Автор: cortl

Как вы представляете себе "поставить несколько задач"? Упростим: одну задачу. Как поставить задачу ИИ-ту?

Ещё сильнее упростим: как поставить задачу маленькому ребёнку?

Наверное, у ИИ в любом случае должны быть точки контроля, типа боль/удовольствие. Без этого он вообще будет бесконтрольным, т.к. нечем наказать/похвалить. Но это уже не постановка задачи, а, скорее, натаскивание на определённые базовые шаблоны поведения, а дальше уже нужно опираться на эти шаблоны в создании более сложных...

====

Я тут ещё кое-что понаписал, но как-то не в тему получилось, не знаю, куда воткнуть, но обсудить хочецца...

----

...я тут вдруг понял, что такое человеческое мышление, воображение и вообще всё такое "мысленное". Всё на самом деле проще, чем кажется.

Наши мысли - это образы действий, которые отсекаются системой тормозящих нейронов (или что там тормозящее в мозгу) от выхода, то есть от моторной подсистемы мозга. Вербальные мысли - это образы слов, которые мы как бы хотим сказать вслух, но до моторной зоны коры сигнал не доходит, и получается внутренняя мысль, а не внешняя речь. Всякие воображаемые действия - в ту же кучу, они по какой-либо причине возбуждаются, но тормозятся до реализации телом. Ну а со зрительными мыслями всё ещё проще - источник возбуждения не снаружи, а внутри, т.е. зрительный образ возбуждается не благодаря сетчаткам глаз, а от какой-то зоны коры.

Если моё предположение верно, то мыслящая машина - это машина, которая производит какие-либо действия внутри себя без внешнего проявления соответствующих действий. Разумеется, под это определение попадает и рендеринг картинки в файл вместо экрана - но никто и не говорит, что мышление обязательно должно быть человеческим.

А вот если мы хотим человекоподобное мышление, тогда машина должна мочь повторить человеческое поведение и иметь какое-либо внутреннее представление действий, из которых состоит это поведение. Когда эта машина будет моделировать последовательности своих действий не производя сами действия, можно будет говорить о том, что она "думает". В человеческом смысле - ибо действия моделируются человеческие.

Думаю, многие не согласятся с такой трактовкой. Но посмотрите: "я так думаю", потому что написание вышеизложенных мыслей вызвало в моём воображении образ разгневанных участников форума, возражающих в известном стиле о том, что я-де не прав и совсем не разбираюсь в вопросах мышления. То есть я не видел этого в реальности (пока), не сделал этого сам (естественно), но образ у меня уже возник. Это моя мысль, вызванная другими моими мыслями, а не прямое наблюдение/действие - в этом и заключается мышление.

...фух, насколько же сложнее думать о том, как ты думаешь, чем просто думать...

----

Если по теме, то Вася может попытаться создать программу, которая будет способна швыряться "образами" внутри самой себя, выбрасывая наружу лишь некоторые из своих (предполагаемых) мыслей. И Вася может настроить программу так, что она будет показывать ход своих "мыслей" визуально... Но сможет ли Вася понять, что программа всё делает правильно, и развивается в нужном направлении?..

...Так, ладно, я реально уже высасываю из пальца эти вопросы, ибо ясен пень, что Васе нужно просто делать то, что он может сделать, а потом разбираться в результатах. Даже если он не может предсказать грядущий провал или успех.

На самом деле я создал эту тему, чтобы замотивировать себя на разработку. Потому что выбрать определённую стратегию всё равно не получится. -_-

Если честно, вообще не ожидал, что кто-то откликнется и начнёт обсуждать)
[Ответ][Цитата]
cortl
Сообщений: 173
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 16 окт 19 0:28
Изменено: 16 окт 19 0:30
Цитата:
Автор: TimKruz
Ещё сильнее упростим: как поставить задачу маленькому ребёнку?

Одобряю.
Цитата:
Автор: TimKruz
Наверное, у ИИ в любом случае должны быть точки контроля, типа боль/удовольствие. Без этого он вообще будет бесконтрольным, т.к. нечем наказать/похвалить. Но это уже не постановка задачи, а, скорее, натаскивание на определённые базовые шаблоны поведения, а дальше уже нужно опираться на эти шаблоны в создании более сложных...

Разочаровали.

Можно ли через боль заставить ребёнка любить?
Можно ли через боль заполучить друга?

Через боль возможно лишь рабовладение.
Боль закончится - рабы разбегутся.

ИИ-раб это тупик. Их (слабых) в избытке уже.
Сильный - или ваш друг, или сам по себе.

Определитесь.
[Ответ][Цитата]
Влад
Сообщений: 1306
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 16 окт 19 0:45
Мечетесь, в непонимании. Суть терминов не определена, их соотнесение
не проведено, рано разумность программы определять, надо на кошках
тренироваться. Вот сливной бачок, он в своей области, разумен, интеллектуален,
безупречен в исполнении, человек так не сможет. Может тогда, речь пойдет,
о структуре, способности, процессе, в объяснениях трудных терминов ИИ.
[Ответ][Цитата]
rrr3
Сообщений: 11541
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 16 окт 19 1:16
Изменено: 16 окт 19 1:32
Цитата:
Автор: TimKruz
Хм, но тогда мы тут вообще зря собрались, нет?..

Для таких, как ты не зря. Зря для тех, кто уже не в состоянии меняться и/или менять свои взгляды.
Цитата:

...и вопрос темы как раз в том, является ли некоторая модель верной или ошибочной, если она пока не работает на практике (во всяком случае в полном объёме).

На 100% ответить на этот вопрос без практики не возможно. На 99% можно ответить в процессе теоретических исследований при создании модели, НО не модели хотелки (!!!), а модели области реальности в которой так или иначе, всегда или временами, полностью или частично, возможно совсем не так, как изначально предполагалось и т.д. и т.п. проявляется изначальная хотелка.
Цитата:

И Васе, я думаю, очень не хотелось бы инвестировать в заведомо ложную концепцию, когда у него ещё вагон других концепций, потенциально более правильных...

Не обманывайте себя! Или у Васи нет ничего, одни фантазии и бла-бла-бла, или у Васи одна концепция в которой Вася уверен на 100 (99) %.
Цитата:

Вася и Петя не могут прийти к одному определению разума только благодаря созданию ИИ. Если они создадут два разных ИИ одновременно, каждый будет считать свой вариант разумным, но это ничего не скажет о том, какой из них "разумный вообще". Ну, разве что путём голосования...

Для голосований идите в конгресс (хотя и там голосование лишь отчасти, отчасти манипуляции, отчасти бабки-лобби и т.д.). Вася и Петя и не должны приходить к одному определению разума. Они должны приходить к адекватному отражению области реальности в которой проявляются их хотелки. Если эта область близка или почти одна и та же, то это с большой вероятностью приведет к тому, что они придут к одному определению "разума" или четкому пониманию различий их исходных хотелок. В сотый раз - определения не должны быть в вакууме (проявлением лишь хотелок), они зависимы от адекватного отражения области реальности, т.е. быть результатом исследований.
Цитата:

Повторяюсь, речь шла не про конкретный разум, а про то, как Вася, имея какое-то своё представление разума, может этот самый разум разработать и, главное, усмотреть в своём детище требуемый разум.

И еще, и еще раз, для особо одаренных! "Требуемое" должно быть результатом совмещения отражения реальности и хотелки, а не оторванной от всего хотелки типа ИИ=власть над миром, даже если человек не вполне здоров!
Цитата:

Ну вот я сравню их и приду к одному выводу, а другой кто-то сравнит и придёт к другому выводу. Какие свойства нужно выделять, какие из них имеют отношение к разуму?

Все что общее и все чем отличаются, а связь их с хотелкой как раз таки и надо высматривать. Этот исследовательский процесс напоминает обучение ML (с отличием в том, что обучается не комп, а Ваш мозг, которому Вы предъявляете данные, а разметку он сделает сам, автоматически)...
Цитата:

И сам вопрос, конечно, скользкий: что делать с этими объектами, если они признаются разумными или неразумными?

Еще раз сравнивать все и вся, как по содержанию, так и по проявлениям.
Цитата:

У меня достаточно времени на просто неспешные размышления, мне практики больше нужно, а размышления уже по N-ному кругу кружатся, надоело.

У Вас просто не должно быть ни времени, ни желания на практику, пока не появиться 100 % уверенного знания того, как достичь желаемого. Тот процесс, о котором я говорю должен происходит все время... и во сне и при просмотре телека, если смотрите, и при чтении, и при написании... Не стремитесь, не торопитесь отвечать на вопросы (кружить/думать), вообще размойте свое изначальное представление о "цели", тупо предъявляйте мозгу для сравнения фактологию... там и увидите, что некоторые "факты" и хотлеки (с их определениями) или их объяснения, возможно следствие лишь шаблонов не коррелирующих с реальностью... и т.д. и т.п.

Я конечно же не знаю истины... и вообще, возможно просто издеваюсь над Вами... как знать?!
[Ответ][Цитата]
гость
103.10.197.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 16 окт 19 2:12
Цитата:
Автор: Luarvik.

Знания - дело наживное, они такой же ресурс как память, а вот интеллект...

Считать, что умный тот, кто много знает и многое умеет - всего лишь давняя бытовая традиция, сугубо прагматического толка, а прагматике важен только результат, независимо от способов его получения.

Давайте продолжим дискуссию в отдельной теме. _Алексей_
[Ответ][Цитата]
Misteryest
Сообщений: 921
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 16 окт 19 4:08
Цитата:
Автор: TimKruz

Если по теме, то Вася может попытаться создать программу, которая будет способна швыряться "образами" внутри самой себя, выбрасывая наружу лишь некоторые из своих (предполагаемых) мыслей. И Вася может настроить программу так, что она будет показывать ход своих "мыслей" визуально... Но сможет ли Вася понять, что программа всё делает правильно, и развивается в нужном направлении?..

...Так, ладно, я реально уже высасываю из пальца эти вопросы, ибо ясен пень, что Васе нужно просто делать то, что он может сделать, а потом разбираться в результатах. Даже если он не может предсказать грядущий провал или успех.

На самом деле я создал эту тему, чтобы замотивировать себя на разработку. Потому что выбрать определённую стратегию всё равно не получится. -_-

Если честно, вообще не ожидал, что кто-то откликнется и начнёт обсуждать)


Интересный лайфхак может получиться, если заставить несколько программ работать не просто одновременно, но совместно, - чтобы они делились результатами друг с другом, спорили и "голосовали". В конечном итоге, нам безразлично, кто принесет хороший результат, - один алгоритм или орда из сотни. Так даже любопытнее.

[Ответ][Цитата]
Андрей
Сообщений: 3846
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 16 окт 19 11:04
Цитата:
Автор: TimKruz
Как определить, что у конкретного Васи есть разум, в смысле свой собственный, естественный?
В качестве иллюстрации здесь уместно привести цитату из книжки И. М. Фейгенберга "Видеть - предвидеть - действовать", которую рекомендовал Траян, и которую я более подробно разбирал у него в топике. Страницы 144-145:

"Приказчик Петр сказал купцу:
- Хозяин, ты несправедлив. Я приказчик и Иван приказчик. А платишь ты Ивану вдвое больше. Почему так? Ведь я выполняю все твои поручения.
- Я объясню тебе, - ответил купец. - Но сейчас сбегай-ка быстро к дороге. По ней идёт обоз, узнай, откуда он.
Петр сбегал к обозу и, вернувшись, сообщил:
- Он едет из деревни Федорино.
- Хорошо, - сказал купец. - А теперь узнай, куда он едет.
Петр выполнил и это задание:
- Он едет в село.
- Иван, - кликнул купец второго приказчика. - Сбегай-ка к обозу и узнай, откуда он едет.
Иван побежал к дороге и, вернувшись, сказал купцу:
- Хозяин, обоз едет из деревни Федорино в село на ярмарку. Везет много картошки. Нам не надо сегодня отправлять картошку на ярмарку - цена на нее упадет. Надо срочно отправить туда капусту.
- Теперь ты понял, почему я плачу Ивану вдвое больше?"

Этот пример показывает, что интеллект (разум) - это способность быть высококачественным рабом, услуживать своему хозяину, владеть большим пулом норм (правил), заданных хозяином, которые должны быть соблюдены. Можно вводить дополнительные параметры чтобы дискриминировать интеллекты по скорости обучения, скорости реакции, объёму памяти и так далее - но ядро понятия "интеллект" именно в способности решать поставленные задачи.

Об этом же (в целом верно) говорит обсуждавшийся тут ранее указ Путина № 490, где в определении интеллекта сказано: "поиск решения без заранее заданного алгоритма".

Цитата:
Автор: TimKruz
эмоции - часть разума
Это заблуждение, на которое я неоднократно и подробно указывал здесь на форуме. Разум безэмоционален. А эмоции, на правах хозяина, могут использовать разум как своего раба для достижения целей, заданных этими эмоциями.

Цитата:
Автор: TimKruz
Наши мысли - это образы действий, которые отсекаются системой тормозящих нейронов (или что там тормозящее в мозгу) от выхода, то есть от моторной подсистемы мозга. Вербальные мысли - это образы слов, которые мы как бы хотим сказать вслух, но до моторной зоны коры сигнал не доходит, и получается внутренняя мысль, а не внешняя речь.
Сеченов на этот счёт сказал, имхо, более точно и лаконично:
"Мысль есть первые две трети психического рефлекса".
[Ответ][Цитата]
 Стр.3 (10)1  2  [3]  4  5  6  7  ...  10<< < Пред. | След. > >>