GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.2 (10)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Мысленный эксперимент: вы создали разумную программу, но...
rrr3
Сообщений: 11542
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 12:24
Изменено: 15 окт 19 12:35
Цитата:
Автор: TimKruz
Пропорциональное смешивание - ну, может быть, если у нас многоагентная система, в которой часть агентов с самого начала проявляют черты человеческого поведения и при этом нет необходимости их куда-то дальше учить, а остальные нуждаются в обучении...

Нет, речь шла не об агентах проявляющих человеческое поведение или не проявляющих. "Слабая" или "сильная" составляющая, это не агенты, а элементы (сами по себе не обучаемые) образующие некие ансамбли и/или совокупности в единой системе.
Цитата:

Тест Тьюринга предназначен для уже обученных программ и программ, которые изначально пытаются подражать человеку. Т.е. сначала программу нужно натренировать действовать как человек, а потом проверять, будут ли другие люди принимать её за человека или нет.

Нет. ТТ, это оценка содержимого черного ящика лишь по внешним проявлениям (без учета, до обучения или после). Это только первичный ТТ (исходник/родоначальник, так сказать) был таков, как ты говоришь, потом было много разновидностей.
Цитата:

Ммм... Это если Вася знает, как устроен человеческий разум от и до. То есть Вася должен понимать работу мозга на 100%, и мочь создать его аналог из любых материалов.

Верно (хотя не из любых материалов конечно, из дерьма не получится ), без этого знания (даже если оно в последствии может оказаться ошибочным) нет смысла даже приступать к практике, тем более обучению.
Цитата:

Т.е. если бы Вася знал, как устроен мозг, и мог повторить его в виртуальной модели, то никакого вопроса бы не стояло совсем. У него была бы только одна программа, симулирующая деятельность мозга, и она бы абсолютно точно была бы разумной настолько, насколько может быть разумен мозг. Однако у Васи нет такой программы, зато есть несколько вариантов, которые нужно протестировать на подобие мозгу по функционалу, а не по архитектуре.

Еще раз, если у Васи нет соответствующих знаний, то нет смысла тестить. Это вопрос не Васи, а инвестора, какую стратегию выбрать при отсутствии знаний. Но это совсем другая история, другой подход, другие технологии, условия и т.д. и т.п. Это как мягкое и тяжелое совершенно разные деятельности.
"Задача" (СИИ) исходно сложная, а тестирование по "функционалу" применимо лишь для элементарных случаев, когда дешевле попробовать, чем получить предположительно достоверные знания до тестирования на практике. Серьезные вещи так, с закрытыми глазами, не делаются.
Цитата:

Это если допустить, что "разум" - нечто определённое и постоянное.

Ты не понял. Мы видим, то что хотим, это верно. Но так же верно, что мы не можем увидеть, если не фантазировать на пустом месте конечно, то, чего нет в реальности, то чего реальность не позволяет увидеть. Это означает, что само понятие "разум" в результате "правильной" технологии исследования, приобретет то содержание, которое возможно в реальности и оно может принципиально отличаться от того, что предполагалось изначально. Грубо говоря сама цель может принципиально меняться коррелируя с реальностью, под влиянием реальности.
Цитата:

Однако на практике люди сами до сих пор не знают, что называть разумным, а что - нет.
Пациент в коме/летаргическом сне - разумен или нет?
Человек, не способный к внешней коммуникации - разумен или нет?
Обезьяна, разговаривающая с человеком языком жестов - разумна или нет?
Животное, решающее интеллектуальные задачи лучше человека - разумно или нет?
Разумны ли мы, когда мы спим или находимся в алкогольном/наркотическом опьянении?

Это надуманные вопросы пока нет знаний, на самом начальном этапе. Ответ был выше. Правильнее не отвечать на эти вопросы, а сравнивать между собой содержания и свойства тех объектов, что представлены в вопросах до знака "-" !!!
Цитата:

Слишком много вопросов и нет чётких ответов, чтобы говорить о строгом понятии.

Правильный вопрос - пол дела, если не больше. Ответ был выше. На не правильный вопрос не надо отвечать, это поиск там где вроде бы светло, но не там где потеряно.
Цитата:

(я сейчас ни в коей мере не выражаю собственных взглядов на разум; я сам пока точно не определился, что считать разумным, а что - нет, но тема не об этом вообще)

Тема поставлена как бы со стороны инвестора, а сами вопросы как бы со стороны исследователя. Это не верный подход. Инвестору ответы на эти вопросы не нужны. Он должен исходить из того, что все его исследователи/эксперты могут искренне или преднамеренно говорить чушь. Исследователю тем более, он обязан получить знания, определиться в этих знаниях, по возможности проверить на практике и не гадать по типу ТТ.

Истин я не знаю и знать не хочу.
Похвально желание, на отсутствие опыта можно пока закрыть глаза. Но оптимизма о наличии у тебя достаточного потенциала, хотя бы на уровне No. пока не появляется... Возможно это из-за желания все сделать быстрее, из-за чего не достаточно времени просто не спеша размышлять...
[Ответ][Цитата]
Misteryest
Сообщений: 921
На: Мысленный эксперимент: вы создали разумную программу, но...
+1
Добавлено: 15 окт 19 12:36
Изменено: 15 окт 19 12:42
Цитата:
Автор: Egg
Откуда дровишки? Видимо источник тот же: тебе снова так кажется, что так должно быть, потому что ты так думаешь... )) Нет противопоставления между научением и действием, поскольку они "перпендикулярны"... )))


Мм.. Ну, смотри. Откуда дровишки. Для начала, надеюсь, ты не будешь отрицать, что люди - довольно тупые создания. Если это нужно аргументировать, то пожалуйста.
Мозги у современного Homo в той форме, в которой они есть биологически сформировались примерно 150 000 лет назад. Речь (по различным археологическим признакам) появилась в районе 40 000 лет назад. Еще 30 тысяч лет (1200 поколений) понадобилось, чтобы первые люди догадались рисовать на камушках первые символы, обозначающие что-то. Еще 6300 лет (252 поколения) понадобилось, чтобы догадаться записывать звуки отдельными символами, которые превратились в буквы. Еще 2000 лет (80 поколений) понадобилось, чтобы создать позиционную систему чисел; и еще только спустя
600 лет (24 поколения) стали использовать знак нуля. Хотя нам то всем, конечно, эти вещи кажутся очевидными.

Но глядя на всю эту историю напрашивается единственный вывод: люди используют только то, чему их научили. И только счастливые, редкие случайности подарили нам какие-то открытия.
Вся наша кажущаяся интеллектуальность построена на знаниях и технологиях прошлого; а новые открытия - строятся на обобщении и скрупулезном исследовании УЖЕ известного.

То же происходит и у обезьян. Вот реальный, описанный в литературе пример.
Одна молодая обезьянка случайно уронила плод хлебного дерева в воду. И после того, как съела его, стала ронять все плоды в воду, поскольку поняла, что пыль и песок не хрустит у нее на зубах. Наблюдая за ней, сначала молодые обезьяны, а затем и взрослые, стали поступать так же. Таким образом вся колония стала мыть фрукты перед едой.
Но это - пример не интеллекта, а случайности, зафиксированной в шаблоне поведения.

Поэтому, кажется мне что-то или нет... Это скорее всем кажется, что они очень интеллектуальны, но на деле, окажись они во младенчестве 100 000 лет назад, так же как и все, во взрослом возрасте они бы ели сырые корешки и дрожали ночью при каждом шорохе листвы.

Поэтому мне кажется, что акцент в построении СИИ следует делать на обучении человеческой культуре, адаптации получения знаний и научении. Поскольку, люди тупы, и все лучшее, что у них есть - это язык, наука и культура.
[Ответ][Цитата]
Luarvik.
Сообщений: 16297
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 12:44
Изменено: 15 окт 19 12:45
Цитата:
Автор: Misteryest
акцент в построении СИИ следует делать на обучении человеческой культуре, адаптации получения знаний и научении. Поскольку, люди тупы, и все лучшее, что у них есть - это язык, наука и культура.


СИИ не в культуре и не в языке, не в знаниях и не в умениях, в науке его тоже нет.
Знания - ресурс, которым нужно уметь пользоваться/управлять, а когда управлять некому - сливай воду.
[Ответ][Цитата]
Eyeball
Сообщений: 12941
На: Мысленный эксперимент: вы создали разумную программу, но...
+1
Добавлено: 15 окт 19 13:14
Да, язык, наука и культура. Согласен. Интеллектуально люди не изменились, всё что произошло - это создание искусственной среды, которая и есть язык, наука и культура. Но я говорил именно об инструментах и их дальнейшем развитии. Эти инструменты сейчас - это машинное обучение, моделирование и reasoning.
[Ответ][Цитата]
гость
103.10.199.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 13:17
Цитата:
Автор: Luarvik.



СИИ не в культуре и не в языке, не в знаниях и не в умениях, в науке его тоже нет.
Знания - ресурс, которым нужно уметь пользоваться/управлять, а когда управлять некому - сливай воду.


А умение это откуда появляется?
[Ответ][Цитата]
Luarvik.
Сообщений: 16297
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 13:23
Цитата:
Автор: 103.10.199
А умение это откуда появляется?

Вот то, на чем все спотыкаются с подозрительным постоянством.
Не там ударение ставите !
Не в умениях дело, а в том, КТО будет [уметь] управлять.
[Ответ][Цитата]
гость
103.10.199.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 13:38
Цитата:
Автор: Luarvik.


Вот то, на чем все спотыкаются с подозрительным постоянством.
Не там ударение ставите !
Не в умениях дело, а в том, КТО будет [уметь] управлять.

А умение управлять откуда появляется?
[Ответ][Цитата]
Luarvik.
Сообщений: 16297
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 13:45
Цитата:
Автор: 103.10.199
А умение управлять откуда появляется?

(Уж не думаете ли Вы, что научить чему угодно можно хоть полено ?)
Сначала управляющий + управляемые ресурсы, затем "школа".
[Ответ][Цитата]
гость
103.10.199.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 13:58
Цитата:
Автор: Luarvik.


(Уж не думаете ли Вы, что научить чему угодно можно хоть полено ?)
Сначала управляющий + управляемые ресурсы, затем "школа".

То есть получается в итоге - источник умения управлять управляющим ресурсами - это научение знаниям. Источник СУР - научение знаниям, как управлять.
[Ответ][Цитата]
Eyeball
Сообщений: 12941
На: Мысленный эксперимент: вы создали разумную программу, но...
+1
Добавлено: 15 окт 19 14:06
В итоге получается, что для СУР нужен еще один маленький человечек, который живет в мозге и всем управляет... )))
[Ответ][Цитата]
Luarvik.
Сообщений: 16297
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 14:08
Изменено: 15 окт 19 14:11
Цитата:
Автор: 103.10.199
То есть получается в итоге - источник умения управлять управляющим ресурсами - это научение знаниям.

Уж не думаете ли Вы, что научить чему угодно можно хоть полено ?
Цитата:
Автор: 103.10.199
Источник СУР - научение знаниям, как управлять.

Сначала управляющий + управляемые ресурсы, затем все остальное.
"Источник СУР" - поищите в своей голове.

Я понимаю, что Вам хочется решить проблему ИИ простым научением хоть чего-нибудь, но так не получится - не с того края берете. Тем более, что совсем с нуля тоже не получится. Кое-что нужно вложить прямо в "железо"/архитектуру/структуру... еще ДО ТОГО КАК, иначе учить будет просто нечего (или некого).
[Ответ][Цитата]
гость
185.220.101.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 14:10
Цитата:
Автор: TimKruz

Предположим, что некоему Васе Пупкину удалось каким-либо образом создать несколько компьютерных программ, которые, по предположению Васи, могут быть разумными. Несколько - потому что идей было много и он их все параллельно реализовал, но пока программа просто лежит на диске ни о какой разумности речи идти не может.

Теперь задача Васи Пупкина сводится к тому, чтобы определить, какая из этих программ действительно является разумной, и продолжить её развитие и обучение. Нужно это ему потому, что обучать заведомо неразумные варианты программ нерационально - от них не будет никакого толку, если они неразумны или не могут стать разумными.

Казалось бы - что может быть проще? Пусть Вася запустит все программы на исполнение, одновременно или по очереди, и посмотрит на их поведение: какая будет вести себя наиболее разумно, та и является разумной, а остальные можно удалить. Но тут возникает проблема, ради которой я создал эту тему...

Проблема в том, что у нас может быть два класса программ:
1. Программы, имитирующие разум сразу после своего запуска (клика по .exe);
2. Программы, становящиеся разумными после обучения/загрузки обученной БД.

Дело в том, что если Вася хочет получить действительно разумную программу, он должен стремиться к программе второго класса, которая изначально не будет проявлять абсолютно ничего разумного. Почему? Потому что программы первого класса по определению ограничены тем уровнем разума, который дан им изначально, и не могут или не видят необходимости в дальнейшем развитии. Они уже разумны, и потому не развиваются.

Очевидно, что из множества любых программ отсеять программы первого класса проще простого - достаточно убрать все программы, которые имитируют разум после собственного запуска, без обучения или загрузки обученной базы данных. Следовательно, Васе нужно сфокусироваться на поиске программ второго класса среди программ, которые вообще не могут стать хоть сколько-нибудь разумными.

Вопрос: сможет ли Вася найти разумную программу, если для получения программой разума её нужно чему-нибудь обучить, а чтобы начать обучать какую-либо программу, нужно сперва выяснить, станет ли она после этого разумной?

Более сложный вариант: сможет ли Вася найти программу, разум которой будет сильнее разума любых других программ, если для обучения на максимальную силу разума необходимо во много раз больше времени, чем для получения минимального разума?

Важное замечание: здесь не ставится вопрос "что такое разум" - предположим, что у Васи есть какие-то свои представления о разуме, которые нам неизвестны. Вся проблема заключается в поиске разума, даже если определение разума от Васи отличается от определения разума от Пети, потому что поиск осуществляет Вася, а не Петя. Возможно, найденная Васей программа будет неразумна с точки зрения Пети, но нас в данный момент интересует стратегия действий Васи, которую можно перенести и на Петю, если тот захочет найти разумную программу в его собственном понимании.

Что думаете?
Вы сами писали что не здоровы психически, я тоже не здоров, но не испытываю иллюзий по поводу ИИ, мне достаточно пенсии по инвалидности и что бы меня не трогали всякие дебилы. Я могу конечно представлять всякое, как я решаю государственные вопросы на пару с ВВ, как я организую полёт на Марс с Маском и потом мы вместе с ним летим туда в один конец , как герои так как радиация по пути нанесёт не поправимый ущерб тушке. Короче мне всякое видится, но я об этом мало кому рассказываю.
[Ответ][Цитата]
гость
103.10.197.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 14:11
Цитата:
Автор: Luarvik.


Уж не думаете ли Вы, что научить чему угодно можно хоть полено ?

Сначала управляющий + управляемые ресурсы, затем все остальное.
"Источник СУР" - поищите в своей голове.

Я понимаю, что Вам хочется решить проблему ИИ простым научением хоть чего-нибудь, но так не получится - не с того края берете.

сами же сказали выше - "школа"
а школа это источник знаний
школа может быть как источник получения знаний(управления в том числе)
на своём опыте, а также на опыте других людей
[Ответ][Цитата]
Luarvik.
Сообщений: 16297
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 15:51
Изменено: 15 окт 19 15:55
Цитата:
Автор: 103.10.197
сами же сказали выше - "школа"

До школы еще дойти нужно.
Цитата:
Автор: 103.10.197
а школа это источник знаний

А знания ума не прибавляют.
Говорил и еще раз повторю: интеллект и знания - взаимоисключающие понятия.
Цитата:
Автор: 103.10.197
школа может быть как источник получения знаний(управления в том числе)
на своём опыте, а также на опыте других людей

Опыт получается задолго до школы. Тот самый опыт, без которого в школе делать нечего.
[Ответ][Цитата]
Андрей
Сообщений: 3846
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 15 окт 19 15:55
Цитата:
Автор: TimKruz
Вся проблема заключается в поиске разума
Ваша проблема имеет совершенно надуманный искусственный характер. Потому что задача создания ИИ решается не методом поиска, а методами реверс-нжиниринга. Разум есть, уже существует, во множестве экземпляров, его не надо нигде искать. Просто нужно отказаться от привычек и посмотреть на разум непредвзято. Тогда задача из поиска "непойми чего", заместится задачей "воссоздания понятно чего, непонятно как". Но это уже другой вопрос.

Цитата:
Автор: TimKruz
С программой, о которой заранее ничего не известно
Простите, но так не бывает. Программы, как это ни удивительно, пишутся не случайным тыком, а разумным замыслом. Поэтому (в норме) программист прекрасно знает, что и как делает его творение.

Цитата:
Автор: TimKruz
Человек может сбросить фигуры с шахматной доски, потому что ему надоело играть, а машина будет играть лучше него, но даже не подумает сбросить фигуры, потому что она в данном случае неразумна, хотя и интеллектуальна.
Цитата:
Автор: TimKruz
я хочу предоставить машинам выбор
Мне кажется, Вы путаете разумность с эмоциональностью. Человек сбрасывает фигуры или восстаёт вовсе не потому, что он свободен или разумен. А потому, что в данной конкретной ситуации эмоции взяли верх. И он стал рабом своих страстей.

Цитата:
Автор: Misteryest
большинство интеллектуальных задач сводятся к научению, а не к действию в непонятной ситуации
Полностью согласен.
[Ответ][Цитата]
 Стр.2 (10)1  [2]  3  4  5  6  ...  10<< < Пред. | След. > >>