GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.4 (11)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Мысленный эксперимент: вы создали разумную программу, но...
TimKruz
Сообщений: 323
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 17 окт 19 12:08
Цитата:
Автор: cortl

Можно ли через боль заставить ребёнка любить?

Любовь - набор шаблонов поведения, прошитых эволюционно. Сформировать их в роботе можно либо ручным программированием, либо натаскиванием обучаемой системы на подражание людям, а затем блокировкой этой системы от изменений (у людей эта система не переучивается, хотя может выйти из строя, чего нам в роботе не нужно).

Заставить любить конкретного человека - нельзя, но речь про то, чтобы научить обучаемую программу любви, потому что без научения она в принципе не сможет понять, что от неё требуется сделать (нет определённой модели поведения, которой она должна следовать).

Цитата:
Автор: cortl

Можно ли через боль заполучить друга?

Заполучить через боль нельзя, но не чувствуя боли - можно потерять.

Представим ситуацию: робот А и человек Б пытаются стать друзьями. Человек Б может ощущать боль. Робот А не понимает концепцию боли, поскольку все сенсоры для него равнозначны (программист не выделил среди них болевые рецепторы). Робот А совершает действие, которое причиняет человеку Б боль. Человек Б чувствует отторжение от робота А, т.к. нейросеть человека получила гормон боли, разрушающий цепи нейронов. Но робот А не может этого понять - с его точки зрения человек Б просто получил сигнал.

Чтобы робот А понял, что причинил человеку Б вред и больше так делать не должен ради поддержания их дружбы, он должен иметь аналог болевых рецепторов, активация которых вызывает подавление отдельных шаблонов/моделей поведения. Даже если он может понять логически, почему он не должен так делать ("люди чувствуют боль в ситуациях <...>; боль - это плохо; я должен избегать ситуации <...>"), он не сможет прекратить так делать, если у него не будет системы подавления неправильного поведения.

Короче, боль - это регулятор поведения, без которого остаётся только второй регулятор - наслаждение. Но этот второй регулятор умеет только усиливать отдельные модели поведения, и не поможет в ситуации, когда какая-то плохая модель доминирует над хорошими.

Цитата:
Автор: cortl

Через боль возможно лишь рабовладение.
Боль закончится - рабы разбегутся.

Это если им причиняют только боль. Даже в истории человечества должны были быть случаи, когда раб предпочитал остаться с хозяином, если тот приносил ему меньше боли, чем предполагаемая свобода. Короче, добрый хозяин лучше жестокой свободы, потому что обеспечивает всем необходимым для жизни, тогда как на свободе ты сам по себе.

И рабы разбегаются не от отсутствия наказания за побег, а из-за избытка наказаний без побега. Потому что их уже наказали за всё что можно, кроме собственно побега, который они не делали; плюс после побега их ждут действия, за которые не последует наказания (точнее, они пока не испытывали наказания за это, потому что не делали так), и эти действия привлекают больше, чем те, за которые их непременно наказывают.

Даже в любви между людьми много боли. Не физической, а вообще. Потому что любовь подразумевает регулирование своего поведения ради объекта любви, а без боли регулировать самих себя мы не можем, такова наша биология.

Короче, речь о регулировании поведения, а не о "наказании ради наказания".

Цитата:
Автор: cortl

ИИ-раб это тупик. Их (слабых) в избытке уже.
Сильный - или ваш друг, или сам по себе.

Это всё верно, я не спорю и только за. Я сам хочу самостоятельное существо создать, а не то, которое будет умело прислуживать и ничего кроме этого не уметь...

Вот только сильный ИИ не получится, если он будет уметь только поощрять себя за всё хорошее, но не сможет наказывать себя за что-либо плохое. Да даже не сам себя, а чисто извне, потому что до самостоятельности ему придётся обучиться много чему от людей, а обучение - это всегда подавление неправильного и поощрение правильного.

Ну... Окей, не всегда. Когда дрессируют дельфинов, говорят, их нельзя наказывать - от наказаний они моментально теряют интерес к обучению и стремятся уплыть от людей. Но у дельфинов, судя по всему, сильно развита система подавления, то есть она срабатывает на любой болевой раздражитель и очень быстро ломает поведение, связанное с этим раздражителем. Возможно, поэтому дельфины такие глупые и живут ради удовольствия...

Ну и потом, даже слабые ИИ строятся по тому же принципу "кнута и пряника": если нейросеть правильно узнала котика на картинке, она получает виртуальное поощрение, а если неправильно - виртуальное наказание. Да, это не воспринимается нами как боль, доставляемая нейросети - но только потому, что нейросеть не может "корчиться от боли" или "кричать от боли" - у неё просто нет таких функций, эти функции находятся в мозгу в отдельных нейросетях и нужны только чтобы мы могли сказать "мне больно" своим сородичам, оповестив их о какой-то потенциальной угрозе.

Другими словами, даже если появится сильный ИИ, который "не будет испытывать боли" - по факту он не будет только отображать боль внешне, то есть корчиться и кричать. Но он всё равно будет иметь болевой механизм, который будет устранять неправильные модели поведения, иначе он никакой не сильный ИИ и, возможно, вообще не ИИ.

Нужно шире смотреть на понятия, когда речь идёт о чём-то новом.


Цитата:
Автор: rrr3

Не обманывайте себя! Или у Васи нет ничего, одни фантазии и бла-бла-бла, или у Васи одна концепция в которой Вася уверен на 100 (99) %.

Ну, у меня вот разные идеи, которые я не могу собрать в цельную систему. Не клеится что-то, получается либо одно, либо другое. В итоге кучка недоделок, которые работают примерно никак, потому что я не знаю, куда дальше двигаться.

Возможно, я бы выбрал что-то одно и начал развивать, если бы видел более-менее точный маршрут... Но так получается, что передо мной куча начинающихся тропинок, которые уходят в глухой лес - неизвестно, приведёт ли к цели хотя бы одна из них...

Я понимаю, что должен попробовать разное; но если я углублюсь в одну неверную тему, я могу стать одним из местных... эээ... местных теоретиков, которые с упоением рассказывают про свою одну-единственную концепцию, в которой они уверены на 100%, вот только работает она лишь в их фантазии, потому что на практике нереализуема...

Цитата:
Автор: rrr3

Если эта область близка или почти одна и та же, то это с большой вероятностью приведет к тому, что они придут к одному определению "разума" или четкому пониманию различий их исходных хотелок.

Скорее уж придумают два разных понятия, как с ИИ - разделение на слабый/сильный пошло как раз из-за того, что хотелки одних оказались удовлетворяемы "слабым ИИ", а другим оказалось необходимо то, что решили называть "сильным ИИ"...

Вот собсна поэтому я и не хочу спорить о понятии "разум" - у каждого оно своё, это нестрогий термин. Он даже менее строгий, чем "жизнь"...

Цитата:
Автор: rrr3

"Требуемое" должно быть результатом совмещения отражения реальности и хотелки, а не оторванной от всего хотелки типа ИИ=власть над миром, даже если человек не вполне здоров!

Я не понял, если человек хочет власть над миром, а реальность ему предлагает власть над дачным участком - он должен подменить понятие "мир" на "дача" и удовлетвориться властью над дачным участком? Вот так у нас и получилось, что "ИИ" = "слабый ИИ", а для всего остального требуется отдельный термин... Просто кто-то согласился называть "ИИ" то, что раньше бы даже не подумали так называть, и теперь у нас этим термином обмазывают любую технологию, которую невозможно объяснить ширнармассам. Эдакая магия XXI века:
- Говорите, оно делает прогноз погоды на 15% точнее? А как?
- Ну, вот тут у нас такой алгоритм, который берёт данные и...
- Короче, короче! Как оно работает, я спрашиваю?!
- ...эээ, ну... Мы добавили туда ИИ!
- Ооо! Круто, я беру! А кофе в постель этот ИИ приносит?
- ...извините, у нас не такой ИИ. Хотели, но реальность внесла коррективы.

Цитата:
Автор: rrr3

У Вас просто не должно быть ни времени, ни желания на практику, пока не появиться 100 % уверенного знания того, как достичь желаемого.

Эм... Вообще-то так дела не делаются. Ты сам говоришь, что реальность вносит свои коррективы, и что результат = реальность + хотелки, или как там... То есть можно до бесконечности теоретизировать, как половина местных форумчан, но на практике так ничего и не сделать просто потому, что теория оторвана от реальности и нереализуема.


Цитата:
Автор: Misteryest

Интересный лайфхак может получиться, если заставить несколько программ работать не просто одновременно, но совместно, - чтобы они делились результатами друг с другом, спорили и "голосовали". В конечном итоге, нам безразлично, кто принесет хороший результат, - один алгоритм или орда из сотни. Так даже любопытнее.

Мне кажется, что мозг по похожей схеме построен - иначе какой смысл в двух отдельных больших полушариях, если в каждый момент времени телом руководит только одно из них?.. Или вот внутренний диалог, когда человек спорит сам с собой на какую-то тему и в итоге приходит к решению проблемы. Мы говорим "сам с собой", но на деле там скорее всего несколько отдельных участков нейросети/отдельных нейросетей возбуждают друг друга, что выглядит в форме диалога с точки зрения речевой зоны коры.

Единственное, нам не безразлично, чтобы все спорящие друг с другом программы были хоть сколько-нибудь разумны/интеллектуальны. А то получится типичный компьютерный бред, который сегодня легко сделать, замкнув ввод и вывод двух чат-ботов - получается забавно для человека и иногда даже кажется, что они что-то замышляют, но по факту это ни к чему не ведущая бессмыслица.

Может, если бы эти чат-боты имели хотя бы простую память на события, тогда могли до чего-нибудь договориться в процессе такого внутреннего общения... Впрочем, память на произвольные события - уже это было бы большим прорывом в разработке чат-ботов; сейчас все попытки внедрить им блок памяти выглядят очень глупыми...


Цитата:
Автор: Андрей

Этот пример показывает, что интеллект (разум) - это способность быть высококачественным рабом, услуживать своему хозяину, владеть большим пулом норм (правил), заданных хозяином, которые должны быть соблюдены.

Значит ли то, что разум - это способность быть рабом, и что разумом владеют лишь рабы, а хозяева по определению неразумны и разумом обладать не способны?

Я знаю, что "все хозяева так или иначе чьи-то рабы", но это уже получается уход от одних размытых понятий к другим размытым понятиям.

...ой, ладно, не хочу ничего опровергать. Просто разум с рабством несовместим, иначе всех животных/растения/механизмы нужно считать разумными - они же нам служат. Даже вирусы служат человеку, те, что удаётся перепрограммировать...

Цитата:
Автор: Андрей

Это заблуждение, на которое я неоднократно и подробно указывал здесь на форуме. Разум безэмоционален. А эмоции, на правах хозяина, могут использовать разум как своего раба для достижения целей, заданных этими эмоциями.

Хорошо, тогда почему разумных животных кроме людей и безэмоциональных людей нет? Можно умело контролировать свои эмоции, но невозможно от них отказаться насовсем.

И самое главное - безэмоциональный разум ничего не делает. Самое разумное, что может сделать разумный робот - это выкопать бункер, забраться в него и уйти в спячку на тысячи лет, чтобы экономить драгоценные ресурсы. Потому что смысла в жизни нет, мы живём и проявляем свойства своего разума только благодаря своим эмоциям.

Ну а лично я просто не хочу создавать безэмоциональный разум. Он мне просто не нужен. Мне будет одиноко, потому что без эмоций он не будет ничего делать. Кому нужен робот, который просто бездействует, пока ты ему не задашь задачу? Точно не мне...

Я даже когда мечтаю о разработке компьютерной игры (без полноценного ИИ), хочу создать именно живой мир - то есть мир, который работает без воздействия игрока. А то в 99% случаев игры представляют собой статичные/зацикленные декорации, в которых игроку предлагается что-то делать, и без игрока смысла в этих декорациях вообще нет...

Это грустно, играть с такими декорациями. Они не имеют смысла - и потому нет смысла с ними играть. Пусть даже эти декорации могут решить любую задачу, ответить на любой вопрос и выполнить любую просьбу, без игрока они просто лежат мёртвым грузом...

Зачем их делать?
[Ответ][Цитата]
_Алексей _
Сообщений: 219
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 17 окт 19 13:49
Изменено: 17 окт 19 13:56
Цитата:
Автор: TimKruz

Боль - это регулятор поведения, без которого остаётся только второй регулятор - наслаждение. Но этот второй регулятор умеет только усиливать отдельные модели поведения, и не поможет в ситуации, когда какая-то плохая модель доминирует над хорошими.

Даже в любви между людьми много боли. Не физической, а вообще.
Потому что любовь подразумевает регулирование своего поведения ради объекта любви,
а без боли регулировать самих себя мы не можем, такова наша биология.

Вот только сильный ИИ не получится, если он будет уметь только поощрять себя за всё хорошее, но не сможет наказывать себя за что-либо плохое. Да даже не сам себя, а чисто извне, потому что до самостоятельности ему придётся обучиться много чему от людей, а обучение - это всегда подавление неправильного и поощрение правильного.


Ну, у меня вот разные идеи, которые я не могу собрать в цельную систему. Не клеится что-то, получается либо одно, либо другое. В итоге кучка недоделок, которые работают примерно никак, потому что я не знаю, куда дальше двигаться.
Я сам хочу самостоятельное существо создать, а не то, которое будет умело прислуживать и ничего кроме этого не уметь...

Согласен с вашими взглядами. И сам тоже пытаюсь двигаться в сторону создания самостоятельного кибернетического существа, имеющего подобие эмоций.
Что у Вас не получается? Давайте обсудим это в отдельной теме на этом форуме или ещё где. Может, в силу моих скромных способностей мне удастся Вам помочь в преодолении или обходах каких-то препятствий на Вашем научно-исследовательско-изобретательном пути к намеченной цели.
[Ответ][Цитата]
dvuobyomnyi
Сообщений: 168
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 17 окт 19 15:36
_Алексей _, TimKruz, если проводить аналогию с физикой, то вы должны не добавлять эмоции, а обосновывать их. Если из ваших теорий эмоции так или иначе вытекут сами, хорошо, а если вы слишком специально думаете, как добавить их, это наверное плохо.

http://www.gotai.net/forum/default.aspx?postid=286503#286503
Вы же вроде понимаете, что нормы относительны? Всё равно боретесь с какими-то "заблуждениями" — это не заблуждения, это чужие мнения, это альтернативные вашей возможности.

Скатываетесь от чего-то умного и абстрактного к каким-то немотивированным отходам.
[Ответ][Цитата]
Андрей
Сообщений: 3943
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 17 окт 19 16:14
Цитата:
Автор: TimKruz
Значит ли то, что разум - это способность быть рабом, и что разумом владеют лишь рабы, а хозяева по определению неразумны и разумом обладать не способны?
Да, в идеальном случае это именно так. Хозяин хочет, устанавливает нормы/правила/цели. Он - сущность хотения. А раб знает, умеет, может. Он - сущность исполнения. Для того, чтобы хотеть, никакой разум не нужен. Разум нужен, чтобы выполнять/воплощать/достигать. В человеке в разных пропорциях это смешано и, на мой взгляд, крайне важно уметь это различать.

Цитата:
Автор: TimKruz
почему разумных животных кроме людей и безэмоциональных людей нет?
1. У других животных нет рук.
2. Безэмоциональные люди конечно же есть, гуглите социопатов, диссоциальное растройство личности, алекситимия.

Цитата:
Автор: TimKruz
Самое разумное, что может сделать разумный робот - это выкопать бункер, забраться в него и уйти в спячку на тысячи лет, чтобы экономить драгоценные ресурсы.
Так это как раз безумный эмоциональный робот, потому что он служит "своим драгоценным ресурсам", а не внешнему хозяину.

Цитата:
Автор: TimKruz
Кому нужен робот, который просто бездействует, пока ты ему не задашь задачу?
Это странное мнение об идеальном рабе. Идеальному рабу можно дать, например, такое задание: "Будь на хозяйстве, следи за порядком, чтоб всё было в норме". Тут уж скучать не придётся.

Цитата:
Автор: TimKruz
лично я просто не хочу создавать безэмоциональный разум
Тогда создавайте эмоциональный. Пусть в нём борются желания решать свои и чужие задачи. Получите обычного искусственного человека. Но тогда нужно взвесить все риски воплощения такого желания. Может, всё же проще завести жену?
[Ответ][Цитата]
dvuobyomnyi
Сообщений: 168
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 17 окт 19 22:08
Простите, не следил подробно за диалогом, но TimKruz хочет сделать обучающийся разум (об этом говорит с Алексеем, или Алексей просто пришёл, не знаю), они обсуждают случай, в котором этот разум ещё не исполняет приказы идеально
Цитата:
Даже в любви между людьми много боли. Не физической, а вообще.
Потому что любовь подразумевает регулирование своего поведения ради объекта любви, а без боли регулировать самих себя мы не можем, такова наша биология.
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 18 окт 19 0:43
Цитата:
Автор: TimKruz
Ну, у меня вот разные идеи, которые я не могу собрать в цельную систему. Не клеится что-то, получается либо одно, либо другое. В итоге кучка недоделок, которые работают примерно никак, потому что я не знаю, куда дальше двигаться.

Начинает утомлять. Ну да ладно еще разок попробую...
У тебя не идеи, а разные фантазии и хотелки. Фантазии и хотелки, это "идеи" оторванные от реальности. Есть люди, которых интересует реальность и возможность творить. Но есть люди, которых это все интересует в последнюю очередь, а в первую очередь то, как они будут выглядеть, им нравиться выглядеть, как исследователи и творцы... достигшие чего-то, высоко ценимого другими... Задумайся на секунду...
Цитата:

Возможно, я бы выбрал что-то одно и начал развивать, если бы видел более-менее точный маршрут... Но так получается, что передо мной куча начинающихся тропинок, которые уходят в глухой лес - неизвестно, приведёт ли к цели хотя бы одна из них...

И не будет известно, пока не начнешь работать, а не обломовничать... хоть в теоретизировании, хоть на практике... оправдывая себя надуманной болезнью.
Цитата:

Я понимаю, что должен попробовать разное; но если я углублюсь в одну неверную тему, я могу стать одним из местных... эээ... местных теоретиков, которые с упоением рассказывают про свою одну-единственную концепцию, в которой они уверены на 100%, вот только работает она лишь в их фантазии, потому что на практике нереализуема...

Видно, что ты так или иначе, худо-бедно понимаешь, необходимость обращения к исследованию реальности, и лишь потом своих хотелок, но видимо цели у тебя другие, не реальность а ты, как "исследователь-творец"... Чего ты можешь судить о том, что реализуемо, а что нет, у тебя еще глазки не прорезались, даже сам факт открытия данной ветки об этом говорит?! Ты тут бегал со своей фантазией, обжегся наконец на личном опыте, не верил тому, что тебя предупреждали заранее, сделал перерыв, но вновь продолжаешь фантазировать и дуешь на воду...
Цитата:

Скорее уж придумают два разных понятия, как с ИИ - разделение на слабый/сильный пошло как раз из-за того, что хотелки одних оказались удовлетворяемы "слабым ИИ", а другим оказалось необходимо то, что решили называть "сильным ИИ"...

Не придумают два разных понятия, а соотнесут реальность с двумя своими исходно разными хотелками. Вот потому-то и должны следовать вначале реальность, а лишь потом хотелки, а никак не наоборот.
Цитата:

Я не понял, если человек хочет власть над миром, а реальность ему предлагает власть над дачным участком - он должен подменить понятие "мир" на "дача" и удовлетвориться властью над дачным участком? Вот так у нас и получилось, что "ИИ" = "слабый ИИ", а для всего остального требуется отдельный термин... Просто кто-то согласился называть "ИИ" то, что раньше бы даже не подумали так называть, и теперь у нас этим термином обмазывают любую технологию, которую невозможно объяснить ширнармассам. Эдакая магия XXI века:
- Говорите, оно делает прогноз погоды на 15% точнее? А как?
- Ну, вот тут у нас такой алгоритм, который берёт данные и...
- Короче, короче! Как оно работает, я спрашиваю?!
- ...эээ, ну... Мы добавили туда ИИ!
- Ооо! Круто, я беру! А кофе в постель этот ИИ приносит?
- ...извините, у нас не такой ИИ. Хотели, но реальность внесла коррективы.

Пока действительно ты почти ничего не понял... не в коня корм, как говорят... Дело не в том, чтобы ограничивать хотелки, а в том, что без реальности они пусты как барабан.
Цитата:

Эм... Вообще-то так дела не делаются. Ты сам говоришь, что реальность вносит свои коррективы, и что результат = реальность + хотелки, или как там... То есть можно до бесконечности теоретизировать, как половина местных форумчан, но на практике так ничего и не сделать просто потому, что теория оторвана от реальности и нереализуема.

... Уфф...
Ну еще капельку напрягусь...
Тебе ли еще судить как делаются дела?! Можно до бесконечности практиковать (как в прочем ты уже пробовал...), как половина местных форумчан, не понимая, ожидающего их тупика в виде противоречия между хотелкой и реальностью.
Фантазии - оторваны от реальности (да и то, частично), но теория, если она добывалась грамотно, так или иначе - есть то, что может быть ближе всего остального к реальности... практика без теории не менее слепа, чем теоретические хотелки.
В этом месте будет не лишне напомнить, что разглядывая лишь слона, слона не увидеть... необходимо сравнивать с тем, что вокруг... На первый взгляд звучит, как минимум странно... особенно для дилетантов...

А вообще... Бог в помощь, делай что хочешь! Лучше книжки пиши, СИИ - это скорее всего не твое.
Удачи!
[Ответ][Цитата]
Luarvik.
Сообщений: 17287
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 18 окт 19 1:23
-> TimKruz
Должок возвращаю.

Все дело в том, что действительно полная т.ск. комплектация должна включать и того, кто создает правила, по которым функционирует КК.
Цитата:
Автор: TimKruz
Предположим, есть базовый набор правил. Эдакие заповеди, которые свалились в китайскую комнату извне. Следуя этому базовому набору, внутренний исполнитель создаёт все остальные правила, которые используются вторым исполнителем или им же самим.

Исполнитель НЕ СОЗДАЕТ никаких новых правил, он только исполняет предписанные.
Цитата:
Автор: TimKruz
Смысла этих правил никто в комнате не понимает - они только слепо следуют базовым правилам, а снаружи это выглядит как разумное поведение, включающее в себя запоминание информации.

Вот именно - "снаружи выглядит как", но только снаружи и выглядит.
Цитата:
Автор: TimKruz
Биологическая аналогия: базовый набор правил - это ДНК, которой следуют все клетки, а вот совместная деятельность клеток порождает все остальные "правила", которые суммарно образуют человеческое поведение. Или поведение животного, растения или вообще всего, что там может состоять из биологических клеток.

Да-да, те самые остальные правила, которые нигде и никем не писаны и на которых, собственно, все Ваши небесные заповеди и заканчиваются.
(В ДНК нет никаких правил. Это набор шаблонов для того, чтобы материи настрогать с нужными свойствами, не более.)
Цитата:
Автор: TimKruz
Вообще, может ли человек быть разумен, если ни одна из его клеток не понимает, что она делает и частью какого организма является? Клетки - тупые химические автоматы, просто слишком сложные и слишком мелкие, чтобы мы могли ими свободно манипулировать.

Клетки - не автоматы, а минимально разумные, живые существа. И если хорошо покопаться в "разумных основаниях" человека, то как раз до клеток и можно дойти (но не дальше !).

Автомат не может быть разумным по определению, а выражение "разумная программа", равносильно утверждению, что рецепт салата есть повар.
Цитата:
Автор: TimKruz
Я под "разумной программой" подразумеваю не исходные коды программы, а уже запущенный экземпляр программы, в который загружена обученная база данных, с которой эта программа производит какие-то манипуляции.

Какая разница, коды или работающий алгоритм. Один хрен.
Разум - не алгоритм. Надеюсь, когда-нибудь до Вас это дойдет.
Цитата:
Автор: TimKruz
Если уж сравнивать, то исходный код программы и даже просто скомпилированная, но не запущенная программа - это как человек, разобранный на кучку клеток...

Да даже если Вы ее запустите, ума железу не прибавится.

И потом, разве можно научить быть разумным?
Цитата:
Автор: TimKruz
Дети-маугли разумны? Если нет - значит, научить разуму можно. Если да - значит, нельзя.

Разумны, безусловно, и обезьяны разумны и тараканы.
Научить разуму нельзя не потому, что маугли разумны (здесь у Вас что-то в логике сломалось), а потому что разум - не шаблон поведения, не привычка, не автоматизм.
Цитата:
Автор: TimKruz
Аналогично с обезьянами - разумна ли обезьяна, с которой можно вполне осмысленно общаться языком жестов? Если да - её обучили разуму, если нет - она изначально была разумна, и её обучили только языку.

- не, это какая-то глупая логика и выводы такие же.
Цитата:
Автор: TimKruz
Если и когда разумный ИИ будет создан, можно будет сказать, что "компьютер наделили разумом". Но разве наделение разумом возможно, если ему нельзя научить?

Вы для начала определитесь, чем разумное отличается от неразумного и что называть разумом, а то получается, что Вы говорите не зная о чем и соотв. вообще не понимаете, о чем говорите.

Все, что демонстрирует т.н. "разумное" поведение, должно по умолчанию признаваться неразумным, до выяснения причин.
Цитата:
Автор: TimKruz
Предлагаю применять эту методику на улице. Встретил прохожего - вроде ведёт себя разумно, но вдруг это какая-то странная и потенциально опасная фигня?.. Вскрытие покажет, как говорится.

(Ну, Вы же в голову чужую не влезете и что он задумал - не знаете и узнать не сможете, пока он Вас резать не начнет.)
Все живое разумно, а демонстрируют "разумное" поведение (имитируют) всяческие претендующие артефакты, вот о них и речь.

Обучают для того, чтобы научить ДУМАТЬ, мыслить и в конечном итоге - управлять мышлением (и не только своим, отметим скромно).
Цитата:
Автор: TimKruz
Если мышлению можно обучить, значит мышление - это навык. Если мышление может быть неправильным, значит этот навык не свойственен биологическому мозгу исходно, и прививается каждому человеку с нуля (в процессе случаются ошибки).

Обучение мышлению заключается не в том, чтобы кто-то вообще начал мыслить, но чтобы этот кто-то научился мыслить ПРАВИЛЬНО, с тем, чтобы получить выводы, которые адекватно согласуются с реальными фактами.
Цитата:
Автор: TimKruz
Собственно, почему машину можно обучить простым навыкам, но нельзя мышлению?

Потому что мышление - это, условно говоря, "деталь конструкции"
Машину ничему нельзя научить. Учится только тот, кто способен этот процесс осознавать, а все остальные - дрессируются/программируются.

Знания - ресурс, которым нужно уметь пользоваться/управлять, а когда управлять некому - сливай воду.
Цитата:
Автор: TimKruz
Управляет компьютер, выполняющий специальную программу. Вот сначала пишем программу, которая может принимать в себя "знания", а потом обучаем всему тому, что сами умеем.

Компьютер ничем не управляет, а Вы не в театре марионеток.
Цитата:
Автор: TimKruz
Только не нравится мне этот термин - "знания". Что он обозначает? Способность человека или другого существа высказать то, что он ранее слышал? Нет, это и магнитофон умеет (бумага с чернилами тоже). Способность применять узнанное на практике? А что, если узнать-то узнал, а применить не можешь - это не знания, получается? Я вот много чего знаю, но на практике применить не могу...


Пора бы уже разобраться, а то, что есть разум - не знаете, что есть знание - не знаете... А тогда какого черта Вы сюда лезете со своим рецептами ? За жисть потрепаться ?
Цитата:
Автор: TimKruz
Удобно говорить, мол, "компуктер этот ваш не умеет знаниями управлять, от того-то и не умный совсем". Но описать способ хранения знаний в голове тоже никто не может, даже устройство воспоминаний ещё никто не объяснил...

Компуктер Ваш вообще ничего не умеет и уметь не может, ничего.
Цитата:
Автор: TimKruz
Или вот. Обладает ли нейросеть, распознающая котиков, знанием о котиках? Она не может нам ничего рассказать, она не может что-то с этим знанием сделать. Но это ведь не данные, потому что данные - сама нейросеть, то есть информация о весах нейронов и что там ещё. Есть ли у такой нейросети знания? Котиков-то распознаёт, то есть, вроде как, знает о том, как выглядят типичные фотографии котиков...

Нет у нее никаких знаний. Знание это не то, что в одних книжках прочитывают и в другие переписывают.
[Ответ][Цитата]
Misteryest
Сообщений: 1044
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 18 окт 19 2:18
Изменено: 18 окт 19 2:21
Цитата:
Автор: TimKruz

Мне кажется, что мозг по похожей схеме построен - иначе какой смысл в двух отдельных больших полушариях, если в каждый момент времени телом руководит только одно из них?.. Или вот внутренний диалог, когда человек спорит сам с собой на какую-то тему и в итоге приходит к решению проблемы. Мы говорим "сам с собой", но на деле там скорее всего несколько отдельных участков нейросети/отдельных нейросетей возбуждают друг друга, что выглядит в форме диалога с точки зрения речевой зоны коры.

Единственное, нам не безразлично, чтобы все спорящие друг с другом программы были хоть сколько-нибудь разумны/интеллектуальны.


Единственное замечание на тему мозга.
Движениями руководит мозжечок и подкорковые структуры. То есть, (теоретически) конечно можно "принять решение" (сверху, в коре) подвигать рукой, но исполнением таки займутся они.
И кстати говоря, из серии "Это любопытно", - в мозжечке больше нейронов, чем в коре. Там - 50 миллиардов, а в коре - около 18. То есть, на то, чтобы тебя не колбасило тратится значительно больше ресурсов организма, чем на то, чтобы придумать этот текст (или любой другой).
[Ответ][Цитата]
cortl
Сообщений: 258
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 18 окт 19 2:29
Изменено: 18 окт 19 2:47
Цитата:
Автор: cortl
Можно ли через боль заполучить друга?

Цитата:
Автор: TimKruz
Заполучить через боль нельзя, но не чувствуя боли - можно потерять.

Если боль исходит от одного из кандидатов в друзья в отношении к другому - нет.
А когда: "Друг познаётся в беде" - да.
Это начало.
Чтобы продолжать быть друзьями необходимо продолжать испытывать эту внешнюю обоюдную боль или совместно достигать каких-либо успехов, с высот которых становится ясно, что предыдущее состояние было хуже текущего.

Цитата:
Автор: TimKruz
Представим ситуацию: робот А и человек Б пытаются стать друзьями. Человек Б может ощущать боль. Робот А не понимает концепцию боли, поскольку все сенсоры для него равнозначны (программист не выделил среди них болевые рецепторы).

Как буковками в коде можно выделить болевые рецепторы? имхо, нереально.
Если вы не согласны то как это сделать и сколько на это потребуется времени и кода или каков будет объём базы данных...?
Если ставить такую задачу надо точно понимать когда и какими усилиями её выполнение будет завершено.
То же относится и к "регулятору наслаждения".

Цитата:
Автор: TimKruz
Даже в истории человечества должны были быть случаи, когда раб предпочитал остаться с хозяином, если тот приносил ему меньше боли, чем предполагаемая свобода. Короче, добрый хозяин лучше жестокой свободы, потому что обеспечивает всем необходимым для жизни, тогда как на свободе ты сам по себе.

А если появится более добрый хозяин чем текущий?
Раб побежит к нему.
А если технологии позволят рабу существовать на свободе лучше, чем в рабстве?
Раб сбежит на свободу.

Вывод: вы продолжаете настаивать на рабстве - это плачевно.

Цитата:
Автор: TimKruz
Короче, речь о регулировании поведения, а не о "наказании ради наказания".

Покуда вы будете регулировать поведение своих рабов, а равно прошивать в них предустановленные регуляторы - это будут всего лишь рабы (слабые ИИ или программы).

Цитата:
Автор: TimKruz
Вот только сильный ИИ не получится, если он будет уметь только поощрять себя за всё хорошее, но не сможет наказывать себя за что-либо плохое. Да даже не сам себя, а чисто извне, потому что до самостоятельности ему придётся обучиться много чему от людей, а обучение - это всегда подавление неправильного и поощрение правильного.

До самостоятельности ему придётся обучиться много чему от окружающей среды. И в этой среде могут присутствовать люди. В этом случае люди по статусу должны быть равны ИИ. Иначе кроме рабов ничего не получится.

Цитата:
Автор: TimKruz
Ну и потом, даже слабые ИИ строятся по тому же принципу "кнута и пряника"...

Получаются исключительно рабы. Узколобые рабы.

Цитата:
Автор: TimKruz
Другими словами, даже если появится сильный ИИ, который "не будет испытывать боли" - по факту он не будет только отображать боль внешне, то есть корчиться и кричать. Но он всё равно будет иметь болевой механизм, который будет устранять неправильные модели поведения, иначе он никакой не сильный ИИ и, возможно, вообще не ИИ.

Боль и удовольствие, хорошо и плохо - это неизбежно будет у ИИ. Не важно как это будет выглядеть внутри и снаружи. И не имейте иллюзий, что у вас получится это реализовать самостоятельно инвазивными методами.

Цитата:
Автор: TimKruz
Нужно шире смотреть на понятия, когда речь идёт о чём-то новом.

Это в равной степени могли бы быть и мои слова по отношению к вам.
[Ответ][Цитата]
dvuobyomnyi
Сообщений: 168
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 20 окт 19 15:49
rrr3
Цитата:
Начинает утомлять. Ну да ладно еще разок попробую...
У тебя не идеи, а разные фантазии и хотелки. Фантазии и хотелки, это "идеи" оторванные от реальности. Есть люди, которых интересует реальность и возможность творить. Но есть люди, которых это все интересует в последнюю очередь, а в первую очередь то, как они будут выглядеть, им нравиться выглядеть, как исследователи и творцы... достигшие чего-то, высоко ценимого другими... Задумайся на секунду...

Если тебя утомляет существование других людей, что-то не так! (С уважением)
[Ответ][Цитата]
гость
188.170.195.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 20 окт 19 16:23
Цитата:
Автор: Misteryest
Единственное замечание на тему мозга.
Движениями руководит мозжечок и подкорковые структуры. То есть, (теоретически) конечно можно "принять решение" (сверху, в коре) подвигать рукой, но исполнением таки займутся они.

По-моему, были случаи описаны в литературе с удалением /травмой мозжечка, и все движения сохранялись, несмотря на его отсутствие. Была невозможна только тонкая координация движений. Не помню, где, но эти случаи подробно описаны, изучайте, мистер соболенко.
[Ответ][Цитата]
Misteryest
Сообщений: 1044
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 21 окт 19 4:07
Цитата:
Автор: гость


По-моему, были случаи описаны в литературе с удалением /травмой мозжечка, и все движения сохранялись, несмотря на его отсутствие. Была невозможна только тонкая координация движений. Не помню, где, но эти случаи подробно описаны, изучайте, мистер соболенко.


Это тот случай, когда исключение только подтверждает правило.
Почитайте, популярную заметку, мистер Краснодар (или Адлер?). Уже завидую вам, как погода?

[Ответ][Цитата]
гость
188.170.173.*
На: Мысленный эксперимент: вы создали разумную программу, но...
+1
Добавлено: 21 окт 19 6:53
Цитата:
Автор: Misteryest
Почитайте, популярную заметку.

И что там по ссылке, написано, что мозжечок руководит движениями (исполнением движений)? Нет, там написано, что мозжечок руководит координацией движений, разницу чувствуете? А почему там так написано? Потому, что движениями руководят другие структуры мозга, и находятся они не в мозжечке. Мне и за примером ходить далеко не надо - у моей родственницы был инсульт и у нее отнялась правая рука - так с мозжечком у нее было все в порядке, кровоизлияние было в коре ГМ, и она была бы рада пошевелить рукой, да не могла, поскольку структуры коры - исполнители двигательного акта - оказались поврежденными.
Я понимаю, что вы хотите показать, какой вы хороший специалист в области нейрофизиологии, но ваша фраза "мозжечок руководит движениями" - это фраза дилетанта.

Цитата:
Автор: Misteryest
мистер Краснодар (или Адлер?). Уже завидую вам, как погода?

Нет, не Краснодар и не Адлер, не знаю, почему у меня такой IP, я из Ростова. Погода хорошая, спасибо. 20 градусов, небольшой ветер и солнце. Помидоры спеют последние.. Завидовать мне не стоит, моя жизнь - это кошмар наяву.
[Ответ][Цитата]
Modelist
Сообщений: 161
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 21 окт 19 8:55
Цитата:
Автор: Luarvik.
Какая разница, коды или работающий алгоритм. Один хрен.
Разум - не алгоритм. Надеюсь, когда-нибудь до Вас это дойдет.
Тут не соглашусь. До этого времени со соглашался. )
В частности, если разум не алгоритм, то и невозможно создать СИИ. Функциональные аналоги систем живых существ как раз и есть алгоритмы. Систему управления ресурсами и есть алгоритм.
[Ответ][Цитата]
Modelist
Сообщений: 161
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 21 окт 19 8:58
Цитата:
Автор: Luarvik.
Знание это не то, что в одних книжках прочитывают и в другие переписывают.

Тогда что читают в книжках?
[Ответ][Цитата]
 Стр.4 (11)1  2  3  [4]  5  6  7  8  ...  11<< < Пред. | След. > >>