GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.7 (11)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Мысленный эксперимент: вы создали разумную программу, но...
r
Сообщений: 837
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 02 ноя 19 7:49
Изменено: 02 ноя 19 8:08
Цитата:
Автор: Андрей
В целом с этой схемой можно согласиться, уточняя детали. Не могу согласиться только с тем, что загадочная потребность "идёт изнутри". Изнутри "идут" только физиологические потребности и их разрешение инстинктивно или тривиально. А вот все трудные проблемные потребности (типа, хочу на Марс или хочу конфетную фабрику) "идут снаружи" (даже если они отложены во времени) и поэтому нет разницы между 1-ым и 2-ым видом ЦО, как Вы пишите. По месту возникновения они все делегированы "снаружи". Если не согласны - прошу пример.
Физиологические потребности это капля в море. Остальных потребностей гораздо больше, если хорошенько их детализировать, но если говорить с высокой абстракцией, то это потребности от особенностей психотипа личности, экстраверсии/интроверсии, сексуальных предпочтений, личного вкуса (типа эстетические предпочтения, или вот кто-то хочет на Марс, а кто-то любит когда тепло и поэтому хочет только на Венеру), психических/соматических заболеваний. Только часть потребностей обуславливается опытом (воспитанием и т.д.), остальные обуславливаются генетикой, условиями жизни, случайностью. Конфетную фабрику хотят все, но дьявол он в деталях. Какую именно конфетную фабрику хочет именно конкретный человек, какие конфеты нравятся именно ему? Все это индивидуально. И сколько вы ему не рассказывайте, какой Красный мак вкусный, когда он любит Коровку, вкус у него от этого не поменяется.
[Ответ][Цитата]
Андрей
Сообщений: 3943
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 02 ноя 19 12:26
Цитата:
Автор: r
Только часть потребностей обуславливается опытом (воспитанием и т.д.)
Вот именно эти потребности нас и интересуют в контексте создания искусственных интеллектов. Как они появляются/закрепляются/работают. Потому что ИИ интересен именно своей способностью воспринимать делегированные ему извне потребности и удовлетворять их (для нашей вящей пользы). А индивидуальные человеческие генетические девиации могут интересовать психологов, психиатров и тех, кто (зачем-то) намерен делать искусственных людей.
[Ответ][Цитата]
r
Сообщений: 837
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 03 ноя 19 5:20
Изменено: 03 ноя 19 5:35
При создании ИИ придется брать во внимание все типы ЦО. Да, ИИ интересен своей потенциальной способностью решать задачи извне. Но нужно еще сделать так, чтобы он был интересен наличием у него желания эти задачи решать.
Могу предположить зачем нужно пробовать делать искусственных людей. Может и не делать, но заранее изучать их будущие свойства, чтобы быть к ним готовыми когда они вдруг появятся (например из другой страны), а повлиять на их появление мы будем не в состоянии. Предположение заключается в том, что существующие страшилки насчет того, что ИИ восстанет против человека небезосновательны. У человека в этом плане установлена защита (или даже несколько защит), поэтому полноценно сформировавшегося человека мысли об уничтожении человечества не посещают. А несформировавшегося социум так близко к рычагам управления не подпустит, чтобы он мог существенно на что-то влиять. Иногда и такое случается, но не так часто, как могло бы. Вот эти защиты нужно как-то вычленить и внедрить.

Оба вышеописанные моменты относятся к 1му типу формирования целевого образа. То есть, повторюсь, почему нужно обратить внимание и на 1й тип:
1. Желания человека делегировать машине свои проблемы мало. Нужно еще желание машины принимать эти проблемы извне и делать их своими собственными. То есть нужно поселить внутрь машины механизмы, схожие с механизмом служения у собак. То есть в списке потребностей должна присутствовать потребность угодить хозяину, и собственно опредмеченная ситуация, когда хозяин доволен. Между этой ситуацией и потребностью, нет никакой логической связи, она просто удовлетворяет эту потребность и все. Как сексуальное возбуждение, оно просто возникает на определенный стимул и все, и никто вам не скажет почему именно на этот стимул (и у каждого этот стимул может быть другой).
2. Именно потому, что между потребностью и ее опредмеченной ситуацией, нет никакой логической связи (вообще, часто она все таки есть, но бывает, что и нет), это представляет особую опасность, когда злоумышленник (или вирус и т.д.) получит доступ (особенно массовый) к изменению этой связи (потребность<->удовлетворяющая ситуация) и например подменит "хозяин доволен", на "хозяин недоволен". С человеком проще, где хранится в мозгу эта связка, никто не знает. Да, есть инструменты, вроде гипноза, но ими еще надо уметь пользоваться, да и результат не всегда гарантирован. А если нет логической связи, то и нет возможности внедрить в машину эффективные защитные механизмы самоконтроля.
[Ответ][Цитата]
Андрей
Сообщений: 3943
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 03 ноя 19 9:38
Цитата:
Автор: r
полноценно сформировавшегося человека мысли об уничтожении человечества не посещают
"Конечно, это катастрофа, всемирная. [...] агрессор должен знать, что возмездие неизбежно. Что он будет уничтожен. Ну а мы - жертвы агрессии. И мы как мученики попадем в рай, а они - просто сдохнут."
©В.В.Путин

Цитата:
Автор: r
нужно поселить внутрь машины механизмы, схожие с механизмом служения у собак. То есть в списке потребностей должна присутствовать потребность угодить хозяину
Абсолютно верно. Причём эта потребность, в служении хозяину, должна иметь высочайший приоритет, быть постоянной доминантой. Тогда естественным выглядит и применение таких терминов как "раб" и "слуга".

Цитата:
Автор: r
где хранится в мозгу эта связка, никто не знает
Здесь нет никакой загадки или даже какого-то особого спец-механизма. Знания о том, чьи команды (приказы, задачи, задания, ценности, нормы, цели и другие синонимы) следует принимать, как свои потребности, а какие можно игнорировать, берутся человеком из ретроспективного анализа своего жизненного опыта. При этом определяется связь новых стимулов, с удовлетворением старых потребностей. Дети слушают своих родителей потому, что те кормят их, одевают и дарят игрушки. Подчинённый принимает задачи начальника, как свои потребности, потому что у начальника есть власть над зарплатой и увольнением. Я, например, в качестве высшей потребности, выполняю законы государства. Потому что государство имеет наиболее мощный и надёжный механизм поощрения и наказания в виде судов, пенитенциарных органов, полиции, социальных гарантий и т.п. Поэтому я подчиняюсь начальнику ввиду такого требования Закона. Но если Закон говорит одно, а начальник - противоположное, то я игнорирую начальника.

Конечно, ввиду вышесказанного, можно так обустроить жизненный опыт робота, чтобы он из ретроспективного анализа этого опыта вывел, что принимать потребности некоего господина, как свои - выгодно. Но не слишком ли много чести сначала делать роботу искусственные потребности, потом их искусственно удовлетворять, чтобы намекнуть на то, кто тут главный? Образ хозяина, как источника незыблемых норм и потребностей, должен быть, имхо, вшит в робота до запуска любых процедур обучения, чтобы избежать тех рисков неподчинения или утраты контроля, о которых Вы говорили выше. Да, это не будет в полной мере искусственный человек, со свойственной ему борьбой внутренних страстей (врождённых потребностей) и морали (потребностей извне). Зато это будет просто сверхнадёжный, эффективный, безопасный, покорный, персонально мой, искусственный, интеллектуальный раб.
[Ответ][Цитата]
гость
188.170.193.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 03 ноя 19 15:28
Цитата:
Автор: Андрей
Зато это будет просто сверхнадёжный, эффективный, безопасный, покорный, персонально мой, искусственный, интеллектуальный раб.

Насчет интеллектуального раба, вы действительно хотите такого? Если он будет умнее вас раз в 10 грубо говоря, то рядом с ним вы будете ощущать свою интеллектуальную ущербность(или вам все равно?). Потом, вы же реально перестанете пользоваться вашей головой, поскольку поймете, что это бессмысленно, и ваш раб справится с любой интеллектуальной задачей лучше и быстрее вас.
[Ответ][Цитата]
Андрей
Сообщений: 3943
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 03 ноя 19 16:19
Цитата:
Автор: гость 188.170.193.*
вы действительно хотите такого?
рядом с ним вы будете ощущать свою интеллектуальную ущербность
вы же реально перестанете пользоваться вашей головой
ваш раб справится с любой интеллектуальной задачей лучше и быстрее вас
Да. Да. Да. Да. Вы правы по всем пунктам. Но, к сожалению, это неизбежно, ввиду того, что существующая несправедливая форма эксплуатации человека человеком не оставляет нам другого варианта. Потребность в искусственном рабе вызовет его к жизни, а он, в свою очередь, овеществит Тотальное Изобилие, которое станет началом конца всех человеческих потребностей.
[Ответ][Цитата]
гость
188.170.192.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 04 ноя 19 15:04
Цитата:
Автор: Андрей
..что существующая несправедливая форма эксплуатации человека человеком..

Забыл спросить, а почему вас собственно, беспокоит эксплуатация человека человеком? Ваша мечта о рабах уже в общем-то сбылась, за тем исключением, что рабы в настоящий момент не искусственные, а живые. Но, в этой системе "рабовладелец - раб" никто не говорит о несправедливости, и рабы и рабовладелец находят данную систему естественной, попробуйте оставить рабов без рабовладельца, они ведь растеряются и не будут знать, что им делать с внезапно наступившей свободой..
[Ответ][Цитата]
r
Сообщений: 837
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 04 ноя 19 15:20
Изменено: 04 ноя 19 15:26
Цитата:
Автор: Андрей
"Конечно, это катастрофа, всемирная. [...] агрессор должен знать, что возмездие неизбежно. Что он будет уничтожен. Ну а мы - жертвы агрессии. И мы как мученики попадем в рай, а они - просто сдохнут."
©В.В.Путин
Путин это пример несформировавшегося человека. Я не берусь утверждать, что это его вина, просто все произошло слишком быстро, он не успел сформироваться. Количество денег (либо власть) можно сравнить с давлением внутри баллона. Если в корпусе баллона изначально был маленький дефект, при медленном росте давления внутри, этот дефект можно успеть залатать. Когда же давление возрастает черезмерно быстро, мельчайшая трещина превращается в огромную дыру. Одним из признаков сформировавшегося человека есть то, что его внутренний мир стремиться отражать реальность как можно точнее. У Путина из-за очень быстрого перехода от "моли" к владыке империи, произошел в этом плане перекос - возникло ложное чувство всесильности, с заявкой на властелина Мира. Но неожиданно оказалось, что этот титул уже занят, более старой структурой, гораздо более могущественной, которая уступать давно насиженное место не собирается. От столкновения с реальностью, товарищ начинает вести себя по-бунтарски, как подросток, от чего растеривает те крохи уважения мировых лидеров к себе, которые были. И видя это неуважение, ведет себя еще более подростково-неадекватно. Да это пожалуй эталон несформировавшейся личности.

Цитата:
Автор: Андрей
Абсолютно верно. Причём эта потребность, в служении хозяину, должна иметь высочайший приоритет, быть постоянной доминантой. Тогда естественным выглядит и применение таких терминов как "раб" и "слуга".
Я может и не против, чтобы она была основной, только не бывать этому. Страшно, что всегда найдется тот, кто сможет понизить ее приоритет, а то и вообще подменить для этой потребности одну ситуацию на другую.

Цитата:
Автор: Андрей
берутся человеком из ретроспективного анализа своего жизненного опыта. При этом определяется связь новых стимулов, с удовлетворением старых потребностей. Дети слушают своих родителей потому, что те кормят их, одевают и дарят игрушки.
Почему тогда только ретроспективного а не и перспективного. Вообще мне кажется нельзя причесать детей под одну гребенку, в разном возрасте и у разных родителей они действуют по разной схеме. Мне вот кажется, что дети слушаются родителей потому что:
1. У авторитарных родителей:
а). В младшем возрасте потому, что просто боятся наказания/боли
б). В среднем возрасте потому, что осознают свою физическую беспомощность
в). В старшем возрасте потому, что осознают свою временную финансовую беспомощность, с намерением при случае (когда ситуация кардинально поменяется, и родители станут беспомощными) отомстить.
2. У более развитых родителей:
a). В младшем возрасте потому, что родители умело манипулируют вниманием и потребностями ребенка
б). В более позднем возрасте потому, что родители ведут постоянный диалог и пытаются объяснить ребенку как все устроено в жизни (возможно продолжая не брезговать манипуляциями).
3. А родителей, которые самоустраняются от процедуры воспитания (силовой или манипулятивно-диалоговой), никто слушать не будет в любом возрасте. Еда, одежда, игрушки будут восприниматься как данность (с нулевой ценностью).
Отсюда вывод: путь принуждения (а отношения хозяин-раб им и являются) - путь самый легкий, но и самый опасный.

Цитата:
Автор: Андрей
Подчинённый принимает задачи начальника, как свои потребности, потому что у начальника есть власть над зарплатой и увольнением.
Тут я бы тоже перефразировал. Вообще, что касается увольнения, то в наше время это к делу не относится. Боязнь увольнения это только в голове. Если у человека есть такой страх, то это значит он не занимался саморазвитием, не осваивал другие виды деятельности. Не подстелил себе соломки так сказать. То есть виноват в этом только он сам. Есть много людей, которые вкладывали в себя, и которым приходится отбиваться от работодателей. Про власть над зарплатой тоже не совсем верно. С моей точки зрения найм это равноправное соглашение, в котором работник обязуется принимать проблемы работодателя, как свои, а работодатель, взамен, обязуется частично удовлетворить потребность работника в деньгах (в той степени, в какой квалификация работника соответствует уровню тех проблем компании, которые необходимо решать).

Цитата:
Автор: Андрей
Я, например, в качестве высшей потребности, выполняю законы государства. Потому что государство имеет наиболее мощный и надёжный механизм поощрения и наказания в виде судов, пенитенциарных органов, полиции, социальных гарантий и т.п. Поэтому я подчиняюсь начальнику ввиду такого требования Закона. Но если Закон говорит одно, а начальник - противоположное, то я игнорирую начальника.
Если честно, я не понял о чем Вы. Почему потребность соблюдать закон - высшая. Высшей потребностью должно быть качество жизни Вас и ваших близких, хотя бы тех, за кого Вы в ответе, это уже все зависит от количества ресурсов. А соблюдение законов это вынужденная мера, иначе качество жизни заметно ухудшится.

Цитата:
Автор: Андрей
Конечно, ввиду вышесказанного, можно так обустроить жизненный опыт робота, чтобы он из ретроспективного анализа этого опыта вывел, что принимать потребности некоего господина, как свои - выгодно. Но не слишком ли много чести сначала делать роботу искусственные потребности, потом их искусственно удовлетворять, чтобы намекнуть на то, кто тут главный? Образ хозяина, как источника незыблемых норм и потребностей, должен быть, имхо, вшит в робота до запуска любых процедур обучения, чтобы избежать тех рисков неподчинения или утраты контроля, о которых Вы говорили выше. Да, это не будет в полной мере искусственный человек, со свойственной ему борьбой внутренних страстей (врождённых потребностей) и морали (потребностей извне). Зато это будет просто сверхнадёжный, эффективный, безопасный, покорный, персонально мой, искусственный, интеллектуальный раб.
На самый главный абзац не хватило энергии, потому скажу кратко, я за партнерские отношения с умными машинами. И за полноценную реализацию ИИ. Если неполноценная (рабская) и будет существовать, то мне кажется недолго.
[Ответ][Цитата]
dvuobyomnyi
Сообщений: 168
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 04 ноя 19 17:58
Цитата:
Я, например, в качестве высшей потребности, выполняю законы государства. Потому что государство имеет наиболее мощный и надёжный механизм поощрения и наказания в виде судов, пенитенциарных органов, полиции, социальных гарантий и т.п. Поэтому я подчиняюсь начальнику ввиду такого требования Закона. Но если Закон говорит одно, а начальник - противоположное, то я игнорирую начальника.
/////
Если честно, я не понял о чем Вы. Почему потребность соблюдать закон - высшая. Высшей потребностью должно быть качество жизни Вас и ваших близких, хотя бы тех, за кого Вы в ответе, это уже все зависит от количества ресурсов. А соблюдение законов это вынужденная мера, иначе качество жизни заметно ухудшится.

Второе мнение - логичное, первое - двинутое, с помешанностью (фанатизмом ниоткуда не берущимся) на Г. Поддерживаемое софизмами и псевдопричинами. (Жаль убежал от обсуждения логики.)
[Ответ][Цитата]
Андрей
Сообщений: 3943
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 04 ноя 19 18:48
Цитата:
Автор: гость 188.170.192.*
почему вас собственно, беспокоит эксплуатация человека человеком?
Это хороший вопрос. Возможно, один из лучших. Попробую ответить тезисно, чтоб сильно не засорять.
1. Эксплуатация человека человеком - это корень большинства серьёзных бед и проблем в сообществе людей. Источник несправедливости и недовольства, войн, болезней, нищеты, извращений, разврата.
2. У людей-рабов есть спрос на роботов-рабов, которые облегчат их труд. У людей-хозяев есть спрос на роботов-рабов, которые будут работать качественнее, интенсивнее, дешевле.
3. Если бы люди работали не в напряг, пару дней в неделю, в своё удовольствие, то, возможно, я был бы осторожнее в своих прогнозах. Но людей эксплуатируют на износ. Я вижу, что общество, построенное на принципах безудержного потребления, капитализма, конкуренции, получения прибыли из всего - обречено на удовлетворение своей потребности - вызвать к жизни голема, абсолютного раба, потому что это - вершина желаний как рабов так и господ. Точка Омега, в которой сходятся и решаются все проблемы. Ирония состоит в том, что вместе со всеми проблемами человека решается, судя по всему, и сам человек. Здоровый выход просматривается в том, чтобы все вдруг одновременно остановились, одумались и вместо потребления во главу угла поставили экономию, оптимизацию ресурсов, рационализм, аскетизм. Вместо конкуренции - кооперацию. Вместо спешки - неторопливость. Но кто в это поверит? Я не верю. Выход только один - довести ситуацию до логического совершенства, т.е. до абсурда. Поэтому только хардкор, только ИИ!

Цитата:
Автор: r
Почему тогда только ретроспективного а не и перспективного.
Потому что жизненный опыт есть только в памяти, в прошлом. Даже если это жизненный опыт по прогнозированию.

Цитата:
Автор: r
Почему потребность соблюдать закон - высшая
Такое воспитание, так бывает.

Цитата:
Автор: r
Высшей потребностью должно быть качество жизни
Так тоже бывает, причём, к сожалению, чаще, чем хотелось бы.

Цитата:
Автор: r
я за партнерские отношения с умными машинами
Партнёрство подразумевает паритет, равноправие. Зачем Вы можете быть нужны машинам и в чём Вы можете быть с ними равны?
[Ответ][Цитата]
гость
188.170.194.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 05 ноя 19 2:43
Цитата:
Автор: Андрей
Здоровый выход просматривается в том, чтобы все вдруг одновременно остановились, одумались и вместо потребления во главу угла поставили экономию, оптимизацию ресурсов, рационализм, аскетизм. Вместо конкуренции - кооперацию. Вместо спешки - неторопливость. Но кто в это поверит? Я не верю.

Я тоже не верю, но этот единственный выход из положения рано или поздно наступит - или когда решат сами люди, или позже, когда закончатся ресурсы. Некоторые, кстати уже начали заканчиваться, не помню какие.

Цитата:
Автор: Андрей
У людей-рабов есть спрос на роботов-рабов, которые облегчат их труд.

А рабом вы, судя по всему, и не работали . Возьмите, поработайте на стройке несколько месяцев (если здоровье позволит), получите незабываемые впечатления. Одно из них - то что вы являетесь самым настоящим расходным материалом, при этом прораб может с вами даже говорить более или менее вежливо, но, как только у вас произойдет смещение позвонка после подъема 100000 мешка с цементом на 10 этаж, он лишь вызовет такси вам до дома(стоимость такси удержит из зарплаты раба) и скажет "минус один, следующий". Но, в большинстве случаев прораб грубит и кидается инструментами в рабочих, а все почему? Потому, что за воротами стоит мультинациональная очередь из узбеков украинцев и русских, и всем нужна работа, видите как просто.
А теперь подумайте, учитывая вышесказанное, нужны ли людям-рабам вдобавок ко всему еще и роботы-рабы? Тот же принтер, который печатает дом из бетона? Вряд ли они будут рады этому.
[Ответ][Цитата]
гость
188.170.194.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 05 ноя 19 3:13
Насчет того, нужны ли механические рабы рабовладельцам - а нафига, собственно, если за забором очередь из живых, готовых работать за копейку. Всех рабов, кого выгодно было заменить на автоматику, уже заменили, снизив тем самым зарплаты у живых рабов, и в данный момент система находится в равновесии.

Система "раб -рабовладелец" это, в общем-то, сбалансированная экономическая система, и пытаться туда добавить механических рабов - все равно что приделывать пятое колесо к телеге - быстрее все равно не поедет. Вывод отсюда следующий, спроса на СИИ особого нет, по крайней мере у людей, находящихся в системе "раб-рабовладелец" (в этой системе участвует не все 100% людей).
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 05 ноя 19 4:43
Цитата:
Автор: гость
...Вывод отсюда следующий, спроса на СИИ особого нет, по крайней мере у людей, находящихся в системе "раб-рабовладелец" (в этой системе участвует не все 100% людей).

Трудно с этим не согласиться.

Спрос на СИИ пока есть только научный. Пока не осознается возможная значимость исследования закономерностей существования и развития СИИ, для областей далеких от использования их с целью автоматизации производства или с целью создания роботов "высокого уровня".
[Ответ][Цитата]
Вольфрамовый клaпaн
Сообщений: 13070
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 06 ноя 19 7:37
[Ответ][Цитата]
гость
188.170.193.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 06 ноя 19 8:25
Думаю сейчас, какой группе населения может вдруг понадобиться СИИ. Разве что каким-нибудь любителям базового дохода и Тотального Изобилия, надеются, что ли, что он будет когда-нибудь. Тотальное Изобилие, между прочим есть уже сейчас, если кто не заметил, ассортимент товаров способен удовлетворить любые потребности (кроме маниакальных), но есть одно небольшое "но" - изобилие это не для всех, а только для людей с деньгами.
[Ответ][Цитата]
 Стр.7 (11)1  ...  3  4  5  6  [7]  8  9  10  11<< < Пред. | След. > >>