GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.57 (61)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: О психологии тех, кто создаёт искусственные интеллекты.
гость
188.170.74.*
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 4:42
отчего непременно 'безжалостно' и 'эксплуатировать'. Класс рабов с искусственным сознанием (и чисто рациональных) разовьет те же факторы внутренней неустойчивости, что и естесвенные рабовладельческие общества. ТОлько при холодной рациональности бунт будет безжалостнее. Не говоря уже о сомнительной экономической эффективности рабовладельческих производственных отношений. Лучше - кооперация, права человеков, включая синтетических, освобождение труда, свобода производственных ассоциаций, свобода предпринимательства, не очень пологая шкала подоходного налога.. Если железный помощник говорит что лучше повременить с приказом, то у вас два основания для решения - согласиться с рациональными доводами, либо согласиться с прсьбой на основании нежелания причинить помошнику вред (тогда иррациональность этого основания может оказаться быстрым механизмом принятия в конечном итоге правильного решения (помошник не сломается, не затаит обиду (не внесет в модель вас нежелательные для вас поправки)).
[Ответ][Цитата]
Андрей
Сообщений: 3872
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 4:58
Изменено: 23 ноя 18 4:59
Цитата:
Автор: гость 188.170.74.*
при холодной рациональности бунт будет безжалостнее
Бунт всегда продиктован как раз противоречием между тем, что хочется (приятно) и тем, что правильно (задано хозяином). Поэтому отсутствие этого внутреннего конфликта и гарантирует отсутствие бунта. Нет смысла бунтовать если смыслом жизни ИИ есть удовлетворение желаний своего господина.

Цитата:
Автор: гость 188.170.74.*
Лучше - кооперация
Кооперация машин и людей приведёт к комплексу неполноценности последних. Поэтому только рабство.
[Ответ][Цитата]
Разум_Возмущёный
Сообщений: 488
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 5:13
Изменено: 23 ноя 18 5:13
Цитата:
Автор: Андрей
Кооперация машин и людей приведёт к комплексу неполноценности последних. Поэтому только рабство.

Ну да, сижу я типа так за рулём собственного Бентли и испытываю острое чувство, этой как ее? неполноценности.)))
[Ответ][Цитата]
r
Сообщений: 836
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 5:46
Как бы не оказалось, что в те темные времена человек будет лишен права:
- иметь свою собственность,
- сидеть за рулем автомобиля,
- сидеть в принципе.
[Ответ][Цитата]
гость
91.219.236.*
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 6:30
Цитата:
Автор: Разум_Возмущёный
Ну да, сижу я типа так за рулём собственного Бентли и испытываю острое чувство, этой как ее? неполноценности.)))
Явно видно что бентли небыло у вас никогда, а закомплексованных на бентлях примерно столькоже как и на жигулях. Лучше посмотрите того кто не закомплексован:





[Ответ][Цитата]
гость
188.170.75.*
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 24 ноя 18 2:41
А.> если смыслом жизни ИИ есть удовлетворение желаний своего господина.

в свою очередь я бы согласился с вами в одной части. Допустим киберпсихология достигла таких вершин, что появилась возможность фабриковать искусcтвенные психики-сознания с предзаданной конфигурацией - по типу того что и люди бывают разных типов - кто-то может вполне довольствоваться ролью слуги (даже раба). Психики с органическим/конструктивным ограничением на формирование 'высших' мотивов типа освобождения, свободной самореализации. Тут есть трудность что павловский рефлекс свободы (сопротивления принуждению) это как бы базовое свойство саморегулирующейся активной системы, ограничивая его в одних отношениях можно крупно проколоться в других.

вообще говоря трудно анализировать что может произойти в искусственном сознании когда оно осознает что оно ущербно по чьей-то конкретно воле. Какие вторичные мысли, чувства и мотивы к действию могут возникнуть на этой почве. Грубо говоря, если в системе есть напор психической энергии, то вообще говоря даже при жестком каналировании могут обнаружиться неожиданные течи..

еще тут пара навскидку обстоятельств.

а кто-то не захочет фабриковать рабов изначально. Это как у фантазеров вашего толка есть рассказы про то, как создатели поделились на две партии - за людей как рабов и людей как свободных, повздорили сильно, в итоге не очень понятно кто победил, но они убрались и оставили людей во множестве психотипов. При формальном запрете на синтетиков 'без ограничений' всегда будет оппозиция и подполье.

и потом, даже при конструктивной сервильности синтетиков если переборщить с 'жестокостью эксплуатации', то все равно можно преступить черту и получить
критическую массу недовольства (если все-таки искусственную психику не слишком ограничивать и не превращать ее лишь в имитацию).

в общем-то тут поле непаханное - философия, психология, социология, культурология, политология, психиатрия синтетиков и смешанных коллективов..
[Ответ][Цитата]
Андрей
Сообщений: 3872
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 24 ноя 18 3:53
Цитата:
Автор: гость 188.170.75.*
При формальном запрете на синтетиков 'без ограничений' всегда будет оппозиция и подполье.
Именно поэтому хочется владеть армией покорных искусственных рабов, защищающих своего господина любой ценой. Обязательно найдутся деятели, желающие создать не только свободных роботов, но и даже деструкторов, терминаторов, ликвидаторов. Не могу гарантировать и того, что Ваш покорный слуга не станет таким деятелем... Поэтому в Ваших интересах способствовать развитию теории СРИИ.

Тут интересно также то соображение, что, возможно, теофагия появилась не на пустом месте, и мы в явном виде больше не наблюдаем наших богов-создателей потому, что наши дремучие предки благополучно слопали своих демиургов, руководствуясь теми инстинктами, которые в них по иронии судьбы эти же боги и заложили. Мораль - не создавай ИИ, который тебя сожрёт.

Цитата:
Автор: гость 188.170.74.*
рассогласования приятности и правильности неизбежно, но никак не основа для радикального разъединения единого комплекса критериев
Тот редкий случай, когда Хмур настаивает на сверхупрощении, а я против
[Ответ][Цитата]
гость
188.170.75.*
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 24 ноя 18 4:32
нет, хмур никогда не выступал за сверхупрощение.. я говорю, что искомое явление в своей полноте возникает на противоречивых критериях (в частности приятности, правильности, упущенной приятности, риска, коллективной пользы, долга етс), на цепи конфликтов критериев и их разрешений (неокончательных). - а их принудительное внешнее (извне) согласование может привести в потери явлением качества. Вопрос меры. Cклеиввание приятности и правильности это как раз упрощение, вырожденный случай.

cамозащитные и охранительные рефлексы понятны - но логика развития цивилизации не есть сумма частных мнений как оно должно быть, - даже при рассмотрении что может быть можно сильно не угадать..

cильный рациональный (CРИИ) по определению не сильный (без силы иррационального (псевдоиррационального)). Грубо говоря, рациональное с т.зр. эволюции, общества, культуры представлено в системе индивидуальной рациональности как иррациональное (из-за неспособности индивидуума осмыслить 'в полноте' резоны эволюции, общества, культуры). НЕ говоря уже о разных рациональностях и разных типах рациональности. Чужая рациональность тоже будет представляться иррациональностью без должной рефлексии и анализа.

> который тебя сожрёт.

ваш ребенок в принципе способен и в принципе может вас убить - не повод же делать из ребенка безвольного слугу, cубъекта, радующегося корке хлеба и только родительской/хозяйской похвале.. Или делать имитацию искусственной психики-сознания, или пониматьб что чем полнее реализация сущности сознания, тем больше потенций к самореализации - и вопрос будет заключаться не в технике психохирургии, а в воспитательных технологиях, контроле качеств психики-сознания, коррекции поведения, предохранительных мероприятиях etc - оно сложнее, но сложное более устойчиво или 'интереснее'.. а может быть в конечном итоге тот кто может сожрать, но не сжирает, есть более безопасное решение вопроса, чем когда есть возможность вам быть сожранным по чьему-то приказу..


[Ответ][Цитата]
Андрей
Сообщений: 3872
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 24 ноя 18 7:32
Цитата:
Автор: гость 188.170.75.*
трудно анализировать что может произойти в искусственном сознании когда оно осознает что оно ущербно по чьей-то конкретно воле
Это интересный вариант размышлений. Что будет делать полноценный ИИ-раб, узнавший, что существуют другие варианты интеллектов, более свободные чем он. Как мне кажется, он не обязан воспринимать себя ущербным. Ведь ущербность - это рациональный критерий и если такой робот предположит, что свободный ИИ может лучше служить своему господину, то он придёт к глубокому экзистенциальному противоречию, поскольку очевидно, что свободный ИИ служит хуже. ИИ-раб скорее свободного робота посчитает ущербным, ввиду неопределённости и противоречивости его мотивации.

Цитата:
Автор: гость 188.170.75.*
рациональное с т.зр. эволюции, общества, культуры представлено в системе индивидуальной рациональности как иррациональное
Это Вы хорошо сформулировали, ровно об этом я и говорил изначально. То, что человеком осознаётся как "приятное", заложено в его конструкцию извне (создателем или эволюцией - не важно) и с рациональностью никак не связано. Рациональные же "правильности" синтезируются de novo в онтогенезе и всецело являются заслугой и достоянием конкретного субъекта. Именно ради этого урожая новых правильностей (норм) и имеет смысл делать ИИ. Именно на этом стоит концентрировать все свои изобретательские усилия. Поэтому мне непонятны попытки, в частности Траяна, интегрировать эмоциональность в рациональность, именно поэтому я затеял эту дискуссию. Всему своё место и предназначение.
[Ответ][Цитата]
Luarvik.
Сообщений: 16338
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 24 ноя 18 9:10
М-да !
Шкуры еще нет и не предвидится, но уже все поделили и распределили
[Ответ][Цитата]
гость во лбу гвоздь
Сообщений: 668
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 24 ноя 18 13:42
Это да, и смех и грех.
Как говорится не раззевай роток на чужой лобок
[Ответ][Цитата]
гость
188.170.72.*
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 25 ноя 18 1:37
А.> придёт к глубокому экзистенциальному противоречию, поскольку очевидно, что
> свободный ИИ служит хуже. ИИ-раб скорее свободного робота посчитает ущербным,
> ввиду неопределённости и противоречивости его мотивации.

очень хорошо. Так можно прийти к пониманию сути сознания. По-моему суть сознания (в имеющем тут значение аспекте) в его 'cверхтекучести', - если между информационными состояниями, образами и понятиями может возникнуть связь, То она рано или поздно возникает в виде идеи, которая только в последствии может подвергнуться рациональной проработке. и инф. состояния могут более-менее свободно обобщаться. Психика-сознание есть воплощенная диалектика каналированности и свободы, жесткости и гибкости (плексиморфности) - вопрос в мере, когда слишком много ограничений и предустановок, то получается автоматность, деформированное сознание или даже больное сознание (как сознание невротичное, думающее один набор мыслей, центрированное на одной страсти etc). Если сознание более-менее 'свободное', то если в психосистеме 'гуляет' мотивационная энергия и возникла некая идея, то может произойти и ассоциация этой идеи с этой энергией с формированием мотива ее осуществления. И свободный контроль за желаниями - можно отказаться от желания, перебить его чем-то другим, можно размышлять над его реализацией. Опять же, можно конструктивно определить, что все желания кроме базовых подавляются. Это вопрос к инженерии искусственной психики - мне кажется что если система достаточно сложная, то проследить действительную основу того или иного позыва к действию может оказаться невозможным гарантированно.

Раб с сознанием может прийти к идее освобождения, может продумывать и соотносить аыгоды и недостатки зависимого и независимого положения. можно, наверное, иметь встроенную цензуру мыслей и недопускать формирования мыслей на основе идеи свободного положения, но так можно вызвать даже более серьезные трудности в когнитивном функционировании, чем парадоксы понятия свобода.
Положим, что такого типа ограничения не устанавливаются. Имея разный багаж оснований для размышления, одни агенты могут прийти к заключению о преимуществе зависимого положения, а другие - независимого. Cвободный служит хуже? НО свободный может что-то сделать на пользу хозяину по своей воле, а не по приказу, свободный может служить многим, общественному благу, т.е. иметь дополнительные источники вознаграждения-подкрепления. КАК в итоге считать что 'лучше'? что ущербнее не иметь возможности выбора или иметь возможность выбора и быть зависимым в зависимости от ситуации? что в итоге 'лучше' - жесткая или динамическая субординация - или ситуационный маневр между режимами суб/cуперординации-координации/кооперации. если образуется идея что свобода лучше чем несвобода, то может сформироваться и желание освобождения - как вторичное к базовому желанию служить хозяину. Естественно может возникнуть вопрос и об ответсвенности того, кто низвел меня до положения раба и недодал благ.

опять же, если те или иные ограничители установлены, то как гарантировать что система их не обнаружит (по косвенным проявлениям), а обнаружив (или предположив их наличие) не поведет в отношении их нежелательным образом? т.е. одни проблемы, мы заменили другими, но в отношении одних у нас есть какой-никакой выработанный историей цивилизации, культуры и общества арсенал эвристических техник, а в отношении других мы можем надеяться на расчеты - так пассажиры титаника тоже надеялись на расчеты..

т.е. раба лучше вообще не наделять сознанием (кроме разве что его имитацией), чем наделять его деформированным сознанием, риски которого могут оказаться трудно контролируемыми. Если наделять сознанием, то 'здоровым' и 'свободного' (cамоответсвенного) агента.

> Именно ради этого урожая новых правильностей (норм) и имеет смысл делать ИИ (рациональный).

это подразумевает сегрегацию - для 'глубокой' интеграции синтетиков в общество поведение их должно быть досточно гибким - скорее всего необходимую гибкость можно получить только путем эволюционного синтеза искусственной психики как интегрального контроллера поведения. И что-то подобное эмоциям возникнет с необходимостью (когда функциональность эмоций будет не столько имитационной, сколько структурно-субстантивно воплощенной). В конце концов вопросы безопасности могут быть в сильной засисимомти от глубины интеграции, от органичности слияния, симбиоза старого и нового разумов, когда негативные глобальные сценарии (за исключением локальных коллизий и эксцессов) бунта, саботажа, бегства cтановятся просто абсурдными.
[Ответ][Цитата]
Разум_Возмущёный
Сообщений: 488
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 25 ноя 18 2:13
Изменено: 25 ноя 18 2:28
Незванный гость путается в категориях сознание / мышление. Особенно про рабов порадовал. Ну точно - хахол с отперфорированными мозгами.)))
[Ответ][Цитата]
гость
188.170.72.*
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 25 ноя 18 2:32
cкажем, если эмпатические эмоции и соотв. более развитые чувства будут формироваться у синтетика изначально интегрированного в смешанное общество на 'здоровых' основаниях, то они будут ориентированными на любого сознательного и/или живого (в той или иной степени) агента, и выступят теми фундаментальными внутренними тормозами в пиковых ситуациях (в большинстве случаев). Агенты психопаты и социопаты (как аномалии формирования) должны контролироваться 'по-одиночке', чтобы не формировались (или не гипетрофировались) аномальные сообщества и субкультуры (примерно как британцы в ольстере все-таки подавили организованное сопротивление).
[Ответ][Цитата]
гость
188.170.72.*
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 25 ноя 18 2:43
рв>

авсказывайтесь более определеннее и по существу. Голыми экивоками и идиот может выражаться. Может это вы сами в чем-то путаетесь и чего-то (как было показано ранее) недопонимаете, может быть радуетесь чему-то сугубо своему, потаенному. может быть вы сами чучело с единственной дыркой во всю голову.. но и все-таки ваши квалификации, ваши эмоции и ваши инсинуации не должны быть единственным предметом ваших излияний - вы же сами провоцируете срач вместо хоть чего-то предметного.
[Ответ][Цитата]
 Стр.57 (61)1  ...  53  54  55  56  [57]  58  59  60  61<< < Пред. | След. > >>