GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.56 (61)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: О психологии тех, кто создаёт искусственные интеллекты.
Андрей
Сообщений: 3886
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 22 ноя 18 13:00
Цитата:
Автор: Траян
решать проблему наделения СИИ эмоциональной компонентой
Регулярно наблюдаю на форуме странные попытки совместить в единой теории две противоположные стороны человеческой природы - ratio & emotio - рациональность и эмоциональность. Для решения задачи создания искусственного человека такой подход был бы оправдан. Но для создания искусственного интеллекта постоянные апелляции к эмоциям выглядят дико и неуместно. Это похоже на попытки скрестить интеллект и пищеварение или интеллект и иммунную систему.

Эмоциональное мышление и рациональное мышление расположены рядом, обе системы влияют на поведение, они связаны и их легко перепутать. Но их не нужно путать, между ними существенное отличие:

эмоциональное мышление делает то, что приятно
рациональное мышление делает то, что правильно.

Это две принципиально разные системы формирования поведения, которые противоречат друг другу, конфликтуют друг с другом и в каждый момент времени только одна из них может быть доминантой.

Примеров можно привести массу.
1. Эмоциональный участник форума на оскорбление отвечает оскорблением, получает адреналин и начинается флейм. Рациональный участник подумает, что флейм - это неправильно, что из флейма он ничего полезного не получит и на оскорбление отвечает молчанием.
2. Женщины, в большинстве своём, предпочитают эмоциональное мышление, поэтому для них важно приятные слова, приятные цветы, приятные запахи, приятная еда, полученные прямо здесь и сейчас. Мужчины, в большинстве своём, предпочитают рациональное мышление, им важнее правильный результат, полученный в правильное время, даже если им придётся ради него помучаться и пострадать.
3. Эмоциональное решение склонно к эгоизму, поскольку касается непосредственных переживаний физического тела, удовольствий, боли, радости. Оно компенсируется эмпатией. Рациональное решение склонно к альтруизму и деперсонализации, поскольку оно имеет более широкий охват, включает в себя других людей, многие обстоятельства, комбинаторику. Оно компенсируется дисциплиной.
4. Типичное эмоциональное поведение - это песни и танцы. Типичное рациональное поведение - это игра в шахматы.

Необходимо признать, что правильное рациональное решение приводит также и к некоторой приятности (решив математическую задачку мы чувствуем удовлетворение). С другой стороны, эмоциональный человек может поставить себе на службу рациональное мышление и достигать приятности рациональным способом (например, заработать много денег, чтобы потом потратить их на удовольствия). Именно поэтому многие люди путают эти два мышления и даже ошибочно полагают, что одно следует из другого. Нет решительно никакой нужды наделять рациональный СИИ эмоциями. СИИ - это воплощение рационализма, imho.

Эмоциональная сторона психики досталась нам от животных. Она всецело сконцентрирована на интегральной физиологической оценке ситуации, мелкие детали тут неуместны, она импульсивна и годится только для реактивного решения самых базовых задач - она иррациональна. Рациональная же сторона психики наоборот целеустремлена, решает задачи не только свои - но и того парня, она строит символьные модели, активно творит новое, типичным примером рационального поведения является Терминатор из одноимённого фильма.

Смешивать эмоциональность и СИИ - это примерно то же самое, что смешивать костёр и микроволновку. Сделать, наверное, можно, но зачем - неясно.
[Ответ][Цитата]
rrr3
Сообщений: 11841
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 22 ноя 18 22:47
Изменено: 22 ноя 18 22:53
Цитата:
Автор: Андрей
Регулярно наблюдаю на форуме странные попытки совместить в единой теории две противоположные стороны человеческой природы - ratio & emotio - рациональность и эмоциональность.
...
Это похоже на попытки скрестить интеллект ... и иммунную систему.

эмоциональное мышление делает то, что приятно
рациональное мышление делает то, что правильно...

На мой не просвещенный взгляд очередная глупость от Андрея...
Если на иные можно не обращать внимания, то эту наверное стоит прокомментировать ради начинающей молодежи...

1. В контексте создания "сильного" интеллекта эмоциональность и рациональность - совершенно не разделимые вещи, не говоря уж о том, что не противоположные.
2. Иммунная система - тот же интеллект отличающийся лишь тем, что он реализован на ином носителе и имеет некую специфическую "врожденную" функцию. Живая клетка тоже не на нейронах, но интеллект - однозначно.
3. "Приятно" или "правильно" - это "цели", критерии отбора, но не само мышление или интеллект ("сильный"), это или его продукты, или врожденные критерии (продукты иной, предшествующей эволюции поколений). "Сильный" интеллект - это не цели/продукты, не определяется целями, они могут быть совершенно противоположные, это некий механизм... который может достигать различные цели с одной стороны... и может быть реализован на совершенно разных носителях (на молекулах - клетки, на нейронах - мозг, на организмах - стаи, социумы, но не стада, на компах - ..., но не "слабые" ИИ и т.д. и т.п.), с другой стороны.
[Ответ][Цитата]
r
Сообщений: 837
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 1:31
Изменено: 23 ноя 18 1:34
Мышление наверное это будет громко сказано. Скорее эмоциональное и рациональное действие, выбор, или реакция на ситуацию. Продвигаясь по "лабиринту задачи" интеллекту на каждом повороте может быть предоставлено больше одной возможности продвинуться дальше к выходу: можно поступить приятно и повернуть налево, можно поступить правильно и повернуть направо. И на каждом последующем повороте при выборе дальнейшего направления тот или другой механизм может стать доминирующим, не сильно зависимо от того, какой механизм преобладал на предыдущем шаге (выборе).

Если бы повороты были только направо, то наверное ЕИ был бы уж слишком предсказуемым, однообразным и каким-то скучным что ли. Такие левосторонние повороты делают реакцию интеллекта на обстановку сильно богаче и разнообразнее, так что по-хорошему для СИИ они тоже будут нужны, но не есть настолько критически необходимыми, как правосторонние.
[Ответ][Цитата]
rrr3
Сообщений: 11841
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 2:05
Цитата:
Автор: r
...И на каждом последующем повороте при выборе дальнейшего направления тот или другой механизм может стать доминирующим, не сильно зависимо от того, какой механизм преобладал на предыдущем шаге (выборе)...

А есть ли выбор? Кто/что выбирает?

Не является ли так называемый выбор, лишь высокоуровневым алгоритмом, следствием чего-то после того, как оно обучено процедуре выбора. Но пока этой процедуры нет, на базовом, "элементарном" уровне происходит то, что "должно" (не важно, стохастически или по предшествующему опыту), без всякого выбора. В этом контексте, выбор, это процедура обратной реакции/связи на уже выработанное предшествующим обучением "предвидение" последующего результата... Другим словами "выбора", если предельно кратко и на пальцах - исходно, "в базе" - нет. Это высокоуровневое понятие не пригодное для построения "сильного".
[Ответ][Цитата]
гость
188.170.74.*
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 2:09
интеллект играет против умного и жесткого противника (природы и других интеллектов). И интеллект играет с необходимостью кооперации и 'cпаривания'. ПО обоим основаниям ему необходима иррациональная компонента. В этом смысле иррациональное это высшая форма рационального - как иррациональность эмоций оказывается в конечном плане рациональной). При умном противнике только смесь рационального и иррационального делает поведение трудно предсказуемым и дает шанс выскользнуть из-под его расчетов. Чтобы при этом противостоять другим иррационалам эмоции должны быть (и потому являются) многомерными.
Чтобы кооперация и 'спаривание' были устойчивее они должны подкрепляться не только рациональным расчетом, но и иррациональными (т.е. рациональными в более высоком смысле) силами притяжения (эмпатия, чувство коллектива, любовь).
[Ответ][Цитата]
r
Сообщений: 837
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 2:58
Изменено: 23 ноя 18 3:00
Цитата:
Автор: rrr3
А есть ли выбор? Кто/что выбирает?

Не является ли так называемый выбор, лишь высокоуровневым алгоритмом, следствием чего-то после того, как оно обучено процедуре выбора. Но пока этой процедуры нет, на базовом, "элементарном" уровне происходит то, что "должно" (не важно, стохастически или по предшествующему опыту), без всякого выбора. В этом контексте, выбор, это процедура обратной реакции/связи на уже выработанное предшествующим обучением "предвидение" последующего результата... Другим словами "выбора", если предельно кратко и на пальцах - исходно, "в базе" - нет. Это высокоуровневое понятие не пригодное для построения "сильного".
В базе нет сознательного выбора, но какие-то начальные установки могут передаваться генетической памятью. Масенький только появился на свет, а уже орет если ему что-то не так. Идет конкретная подача сигнала на голосовые связки. Это же можно назвать выбором в каком-то смысле. Пусть способность к рациональному выбору и тренируется как мышца, но вот с иррациональной компонентой непонятно. На нее ведь влияет самочувствие/настроение, а это что-то стоящее отдельно от обучения и сопровождает живое от рождения и до смерти.
[Ответ][Цитата]
СГТР http://egtd.ru
Сообщений: 8414
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 3:07
Изменено: 23 ноя 18 3:08
Интеллект ни с кем не играет.... Он выдаёт разумный продукт, а другие интеллекты его сравнивают с теми эмоциями которые возникают в их КГМ. Если сознание делает вывод что разумный продукт реализованный на аналогичных эмоциях лучше того который оно может предлажить, т.е. реализация эмоций разума осуществлена кем то лучше, то устанавливается иерархия. Так возникает интеллектуальный лидер. При этом возникает организованная группа единомышленников с признанным лидером которая базируется на аналогичных эмоциях.
В нашем случаи базовыми являются эмоции связанным с СИИ.
Интеллект это качество разумного мышления.
[Ответ][Цитата]
гость
188.170.74.*
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 3:19
иррациональное с т.зр. индивидуального рационального (частное понятие о пользе и правильном) рационально с точек зр. эволюционной истории носителя, общества и культуры.
Обучение онтогенетическое в контекстах филогенетического, геннокультурной коеволюции и адаптации-обучения общества к биологическому базису и культуре (те самые разноуровневые и разноаспектуальные перепутанности и круговые взаимообусловливания).
[Ответ][Цитата]
Андрей
Сообщений: 3886
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 3:24
Цитата:
Автор: rrr3
эмоциональность и рациональность - совершенно не разделимые вещи, не говоря уж о том, что не противоположные
Мне самому неприятно разделять, казалось бы равное, но, к сожалению - это правильно и я вынужден это сделать. Потому что я, преимущественно, рационален. Если бы Вы были правы, то мы наблюдали бы совпадение двух множеств - всё, что приятно, то было бы правильно и наоборот. Но, к сожалению, не всё то, что приятно - то правильно и не всё что правильно - приятно.

Есть даже такой фразеологизм: "совместить приятное с полезным" - это как раз о том.

Цитата:
Автор: rrr3
Иммунная система - тот же интеллект
Панинтеллектуализм - это интересная идея, полезная для обнаружения всяких аналогий и подсказок, но если всё - это интеллект, тогда почему бы Вам не сделать СИИ из совмещения, например, швабры, изоленты и лося... Всё-таки у сильного рационального искусственного интеллекта (СРИИ) есть особенности, которые делают его отличным от других видов интеллектов и особо привлекательным для изобретения.

Цитата:
Автор: rrr3
это некий механизм... который может достигать различные цели
Рациональный интеллект может принять за норму идею: "всё что приятно - это правильно". Но очень скоро такой человек попадёт в противоречие ("что приятно - то неприятно") и ему нужно будет подключать рациональный интеллект, чтобы решать возникшие проблемы (ожирения, венерических заболеваний, переломов, отношений etc.).

Полностью отключить эмоционалное мышление человеку тоже нельзя, потому что рационализм отличается самоуверенностью в условиях неполных данных и может погибнуть. Эмоциональное мышление обладает как бы нерушимыми базовыми нормами, заведомо априори правильными (типа, боль - это плохо), которые задают базовую систему координат. Но, как мне кажется, рациональный интеллект может и должен перенять те правильности, которым обучает его эмоциональное мышление, переложить приятности на язык правильностей, и в дальнейшем действовать исключительно рационально. Во всяком случае для ИИ это не противопоказано и рискнуть можно. Даже если ИИ помрёт от чрезмерной самоуверенности - можно сделать нового.

P.S. Вполне допускаю, что не всем людям доступна возможность интроспекции вышесказанного. В качестве критерия предлагаю заняться хиромантией. Если у вас на ладони правой руки линия ума и линия жизни сходятся в одну точку на краю ладони - то Вы меня не поймёте. А если расходятся - то шансы есть.
[Ответ][Цитата]
гость
188.170.74.*
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 3:27
глубокие когнитивные и концептуальные дефекты эгтр можно объяснить только тем, что формирующийся умишко бтро не играл в детстве и не получил образования про игровые постановки (в смысле теории игр с антагонистом или природой) в общем виде. Вот как дозрел по хозяйственой части, так сразу и сел писать опусы про эмоции камней, разумный продукт сознания хромосом и про разумное качество разумного мышления..
[Ответ][Цитата]
rrr3
Сообщений: 11841
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 3:39
Цитата:
Автор: r
...а это что-то стоящее отдельно от обучения и сопровождает живое от рождения и до смерти.

Ну вот уже ближе... "стоящее отдельно от обучения"... т.е. от самого интеллекта ("сильного") от его сути.

Истин я вообще-то не знаю...
[Ответ][Цитата]
rrr3
Сообщений: 11841
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 3:43
Цитата:
Автор: Андрей
...

Если Вы позволите, я буду комментировать не все Ваши глупости посты.
[Ответ][Цитата]
гость
188.170.74.*
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 3:53

а.> ..что приятно, то было бы правильно и наоборот. Но, к сожалению, не всё то,
> что приятно - то правильно и не всё что правильно - приятно.

если подумать про многокритериальность, то рассогласование критериев дело обычное, улучшение в одном отношении часто сопровождается ухудшением по другому, и вообще говоря рассогласования приятности и правильности неизбежно, но никак не основа для радикального разъединения единого комплекса критериев. И в постановках на agi фигурирует идея оптимизации суммы 'приятностей', вознаграждений, польз (я бы отстаивал идею не максимизации, а нормализации) - чтобы 'правильно' собрать приятности в будущем нужно сейчас претерпеть неприятности (нежадность). Возникновение внешних ограничений на режим получения приятностей (культура и общество), а также мимикрия вредностей под приятности, обуславливает и обратную диссоциацию правильности и приятности.

> СРИИ

если подумать, то такая постановка некорректна. 'переложить приятности на язык правильностей' нельзя без потери смысла. Абстракция интеллекта от тела это попытка совершить переход от усиления слабого интеллекта к сильному путем все более тонкого моделирования живой кошки металлическими деталями - в пределе вы упретесь в то, что частицы металла не хотят вести себя так как частицы живого вещества.
[Ответ][Цитата]
Андрей
Сообщений: 3886
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 4:27
Цитата:
Автор: rrr3
Если Вы позволите, я буду комментировать
Позволяю. Но ведь отвечая мне, Вы пишите всем участникам. Формат форума позволяет высказывать свои идеи по поводу чьих-то мыслей. Не более того. Поэтому если Вам есть что сказать или возразить - милости просим в любом случае.

Цитата:
Автор: гость 188.170.74.*
'переложить приятности на язык правильностей' нельзя без потери смысла.
Это убедительное рациональное возражение, я даже с Вами соглашусь. Однако, ИИ делается для того, чтобы безжалостно его эксплуатировать. И если мой железный раб заявит мне, что не собирается выполнять мой приказ, потому что боится промочить микросхемы, то это будет неправильно.
[Ответ][Цитата]
rrr3
Сообщений: 11841
На: О психологии тех, кто создаёт искусственные интеллекты.
Добавлено: 23 ноя 18 4:38
Цитата:
Автор: Андрей
Позволяю. Но ведь отвечая мне, Вы пишите всем участникам....
...
Поэтому если Вам есть что сказать или возразить - милости просим в любом случае.

1. Именно по этому я порой ради молодежи отвечаю даже тогда, когда отвечать самому автору бесполезно и/или не имеет никакого смысла из-за либо троллинга, либо глупости автора, либо его склонности к догмам и шаблонам. Иногда правда отвечаю ради баловства и хохмы...
2. Спасибо за приглашение. При случае и под настроение - воспользуюсь.
[Ответ][Цитата]
 Стр.56 (61)1  ...  52  53  54  55  [56]  57  58  59  60  61<< < Пред. | След. > >>