Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.6 (22) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Должен ли AI уметь врать?
Евгеньев Виктор Сообщений: 6	На: Должен ли AI уметь врать? Добавлено: 15 янв 07 11:50 ЛИЧНО МОЕ МНЕНИЕ ИИ - насколько я понимаю программа? Тогда выбор должен или не должен будет заложен создателями. Исходя из целей ИИ. Или даны условия, которые должны выполняться, и тогда чтобы сохранить эти условия ИИ должен соврать. Путанно, но смысл сохраняется. Все должны заложить создатели. До тех пор как наш ИИ не обзаведется самосознание и личностью, до чего думаю мы не доживем. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 15 янв 07 14:02 >А что у Бориса Петровича нет образа?! >Человек - образ более общий. Да Борис Петрович тоже образ, но при разговоре мы ведь не можем передать этот образ. Мы просто передаем слова "Борис Петрович", а сам образ Бориса Петровича у каждого человека разный. А вот передавая слова "Борис Петрович" мы тем самым передаем общий образ "человек" - он у большинства людей одинаковый. >И что, имея у себя такое правило я -> $name вы поймете, что речь идет именно о вас? Конечно образ $name у меня ассоциируется с моей личностью. У других людей этот образ ассоциируется с ихней личностью. > Я вообще сомневаюсь, что человек мыслит конкретными словами. А я этого и не говорил. Вот при передаче образов другим людям мы пользуемся словами. >Если мы будем рассуждать о не соответствии общих моделей Вся суть в том что общие модели у всех одинаковы! И только после подстановок они становятся персональными! >Вы же будете решать эту проблему, как-то по-другому Для меня полностью достаточно общих моделей. Образы для подстановки есть у каждого интеллекта, так что про проблемы подстановки думать не приходится. >Как для изобретателей ИИ нас обязательно должны интересовать, как общие модели, так и контекстные Контекстные модели это второстепенные модели. Имея общую модель построить контекстную не составляет труда! [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 15 янв 07 14:02 ну мы, может быть (и скорее всего) не доживем, а вот в принципе... откуда такой пессимизм, что у компьютера не может быть самосознания? "Создатели заложили..." это чушь. Уже сегодня, обучаемые программы для того и нужны, что они могут вырабатывать правила, которые не хотят (или скорее не могут) вносить создатели заранее. Конечно же, создатели пишут основную базу, на которой обучаемая и развивающаяся программа строит здание своего опыта. Это база и есть возможности. Если мы будем писать спец.ИИ для каждой задачи отдельно, то везде база будет разной. Но это означает, что многое в базе упущено и не доделано (как сегодня). Если же, у нас получится создать базу для развития настоящего ИИ (т.е. с самосознанием и прочим прилагающимся), то перед нами встает все тот же вопрос. Нужно ли давать ему какие-то возможности или не нужно. Если не нужно, то в сторону исследования "лжи" нет смысла углубляться, если же (пусть будет хотя бы одна маленькая область, где от ИИ потребуется лож) нужно, и значит это надо исследовать и "возможность лжи" будет для ИИ существовать!. Где то будет применяться, где то не будет, но существовать БУДЕТ! а значит ИИ будет УМЕТЬ лгать. Умеете ли вы совершить преступление (например, убить). ДА, умеете. Но не убиваете (надеюсь). Так что, не применение возможностей в X областях, не отменяет самих возможностей. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 15 янв 07 14:07 To Евгеньев Виктор Ну а если создатель это Вы, Вы бы заложили в ИИ умение врать? [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 15 янв 07 17:15 >Умеете ли вы совершить преступление (например, убить). ДА, умеете. Но не убиваете (надеюсь). Новая тема для обсуждения: Может ли ИИ совершить преступление (например, убить)? ДА, сумеет. Но будем надеяться не убьет! --------------------------- Для тех кто не заметил: в начале страницы написана статистика с никами. Если кто не согласен - напишите и я поправлю. [Ответ][Цитата]
Львович Сообщений: 303	На: Должен ли AI уметь врать? Добавлено: 17 янв 07 15:17 Mad_God: ...Компьютеры и так выполняют все по приказу человека... Вы считаете, что этот человек - Вы? Отнюдь! Это скорее - Билл Гейтс! А если точнее, то - все, кто "приложил руку" к его созданию (в той или иной степени). Не исключено, что кто-то из них врал и это как-то отразилось в компьютере. Врет ли Вам такой компьютер после этого? [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 17 янв 07 17:54 >то кто-то из них врал и это как-то отразилось в компьютере врать и ошибаться - это разные вещи. [Ответ][Цитата]
Львович Сообщений: 303	На: Должен ли AI уметь врать? Добавлено: 27 янв 07 9:23 А недосказанность - это ложь? Если да, то любая реклама содержит ложь, в том числе и реклама программ. Боюсь, вся сложность в формальном (математическом) определении лжи. 1)Ложь всегда предполагает выгоду сообщающего, иначе вы назовете это "ошибаться". При этом наносится ущерб другому человеку или обществу в целом. При этом ложным может быть не только сообщение, но и любое действие. Переход улицы на красный свет - это ложь? А уклонение от уплаты налогов? Получается - да. 2)Ложь предполагает наличие правды. То есть получатель ожидает получить информацию, связанную вполне определенным образом с некоторыми событиями, а получает - связанную по другому. То есть ложь - это всего лишь использование другого контекста, а не того, который установлен некоторой нормой (закона, морали). Фактически ложь это просто игнорирование (неисполнение) этой нормы. И все! 3)Исполнение/неисполнение норм - это пресловутая "свобода воли". Фактически же знание о наличии норм и нужности/ненужности их исполнения приобретается (формируется) в процессе обучения (в широком смысле), в частности - воспитания. 4)Таким образом, если нечто (некто) претендует на статус интеллектуального, то есть как минимум обучаемого, то он обязательно придет выводу о необязательности некоторых норм (простите за каламбур). То есть ко лжи! 5)Безусловно, в процессе обучения (путем соответсвующих поощрений и наказаний) мы можем "воспитать" ИИ, который будет сильно "мотивирован на правду", то есть будет выполнять важнейше нормы, однако норм много и они часто противоречивы! Поэтому становится важным приоритет норм. Люди за большой правдой обычно не замечают маленькую ложь, а ведь она есть всегда! Поэтому можно говорить только о степени правдивости интеллекта (в том числе и искусственного), а не об абсолютной правдивости, которая невозможна в принципе. 6)Принятые нормы тоже взаимосвязаны и иерархичны, то есть существуют "нормы о взаимосвязи норм", "нормы об этих нормах" и т.п. Интеллект не может знать абсолютно всех норм, поэтому некоторые будет нарущать по незнанию, а это уже - ложь. [Ответ][Цитата]
Андрей Сообщений: 3943	На: Должен ли AI уметь врать? Добавлено: 27 янв 07 14:54 Тема, имхо, не стоит и выеденного яйца т.к. всё вполне очевидно. Главное не путаться в терминах и точках отсчёта. Последние страницы обсуждения не читал, просто выскажу имхо, сорри если повторю что-то. 1. Ложь предполагает осознание факта лжи тем, кто говорит ложь. Настоящая ложь всегда сознательна и контролируема, иначе нечего и обсуждать. 2. Есть случаи неопределённости, когда говорящий ложь, лжёт относительно себя, но относительно слущающего говорит правду и наоборот. 2.1. Например, я лгу: "Микросхема стоит 1 доллар", зная при этом из СОБСТВЕННОГО опыта, что микросхема стоит, например, 2 доллара. Человек идёт и обнаруживает микросхему за один доллар. Он благодарен мне, что я сказал правду, хотя фактически я лгал, т.к. искажал свою правду Таким образом правда и ложь всегда относительны. Относительно жизненного контекста конкретного индивидуума. 2.2. Например я говорю правду: "Микросхема стоит 2 доллара", а человек покупает её за один доллар. Выходит, что я его обманул, хотя сказал правду относительно своих знаний. 3. Человек, лгущий сознательно, должен обязательно знать правду, для того чтобы качественно лгать. Т.е. настоящая интеллектуальная ложь всегда основана на искажении правды. Правда лежит в основе лжи. 4. Лгущий рассматривает ложь как информационное воздействие на слушающего с некоторой определённой целью. Говорящий правду тоже рассматривает правду, как информационное воздействие на слушающего с некоторой определённой целью. В чём же разница между правдой и ложью? Если правду можно сказать с корыстью и ложь можно сказать с корыстью, то чем же они отличаются для слущающего? 4.1. Что есть правда? Правда с точки зрения слущающего - это всегда ЗНАКОВАЯ КОНСТРУКЦИЯ, которая попадает к нам через наши ощущения от действия эффекторов другого субъекта и описывает нечто недоступное в текущий момент непосредственному восприятию слущающего в силу пространственных (далеко, мелко) или временнЫх ограничений (в прошлом, в будущем). Таким образом ПРАВДА РАСШИРЯЕТ ПЕРЦЕПТИВНЫЕ ВОЗМОЖНОСТИ СЛУЩАЮЩЕГО. Мы можем по словам (знакам) вообразить невидимое сейчас, представить неслышимое сейчас и т.п. Мы верим правде как своим собственным непосредственным ощущениям и расширяем наш контекст - в этом ценность правды. Если бы наши органы чувств нам лгали и вместо зелёных листьев мы вдруг увидели красные или вообще то-то другое, это привело бы к хаотизации нашей жизни и в перспективе поставило бы под сомнение наше выживание. Таким образом ценность правды, как знаковой конструкции, в том, что она адекватна некоторому паттерну ощущений, который мы МОГЛИ БЫ ощутить сами (если бы попали в условия, где это можно непосредственно ощутить) но довольствуемся тем, что верим на слово. Таким образом правда эквивалентна (с определённым допуском) непосредственному ощущению. 4.2. Лгущий пользуется этим нашим доверием к словам и "втюхивает" нам некую искажённую знаковую конструкцию, которая приводит к достижению некоторой эгоистичной цели ИСКАЖАЯ ТЕМ САМЫМ КОНТЕКСТ РЕАЛЬНОСТИ СЛУЩАЮЩЕГО. Доверившийся лжи оказыватся просто неадекватным реальности. Т.е. буквально он попадает в такую же ситуацию как если бы его органы чувств начали бы ему лгать, т.е. восприятие стало бы "показывать" листья на деревьях красными. Однако возвращаясь к пункту 2 вспоминаем, что всё относительно... 5. Искажение правды превращает её в ложь. Метод искажения правды детерминирован относительно цели лгущего, поэтому ИИ может врать. Должен ИИ врать или нет - зависит от целей его создания. 6. Ложь во благо - это нонсенс. Если некто не способен адекватно реагировать на правду реальности, значит он просто недоразвит и ориентироваться на него, искажая реальность, нельзя. Итого: общение ради корысти может и правду превратить в проблему, поэтому надо говорить то, что спрашивают, максимально достоверно и ценить правду за то, что она расширяет возможности индивидуума в обществе по восприятию реальности. Ложь в потоке обмена правдой рано или поздно вскроется и заменится на правду, поэтому создавать эти врЕменные завихрения лжи в общем потоке инфообмена нет никакой необходимости. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 27 янв 07 17:42 Не надо путать "правду" и "истину". Жаль, что вы не читаете всей дискуссии, так как в одном из постов (а то и в нескольких) я дал довольно точное (если хотите) математическое определение того что (ИМХО) является ложью, а что нет. Хотите точное математическое определение? извольте. Пусть вся модель мировоззрения агента А называется Ма. Рассмотрим любое высказывание (предикат) X. Если Ма /\ X = противоречие То X это Лож относительно агента А.(точка) Лгать может только определенный агент, а значит процесс лжи это всегда относительно определенного агента. Если я верю что деталь можно купить на 2 руб. а говорю о том, что она стоит 1 руб., то это лож. И совершенно все равно, в чем состоит истина, так как истину, я просто не знаю. Если же тот , кому я это говорю, знает о том что деталь стоит 1 руб. то для него это ложное высказывание, но я не лгу! Если же, между дискутирующими существует (пусть даже не гласное) соглашение, что в случае не соответствия высказываний оппонент не должен промолчать, то можно считать, что после каждого высказывания следует его подтверждение (пусть даже не гласное). Это значит что промолчав о том что деталь на самом деле стоит 1 руб., оппонент подтверждает его стоимость в 2 руб., тем самым противореча своей модели, и значит он лжет. Относительно обучения: Процесс обучения на ошибках, подразумевает под собой, что учитель всегда прав. Если вывод из моей модели не совпадает с выводом учителя, то его вывод вносится в мою модель, а любой противоречащий ему предикат в старой модели, объявляется ложью по отношению к новой модели. Относительно рекламы: Если реклама умалчивает о каких-либо минусах своего продукта, это не лож. Если же рекламодателя, напрямую спросили, есть ли какие-то минусы в его продукте, а он сказал что таковых нет (но при этом он знает, что они есть), то это ложь. Полезность лжи: Лож, вполне может быть полезна, и тем более тому, кто лжет (во всяком случае, он в это верит). В процессе конкуренции, меня не интересует, какой урон своему оппоненту я нанесу, но меня интересует, какой урон будет нанесен обществу, так как я являюсь его частью. Вот и все. Я буду говорить правду только тогда когда буду считать что мне это выгодно. Я буду создавать ИИ, которые будут говорить правду, только тогда когда им это будет выгодно, НО при создании этого ИИ, выгодой для него будет определяться выгода для меня. Другими словами, он будет врать тогда, когда это будет выгодно мне. Это не будет тотальной ложью, которая может повредить обществу в целом (так как я являюсь его частью, а это не выгодно для меня и значит не выгодно для ИИ). [Ответ][Цитата]
Андрей Сообщений: 3943	На: Должен ли AI уметь врать? Добавлено: 27 янв 07 19:11 daner >> Хотите точное математическое определение? Нет. daner >> промолчав о том что деталь на самом деле стоит 1 руб... "Самое дело" всегда определяется относительно конкретного субъекта. Нету никакого абсолютного "самого дела", в этом особенность относительности лжи и правды. daner >> Я буду создавать ИИ, которые будут говорить правду, только тогда когда им это будет выгодно, НО при создании этого ИИ, выгодой для него будет определяться выгода для меня. Другими словами, он будет врать тогда, когда это будет выгодно мне Всё ради выгоды? Выгода - смысл жизни? Является ли Вашей выгодой бескорыстная отдача чего-либо нуждающемуся? [Ответ][Цитата]
Corwin Сообщений: 1324	На счет критики Добавлено: 27 янв 07 21:50 Меня несколько удивляет фраза "эта тема никому не нужна поскольку и так всё вполне очевидно". На практике оказалось что мнения очень расходятся. Разным людям "всё очевидно" совершенно по разному. Вы так уверены в своей правоте что даже не хотите услышать мнения других людей? Если так тогда эта тема действительно лишняя. [Ответ][Цитата]
Corwin Сообщений: 1324	Про ложь и интеллект Добавлено: 27 янв 07 22:15 2 Андрей >2.1. Например, я лгу: "Микросхема стоит 1 доллар", зная при этом из СОБСТВЕННОГО опыта, что микросхема стоит, например, 2 доллара. Но Вы ведь солгали и именно это имеет значение, а не то что по счасливой случайности Ваши слова оказались правдой. Мы ведь здесь интелект обсуждаем а не торию лжи. А для интеллекта ложь не может быть относительной, как это написали Вы. >2.2. Например я говорю правду: "Микросхема стоит 2 доллара", а человек покупает её за один доллар. Выходит, что я его обманул, хотя сказал правду относительно своих знаний. В том то и дело что нас должна интересовать правда и ложь только относительно знаний интеллекта который это говорит, а не относительно всего мира и его комбинаций. >6. Ложь во благо - это нонсенс. Если некто не способен адекватно реагировать на правду реальности, значит он просто недоразвит и ориентироваться на него, искажая реальность, нельзя. Прошу заметить что Вы искажаете не свою реальность а реальность того кому лжете. Иногда ложь нужна для продолжения нормального функционирования индивидума. Все упирается в то что Вы называете благом. Если сразу сказать больному правду про то что он больше не сможет ходить (вследствие атрофии нижних конечнотей) как по Вашему какую реакцию это вызовет? Разве не лучше будет для пациента сначала солгать что все будет хорошо, а потом начать подготавливать его к правде? Разве внутренее благополучие пациента не стоит того чтобы изменить его реальность? [Ответ][Цитата]
Андрей Сообщений: 3943	На: На счет критики Добавлено: 27 янв 07 22:16 1. Я не сказал, что тема никому не нужна, а сказал, что она проста до очевидности и не стоит и выеденного яйца. Это разное. 2. Я сказал "имхо". 3. Мнения людей я послушал, увидел непонимание и прояснил тему, как её вижу я. Если Вам моё мнение не нравится, а понимания всё нет, то надо что-то делать. Мнение просто ради мнения - неинтересно; мнение должно объяснять. [Ответ][Цитата]
Андрей Сообщений: 3943	На: На счет критики Добавлено: 27 янв 07 22:22 >> для интеллекта ложь не может быть относительной, как это написали Вы Читайте пункт 1 из моего объяснения. Не стоит спорить ради спора... Я просто осветил все аспекты этого вопроса. Corwin >> Прошу заметить что Вы искажаете не свою реальность а реальность того кому лжете Опять же, ровно это я и написал. Corwin >> Иногда ложь нужна для продолжения нормального функционирования индивидума Нет таких случаев и обсуждать тут нечего. Имхо, если хотите. Corwin>> Разве внутренее благополучие пациента не стоит того чтобы изменить его реальность? Нет. См. пункт 6. [Ответ][Цитата]
Стр.6 (22): 1  2  3  4  5  [6]  7  8  9  10  ...  22 << < Пред. | След. > >>