Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.3 (22) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Должен ли AI уметь врать?
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 15:01 >Я ответил на вопрос или тема будет продолжаться? Да ответели. Но как я уже писал меня не только Ваше мнение интересует. Daner>получить данные, раскодировать и подкорректировать сознание ИИ Mad_God>Как можно контролировать лживый интеллект? Просто: читая листинги его выводов и правильно формируя его мировоззрение Смешно об этом говорить. Неужели Вы думаете что "внутрености" ИИ можно будет так просто анализировать? [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 16:05 >Ну я понял. Если вам нужна машина, ИИ продавец впаривает Вам ржавую >консервную банку говоря что "Клянусь богом, это именно то что Вам >нужно!". А Вы верите, поскольку разуму который сильне Вас сложно не поверить... Кто вам мешает иметь свой портативный ИИ который будет сильнее ИИ продавца? >А я и не говорю о полезности лжи продавцу. Я говорю об обществе. >Продавец всего навсего небольшая часть общества. Тем не менее >неужели обществу будет лучше если продавец обогатится за счет >толпы тупуватых покупателей которые потратят свои деньги на ненужный >и некачественый товар? Ведь именнно покупатели составляют большую часть общества. Во-первых, продавцов в обществе не так уж мало. Все мы, в какой то мере продавцы и покупатели одновременно. Во-вторых, я уже говорил, что практика показала : капитализм и конкуренция оказались более полезны для общества чем социализм. Возможно проблемы в нас (в людях), но лично я не хочу создавать ИИ, которое будет само по себе, а значит, ему надо жить среди людей. >Доверие. Об каком доверии может быть речь если Вы заходя в >магазин точно знаете что ИИ продавец УМЕЕТ лгать и скорее всего >опять навешает вам лапши на уши как это было прошлый раз? Как-то на одном из курсов по ИИ нам нужно было написать агента к игре в "фишки". Игра простая : "есть поле в цветных квадратиках, и наступать на квадратик можно только заплатив за него фишкой того же цвета. Всем агентам нужно добраться из своих начальных точек в точку Т, за определенное время. По окончанию игры, у каждого, считаются оставшиеся фишки и за каждую дается по 10 баллов, а тем кто добрались до Т дается еще 1000 баллов" (точно цифры не помню, но это не важно). Изначально у всех разные фишки. У агентов нет другого выбора, как торговаться (обмениваться) фишками друг с другом для достижения цели. Причем, как сами понимаете, чем больше фишек останется, тем лучше. Потом агенты запускались в разных конфигурациях (каждый сам за себя, альтруисты, по командам и т.д.). Те кто врали по крупному, теряли доверие с самого начало, а так как остальные боялись наколоться на все свои сбережения, то просто не хотели иметь с ними дела. Особо доверчивые агенты вообще всегда оставались "с носом". А те, что не доверяли, но всегда говорили правду, получали по самому минимуму. В общем, наиболее успешными оказались те, кто был осторожен, не говорил всей правды (т.е. скрывал свое состояние), немного врал, но так что бы оппонент не оказывался "без штанов", а так же, умел прощать своим конкурентам небольшие мошенничества (просто корректировал степень доверия относительно своих ожиданий). Чем больше таких мини-лгунов было, тем больше общая сумма баллов в конце, так как большему числу агентов удавалось добраться до Т, а тотальных "богачей" было меньше. Вот вам наглядный пример успеха конкуренции, в отдельно взятой виртуальной реальности. >Тоесть чтобы он Вам всегда говорил правду и никогда не лгал? МНЕ, ДА!!! Вообще то мне, нет необходимости доверять ему на слово, мне достаточно иметь возможность снимать с него данные (ну скажем, периодически "вкалывать" сыворотку правды). >Переследуем свои интересы а не интересы своих создателей Ну, если создателей не будет, то и цели агентов не будут иметь к ним прямого отношения, это будут уже цели самих агентов ИИ. >>должен ли ИИ уметь врать себе!! Ну т.е. должно ли у него быть самовнушение?! >Мой ответ: Что за чушь? Т.е. ИИ должен лгать себе что у него >действительно есть волосы? А какой в этом смысл? "И ты Брут!!" Я смотрю, вы тоже начали давать субъективные оценки вопросам. Если вы считаете, что смысла нет, обоснуйте свое мнение. Лично мне, это не очевидно. У людей есть такой механизм (особенно у женщин), значит, для чего-то он нужен. Возможно, это помогает не усложнять, те модели, которые у агента имеются. Таким образом, это позволяет легитимировать какие-то решения даже в разрез с действительностью, но дает возможность принятия, хоть какого то решения, а не просто "сидеть" и придумывать, какая же модель должна быть на самом деле. Возможно, ошибка от неправильного решения будет стоить дешевле, чем затраченное время на изыскание принципиально правильной модели. >Неужели Вы думаете что "внутрености" ИИ можно будет так просто анализировать? Ну, если мы его создадим осмысленно, а не случайно... почему бы и не анализировать. Это конечно не просто , но и сам ИИ создать, простите "не яблоки, XXXX околачивать". Кстати, появляется новый вопрос : А нужен ли такой ИИ, анализировать который не представляется возможным (даже по средством другого ИИ)? [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 17:27 >Кто вам мешает иметь свой портативный ИИ который будет сильнее ИИ продавца И Вы во всем будете полагатся только на свой ИИ. Зачем же тогда Вы вообще нужны? >Во-первых, продавцов в обществе не так уж мало. Но недостато чтобы говорить об их интересах как об интересах общества. >ему надо жить среди людей. Жить среди людей вовсе не означает что ему нужно лгать людям. >Как-то на одном из курсов по ИИ нам нужно было.... Просто интересно: а где это такие курсы есть и вообще где Вы учились? Просто дайте ответ на вопрос: Вам нужен ИИ который будет ВАМ лгать? >А нужен ли такой ИИ, анализировать который не представляется возможным (даже по средством другого ИИ)? Если ИИ всегда будет говорить только правду тогда такой ИИ конечно нужен. Вижу Вы уже начинаете понимать суть вопроса. Могу с достаточно большой точностю сказать что анализировать базу даных ИИ в "прямом" виде будет очень сложно. Я бы на анализ ИИ изнутри не расчитывал. >"И ты Брут!!" Я смотрю, вы тоже начали давать субъективные оценки вопросам. ... Возможно, ошибка от неправильного решения будет стоить дешевле, чем затраченное время на изыскание принципиально правильной модели. Вы себе представляете ИИ который убедил сам себя что он человек? Вы ему: "Ты всего навсего машина, коробка с процессором и памятю", а он Вам: "Меня зовут Арни! У меня темные волосы и голубые глаза!" . А то что Вы описали это не совсем ложь. Я бы сказал что это предсказание. Да, при взгляде со стороны это ложь, но при взгляде с позиции ИИ это не ложь а попытка угадать правду. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 19:33 >>Кто вам мешает иметь свой портативный ИИ который будет сильнее ИИ продавца >И Вы во всем будете полагатся только на свой ИИ. Зачем же тогда Вы вообще нужны? Ну, это рассуждения на тему, а зачем нужно было станки и конвейеры придумывать, что же тогда человек делать будет? Вполне вероятно, что человек будет придумывать, как же себя усовершенствовать, или как придумать новый ИИ лучше того, что есть сегодня . Да мало ли какие новые профессии появятся к тому времени. >>Во-первых, продавцов в обществе не так уж мало. >Но недостато чтобы говорить об их интересах как об интересах общества. Все современное общество, сплошные продавцы. Раньше, во время рабовладельческого строя, это было не так, но сегодня... все оценивается деньгами, а значит купле-продажей. (нравится вам это или не нравится, но это вполне нормальный процесс интеллекта, определить ценности в доступной и понятной форме). >>ему надо жить среди людей. >Жить среди людей вовсе не означает что ему нужно лгать людям. Ему нужно будет конкурировать, а значит и лгать! >>Как-то на одном из курсов по ИИ нам нужно было.... >Просто интересно: а где это такие курсы есть и вообще где Вы учились? Я сей час в аспирантуре Университета Бар-Илан (Израиль), факультет ИИ, пишу кандидатскую (ну это вольный перевод на русский, а на международном: вторая степень мастера (M.Sc.) с тезисом по компьютерным наукам с уклоном на ИИ и Робототехнику). Вот моя академическая страница: http://www.cs.biu.ac.il/~yeda >Просто дайте ответ на вопрос: Вам нужен ИИ который будет ВАМ лгать? Нет. Но мы видь говорим про общество!!! а для общества, вполне возможно "да". Я даже привел конкретный результат экспериментов. Они конечно виртуальные, но после них, я бы не стал столь категорично утверждать, что "лож" это плохо. >Могу с достаточно большой точностю сказать что анализировать >базу даных ИИ в "прямом" виде будет очень сложно. Я бы на анализ ИИ изнутри >не расчитывал А я бы рассчитывал!!! "Сложно", это не аргумент. Если ИИ будет создан не случайно, то это вполне нормально, анализировать то, что ты создаешь. Кстати, это одна из основных проблем НС, их почти невозможно анализировать и это существенно тормозит их развитие. Скачек с НС (ИМХО) будет именно тогда, когда научатся делать приемлемый анализ и конструировать НС не в слепую. А то пока это больше смахивает на "алхимию", и это отталкивает многих специалистов. >А то что Вы описали это не совсем ложь. Я бы сказал что >это предсказание. Да, при взгляде со стороны это ложь, но >при взгляде с позиции ИИ это не ложь, а попытка угадать правду. Нет, это именно лож (самовнушение). Предсказание, подразумевает угадывание события (предиката) на основе существующей модели (тезисах). А я говорю о том , что агент "видит", то что модель не совсем подходит, но что бы не тратить время, "закрывает глаза" на несоответствие. Т.е. внушает себе, что решение на основе "плохой" модели, правильное! [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 09 янв 07 0:49 >Да мало ли какие новые профессии появятся к тому времени.....Ну, это рассуждения на тему, а зачем нужно было станки и конвейеры придумывать, что же тогда человек делать будет? Нет. Не совсем. Ведь люди покупать будут всегда и если продавцами будут лживые ИИ тогда для того чтобы защитить себя от некачественной покупки Вам всегда нужно будет использовать персональный ИИ. И подобно будет происходить не только в сфере торговли. >Все современное общество, сплошные продавцы. Значит для достижения успеха человеку всегда и во всем прийдется использовать персональный ИИ который будет другим врать так как это выгодно Вам. >Ему нужно будет конкурировать, а значит и лгать! Значит все вокруг ИИ будут лгать. Corwin>Просто дайте ответ на вопрос: Вам нужен ИИ который будет ВАМ лгать? Daner>Нет. Это становится интересно. Но ведь если все и повсюду будут использовать ИИ который будет лгать, значит все же Вам ИИ будет лгать. И единственый способ (весьма сомнительный) это использовать свой персональный ИИ. Но проблема в том что Вам всегда и во всем прийдется на него полагатся. Какая же тогда будет цена Вашему собственному интеллекту? И вообще Вы хотите чтобы никакой ИИ Вам не врал зато хотите чтобы Ваш ИИ умел врать. А ведь эти варианты несостыковуются. Если чужие ИИ не должны Вам врать значит и Ваш ИИ не должен врать. Так какой вариант все же окончательный: ИИ должен лгать или недолжен? >Но мы видь говорим про общество!!! Для уточнения мнения общества я и создал даную тему. >а для общества, вполне возможно "да". Но если в обществе никто не хочет чтобы ему лгали тогда собствено почему "да"? >А я бы рассчитывал!!! "Сложно", это не аргумент. Давайте по порядку: 1) С чего Вы взяли что "хозяин" (создатель) ИИ даст Вам право просматривать внутрености ИИ? Для вас подобный факт не проблема? 2) Ну хорошо Вы можете просмотреть внутрености ИИ. Но могу Вас уверить что чтобы понять сказал ИИ правду или солгал у Вас уйдет просто уйма времени. Если ИИ будет действительно умным тогда у Вас на анализ базы знаний уйдет несколько дней. Вас устраивает подобная цена? Ито не факт что Вам удастся определить ложь сказал ИИ или првду. Так нужен нам лживый ИИ или нет? >говорю о том , что агент "видит", то что модель не совсем подходит, но что бы не тратить время, "закрывает глаза" на несоответствие. Т.е. внушает себе, что решение на основе "плохой" модели, правильное! Если несоответствие моделей не влияет на конечную цель тогда это не ложь а упрощение. Будь какое упрощение можно назвать ложю. Например глобусы и атласы не являються точной копией Земли но ведь мы не назывем их ложью. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 09 янв 07 1:37 Вы хотите что бы вам врали?!!! думаю что ответ очевиден, но "вранье" ЕСТЬ!!! и никуда вам от него не деться, и когда вы приходите в магазин, вы знаете что продавец может соврать (обвесить, обсчитать) но все равно, идете и торгуетесь, а значит скрываете свою информацию, обманываете и т.д. Если хотите полезный, конкурентно способный ИИ, выхода у вас нет! Либо вы из-за страха не полноценности перед ИИ сразу выкинете его из ОГРОМНОГО числа сфер деятельности. >Значит для достижения успеха человеку всегда и во всем >прийдется использовать персональный ИИ который будет другим >врать так как это выгодно Вам. >..........Вам всегда и во всем прийдется на него полагатся. >Какая же тогда будет цена Вашему собственному интеллекту? Ну наверное придется. Когда придумали книги, то египетский жрец сказал : "Теперь люди разучатся запоминать" Чего стоит ваша память, если есть книги? У человека есть машины и самолеты и бегать человеку не надо, но это не значит что он разучился бегать. Наоборот, спринтеры в плотную подошли к пределу чел. скорости. Что стоят ваши ноги если есть машина?! > С чего Вы взяли что "хозяин" (создатель) ИИ даст Вам право просматривать > внутрености ИИ? Для вас подобный факт не проблема? Нет не проблема. я куплю ИИ у того, кто мне предоставит такую возможность!!! Windows не используют в NASA и медицине, так как там нужно знать "внутренности". Да к тому же мне собственно не внутренности надо знать, а их анализ. Скажем, раз в неделю водить мой ИИ на "детектор лжи", что он у меня ничего не тырит! вполне достаточно. А вообще, у него изначально может быть заложено, то что моя прибыль для него словно "бальзам на рану" . Кстати, если интересуетесь, то на эту тему почитайте литературу по adjustable autonomy. >Если несоответствие моделей не влияет на конечную >цель тогда это не ложь а упрощение. я говорил про другое. например есть модель которая в принципе работает, но вдруг вы видите что происходит что-то, что явно не соответствует основам вашей модели. Можно разочароваться в жизни, впасть в депресняк, начать поиск новой модели, а можно просто сказать... допустим я этого не видел!!!! и все ! . [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 09 янв 07 2:13 >есть модель которая в принципе работает, но вдруг вы видите что происходит что-то, что явно не соответствует основам вашей модели. Можно разочароваться в жизни, впасть в депресняк, начать поиск новой модели, а можно просто сказать... допустим я этого не видел!!!! Да конечно, если побочные эфекты от работы модели не влияют на конечные цели тогда можно закрыть на это глаза. Но это не ложь а скорее рациональное удаление не нужной информации. "Не нужной" для достижения цели. >но "вранье" ЕСТЬ!!! и никуда вам от него не деться Но ведь если будет изобретен ИИ значит почти наверняка будут методы которые заставят его всегда всем говорить правду. Вопрос в том нужно ли такие методы использовать или все же пускай ИИ будет "свободным" от каких-то обязательств перед человеком. >Вы приходите в магазин, вы знаете что продавец может соврать (обвесить, обсчитать) но все равно, идете и торгуетесь Но там ведь человек а не машина! И с человеком гораздо проще договорится или понять его цели. >Если хотите полезный, конкурентно способный ИИ, выхода у вас нет! Забавно что для Вас полезным является лживый ИИ. Конкурентно способный кому? Человеку? Значит если ИИ в магазине не может соврать тогда он там никому не нужен так как он не сможет быть конкурентно способным? >Ну наверное придется. Мне кажется что мы здесь обсуждаем какой-то нереальный мир. Нереальным он мне кажется из-за своей ирациональности. А в истории как правило вижывали только самые рациональные идеи. Можно предсказать что мир который Вы нарисовали никогда не будет реальным. >я куплю ИИ у того, кто мне предоставит такую возможность!!! Оч забавно! Купите тогда Windows и посмотрите какие там внутрености. Как по Вашему почему этого не сделало NASA? >Скажем, раз в неделю водить мой ИИ на "детектор лжи", что он у меня ничего не тырит! Какой дурдом! [Ответ][Цитата]
admin Сообщений: 292	На: Должен ли AI уметь врать? Добавлено: 09 янв 07 23:25 Не вдаваясь в дискуссию отвечу на вопрос (возможно уже поздно): ИР по образу и подобию человека (все же предпочитаю в данном случае использовать термин ИР) - будет уметь Специализированные ИИ - в зависимости от того что от них требуется, либо да, либо нет [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 10 янв 07 2:02 >>есть модель которая в принципе работает, но вдруг вы видите что происходит >>что-то, что явно не соответствует основам вашей модели. Можно >>разочароваться в жизни, впасть в депресняк, начать поиск новой >>модели, а можно просто сказать... допустим я этого не видел!!!! > >Да конечно, если побочные эфекты от работы модели не >влияют на конечные цели тогда можно закрыть на это глаза. Но это >не ложь а скорее рациональное удаление не нужной информации. "Не >нужной" для достижения цели. А если не только удалить информацию (а с чего вы взяли что она не нужная, она модель опровергает, но это не значит что это "шум"), а если еще и не правильный (не подтвержденный) добавить, лишь бы существующую модель сохранить. Сегодня в обеденный перерыв, поднял эту тему среди своих коллег. Мы даже пришли к мнению, что это не только возможно, но и пожалуй, даже необходимо, уметь иногда "врать" самому себе. >>но "вранье" ЕСТЬ!!! и никуда вам от него не деться > >Но ведь если будет изобретен ИИ значит почти наверняка будут методы которые >заставят его всегда всем говорить правду. Вопрос в том нужно >ли такие методы использовать или все же пускай ИИ будет "свободным" >от каких-то обязательств перед человеком. > >>Скажем, раз в неделю водить мой ИИ на "детектор лжи", что он у меня ничего не тырит! > >Какой дурдом! Я не говорил, что он должен быть свободным от обязательств. И не говорил, что ИИ должен врать всем подряд. Повторю в последний раз : Мой ИИ должен уметь врать кому угодно, кроме меня. Насчет методов, я вполне с вами согласен. Включение этих методов я назвал "детектором лжи", если вы не поняли! Но если эти методы существуют, это не значит, что ИИ должен ВСЕМ говорить правду. Замки на двери нужно, что бы люди не могли войти, но это не значит, что вообще никто зайти не может. >>Вы приходите в магазин, вы знаете что продавец может соврать >>(обвесить, обсчитать) но все равно, идете и торгуетесь > >Но там ведь человек а не машина! И с человеком гораздо >проще договорится или понять его цели. Во-первых, кто вам сказал, что с человеком проще?! Во-вторых, ИИ не сразу займут все магазины, а потому довольно долгий период (а может ему и конца не будет) люди и ИИ будут вперемешку. >>Если хотите полезный, конкурентно способный ИИ, выхода у вас нет! > >Забавно что для Вас полезным является лживый ИИ. Конкурентно способный кому? >Человеку? Значит если ИИ в магазине не может соврать тогда он там никому >не нужен так как он не сможет быть конкурентно способным? Именно так!!! Если ваш ИИ не сможет лгать, вы просто не получите прибыли с вашего магазина! Конечно, и в прогаре не будете. Но меня лично интересует прибыль. >Мне кажется что мы здесь обсуждаем какой-то нереальный мир. >Нереальным он мне кажется из-за своей ирациональности. А в истории как правило >вижывали только самые рациональные идеи. >Можно предсказать что мир который Вы нарисовали >никогда не будет реальным. Вот как раз вы, предлагаете не рациональный подход. Я пока говорил только о рациональности: теория игр, игровые эксперименты, примеры из жизни единственного интеллекта на сегодня. Без конкуренции (это то, что предлагаете вы) распределение ресурсов возможно только при коммунизме. Может вы последователь марксизма и ленинизма? Если нет, то должны понимать, что как раз ваш подход это натуральная Утопия. >>я куплю ИИ у того, кто мне предоставит такую возможность!!! > >Оч забавно! Купите тогда Windows и посмотрите какие там внутрености. >Как по Вашему почему этого не сделало NASA? Нет смысла. Есть открытые *nix системы. Да и потом, это не законно. Кстати, я уже написал, что мне не надо на внутренности смотреть, мне достаточно "анализа" или "детектора лжи". [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 10 янв 07 13:45 >Не вдаваясь в дискуссию отвечу на вопрос (возможно уже поздно) Нет не поздно. Даже нужно. >а с чего вы взяли что она не нужная, она модель опровергает, но это не значит что это "шум" Опровергает какую модель? Конечною? Целевую? Вам какая модель нужна? Вы первый паровоз видели? Он полностью удовлетворял конечной цели (транспортировка груза). А на побочные проблемы никто внимания не обращал. Проблемы были, но ведь люди НЕ ЛГАЛИ себе что их нет. Все эти проблемы были решены позднее но на время выхода паровоза их было уйма. А сам паровоз не взирая на проблемы работал нормально. И это полностью удовлетворяло людей. Те проблемы которые были как раз и можно назвать белым шумом, который со временем можно убрать. >а если еще и не правильный (не подтвержденный) добавить, лишь бы существующую модель сохранить. На мой взгляд перебор. Особенно для ИИ. >что это не только возможно, но и пожалуй, даже необходимо, уметь иногда "врать" самому себе. Я и не спорю. Просто называть это враньем крайне не правильно. >Мой ИИ должен уметь врать кому угодно, кроме меня. Да пожалуйста. Ваш ИИ Вам врать не будет. Зато будет врать толпа чужих ИИ. >Во-первых, кто вам сказал, что с человеком проще?! Человек не столь привязан к правилам и алгоритмам. Попробуй у машины купить что-то по цене ниже запрограмированой. >ИИ не сразу займут все магазины, а потому довольно долгий период (а может ему и конца не будет) люди и ИИ будут вперемешку. Вы противоречите сами себе. Ведь с появлением магазина с продавцом ИИ другие магазины не смогут составлять ему конкуренцию. Так что период будет не очень долгий. >Именно так!!! Если ваш ИИ не сможет лгать, вы просто не получите прибыли с вашего магазина! Конечно, и в прогаре не будете. Но меня лично интересует прибыль. Давайте так. Если Вы заходите в магазин что Вы (в идеале если хотите) ожидаете от ИИ? Наверное чтобы он вам посоветовал что лучше купить. Вы это покупаете, приходите домой, смотрите что это полный мусор никому не нужный. Вы чувствуете себя обиженным. Вы пойдете еще раз в тот магазин? Появилась идея: лживые меню в ресторанах. Правдивые меню просто не смогут составить им конкуренции. >примеры из жизни единственного интеллекта на сегодня Что-то не совсем у вас с примерами. Самым популярные магазины на сегодня это те, которые продают Вам качественные товары за справедливую цену. Да Вы на политику магазинов посмотрите: "если после покупки товар Вам не понравился, не подошел или показался Вам бракованным мы с радостью вернем Вам деньги". Да магазин с лживым ИИ очень скоро просто прогорит! Даже сегодня в магазин где работают лживые консультанты и продавцы никто идти не хочет. >Без конкуренции С чего Вы взяли что без конкуренции? Конкуренция будет всегда. Даже если ИИ всегда будут говорить правду. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 10 янв 07 14:56 Вы слишком крайне настроены. Я не утверждал, что врать нужно постоянно! Если ИИ способен врать, это еще не повод продавать вам всякий ХЛАМ! Ели вы до сих пор еще не поняли примера с продажами то вот КОНКРЕТНЫИ диалог: ------------------- Предисловие: В магазине продается чайник, который был приобретен владельцем магазина за 40$. Вполне реально, продать этот чайник покупателю за 50$ (это справедливая цена!!). продавец (ИИ) - Что я могу вам предложить? покупатель (Человек) - Мне нужно что-то, в чем можно воду вскипятить. ИИ - Оооо, у нас для вас есть замечательный чайник! и я могу предложить его вам, за 50$. Ч - Хорошая цена (про себя: я то рассчитывал на 60-70$).... Но постой, скажи мне, пожалуйста, самую низкую цену, за которую ты согласишься продать этот чайник. ИИ - 40.01$ (откройте любой учебник по теории игр и увидите, что это честный ответ продавца, но как сами понимаете, это совсем не то что хотел бы хозяин магазина!!) Ч - Отлично, вот тебе 40.01$ Надеюсь, ваш магазин не закроется через неделю. Итог: покупатель доволен так как его выгода составила 20$, но прибыль продавца всего лишь 0.01$. => покупатель баснословно богатеет, а продавец нищает!!! ------------------- Для сравнения, продавец, который умеет обманывать, никогда не сказал бы реальной минимальной цены чайника, а соответственно в процессе торга обе стороны сошлись бы где-то на 45-55$ (смотря, кто лучше) Итог : выгода покупателя и продавца 5-15$ а в среднем (ожидаемая) прибыл обеих сторон 10$. => в обществе нет резких перепадов соц. неравенства. Перестаньте бросаться словами. напишите маленький симулятор какой-нибудь простенькой соц.задачи по распределению ресурсов и попробуйте разные методы. Все сразу сами поймете. Как я уже сказал, я уже учувствовал в эксперименте подобного рода, но судя по всему мой опыт вы игнорируете. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 10 янв 07 15:11 что касается самовнушения: возможно, с поездом вы привели правильный пример, но я говорил не об этом случае. Когда я говорю о модели, я имею в виду, текущую модель ИИ. Что бы делать те или иные выводы, ИИ должен быть уверен, что его модель правильно отражает реальность, или хотя бы понимать, что модель не точна и что возможна ошибка. Вполне нормально, для ИИ специально загрубить модель (или часть модели, или иметь несколко моделий с разной точностью) но это, как вы правильно заметили, не самообман. Самообман начинается, когда появляется противоречие в модели. Возможно, агент вполне даже осознает, что есть такое противоречие, но не пытается его исправить, так как это требует ресурсов. Примеров из жизни человека можно найти достаточно, надеюсь с этим вы сами справитесь? [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 10 янв 07 15:54 >Предисловие: В магазине продается чайник, который был приобретен владельцем магазина за 40$. ... о постой, скажи мне, пожалуйста, самую низкую цену, за которую ты СОГЛАСИШСЯ продать этот чайник. ИИ - 40.01$ ... Довольно забавно. Если продавец указал для ИИ минимальную цену на чайник - 45$. Тогда ИИ может СОГЛАСИТСЯ продать этот чайник по цене не ниже 45$. И минимальная цена сформирования по теории игр (для ИИ как продавца) не имеет никакого значения. Вот если бы покупатель спросил: "А какая минимальная цена этого чайника согласно экономическим теориям", тогда бы ИИ ответил 40.01$. Но это вовсе не значит что он бы продал чайник за эту цену. >откройте любой учебник по теории игр и увидите, что это честный ответ продавца Но ведь ИИ продавец будет делать не то что описано в теории игр, а то что сказал ему владелец магазина. А владелец магазина вообще может сказать что минимальная цена чайника это цена покупки+25%. Честный ответ это «В теории я бы мог продать Вам этот чайник за 40.01$ но на практике минимальная цена равняется 45$» >который умеет обманывать, никогда не сказал бы реальной минимальной цены чайника Сказать вовсе не означает продать. >Как я уже сказал, я уже участвовал в эксперименте подобного рода Более детально об эксперименте рассказать можете? >Самообман начинается, когда появляется противоречие в модели. Возможно, агент вполне даже осознает, что есть такое противоречие, но не пытается его исправить, так как это требует ресурсов. А возможно противоречие не мешает целевой работе (работе на которую рассчитывали при построении модели) и исправление его действительно требует ресурсов, но не является обязательным. Где же здесь самообман? Вот если модель работает не так как нужно (на примере паровоза такой проблемой может быть то что паровоз вообще с места не сдвинулся) тогда игнорирование такого факта действительно самообман. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 10 янв 07 16:23 >А возможно противоречие не мешает целевой работе.... Вот именно, что противоречие не мешает! Если бы паровоз не мог сдвинутся, то игнорируя этот факт вы просто не добились бы целы, и для этого, все равно пришлось бы менять теорию (т.е. модель). Я же говорю, что полезный самообман нужен именно тогда, когда противоречие не мешает цели! Если нет самообмана, то любая модель с внутренним противоречием, просто не подлежит использованию!!! Т.е. агенту придется, либо загрубить модель на столько, что бы противоречие исчезло в ошибке, либо уточнить модель (изменить), так что бы разрешить противоречие (обычно, это обучение). Все это, требует дополнительных ресурсов (и я не против этого), но иногда, все же надо уметь врать. Я не сказал, что это решенная проблема. Вопрос как определить, где нужно врать, а где нет, когда нужно врать, а когда нет и как определить мешает это или другое противоречие модели на данную цель. На эти вопросы у меня лично ответов нет, но то, что уметь врать самому себе (т.е. оставлять противоречие в модели) иногда необходимо, скорее всего, верно. Что касается остального: т.е. по вашему, если я предложу ИИ 44.50$, он уже не должен мне продать чайник? Ну и глупо с его стороны!!! В таком случае, мне нужен не ИИ продавец, а ценник на чайнике и терминал с качественным поиском по каталогу товаров!!! Но это был простой пример с магазином (где люди не хотят торговаться, так как время жалко, хотя это зависит от ментальности). А теперь представим более серьезные торги. Скажем рынок нефти, газа, цен. металлов и т.д. и т.п. Если я начну описывать для ИИ 20%,а если X то Y, а если Z то W. То это, то же самое, что писать программу для современного компьютера. Ну и где тут ИИ? >Более детально об эксперименте рассказать можете? в общих чертах я его уже раньше описывал в этом топики. Если есть конкретные вопросы, задавайте (если помню ,то отвечу). [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 10 янв 07 16:55 >Вот именно, что противоречие не мешает! ... Мы с вами говорим об одно и том же. Просто для меня в этом смысле понятие ложь не допустимо. Это можно назвать игнорирование, упрощение, отложение на позднее время но не ложь. Впрочем возможно в этом я ошибаюсь, но лично для меня понятия самоложь не существует. >т.е. по вашему, если я предложу ИИ 44.50$, он уже не должен мне продать чайник? Ну и глупо с его стороны!!! А здесь уже политика начальника магазин играет роль. Он может разрешить продавать крайне настойчивым покупателям чайник по цене 43$. Или своим родственникам вообще по себестоимости, или если у покупателя день рождения тогда представляется скидка. Все зависит от начальника магазина. >В таком случае, мне нужен не ИИ продавец, а ценник на чайнике и терминал с качественным поиском по каталогу товаров!!! Вполне вероятно. Я бы не отказался от такого терминала в магазинах. Вот только несколько нюансов: 1) Покупатель должен уметь пользоваться таким терминалом. Учитывая что большинство людей даже с компьютером не знакомы, сами понимаете какая для них будет польза от подобного терминала. 2) Начальнику магазина прийдется тратить деньги на дополнительных специалистов по программированию такого терминала. А также дополнительных специалистов по занесению информации о товаре в терминал. Так что ИИ все же получше будет. >Если я начну описывать для ИИ 20%,а если X то Y, а если Z то W. То это, то же самое, что писать программу для современного компьютера. Ну и где тут ИИ? Понимаете, написать программу которая будет анализировать "мелкие" (незаметные факторы) при покупке акций (или будь чего другого ценного) это то же что написать ИИ. Вы конечно можете написать программу если X то Y, а если Z то W. Но она не сможет анализировать тоны полезной информации для того чтобы принять правильное решение. Т.е. она приймет запрограмированое решение, а ИИ приймет наилучшее решение основываясь на детальном изучении рынка. Обычная программа подобного сделать не сможет. Говоря об эксперименте вы говорили об этом: >Как-то на одном из курсов по ИИ нам нужно было написать агента к игре в "фишки". Если да тогда Вы не описали процесса обмена фишками. В том виде который Вы здесь навели лично я не вижу почему агенты должны врать друг другу и в чем заключается их вранье. [Ответ][Цитата]
Стр.3 (22): 1  2  [3]  4  5  6  7  ...  22 << < Пред. | След. > >>