Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.5 (22) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Должен ли AI уметь врать?
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 14 янв 07 3:59 я подумал... Во-первых, предположим, что оба оппонента искренне верят в свою правоту. Если так, то описанный вами пример подходит под первый, описанный мной случай. Т.е. у людей разные модели. У одного в модели есть правило, которое утверждает, что яблоки получает тот, на чьей территории они лежат. А у другова, правило, что получает тот, чье дерево дало эти яблоки. Даже если на первый взгляд модели кажутся одинаковыми (предположим что они состоят из одного правила "Яблоко мое") то при подстановках (я имею ввиду термин "подстановка" из логики) мы получим разные модели. т.е. у первого агента "мое" заменяется на "Вася", а у второго "мое" заменяется на "Федя". В случае же, если агенты все-таки умеют врать, то один из агентов представит другому ложный тезис. Лож именно в том и будет заключаться, что лгун будет осознавать, что он говорит не правду (именно по его же собственному мнению) и будет это делать для своей выгоды. [Ответ][Цитата]
Львович Сообщений: 303	На: Должен ли AI уметь врать? Добавлено: 14 янв 07 10:57 >оба оппонента искренне верят в свою правоту Да, против веры, любая аргументация бессильна. Мне хотелось бы более детально проследить переход к "врать". То есть сообщать заведомо неверные сведения, с целью получения выгоды. Но информация сама по себе (как набор битов) не может быть истинной или ложной. Она будет такой, только в контексте передающего и принимающего. Но в этом отношении в любой информации есть элементы лжи, в том числе и сам факт ее передачи. Так как реальные события всегда происходят немного не так, как их сообщают, и сообщающий это знает! Сообщается же информацию всегда для своей выгоды (иначе не сообщалась бы). То есть есть маленькая ложь и большая ложь. У животных нет лжи, хотя очень многие из них часто предпринимают "обманные" действия, например прикидываясь мертвым (насекомые) или хромым (птицы). А нападение из засады - разве не обман? Те не менее, только в человеческом обществе есть понятие "врать". Вводя такое понятие и осуждая ее (ложь) применение общество преследует свою цель - поддержание своего существования. Потому как общество, в котором ложь никак не ограничивается не может существовать в принципе, так как в нем нет устойчивого взаимодействия элементов, то есть структуры. Однако в определенных случаях ложь не только не осуждается, но и приветсвуется: например в сказках для детей, в рекламе, в действиях спецслужб. Учитывая все это, ИИ врать будет! Даже если он достигнет всего лишь уровня животного (пример с хромой курицей). По крайней мере, почти все программы уже сейчас "врут" Вам от имени своего создателя. А всевозможные поломки? Разве это не ложь? Вам обещали, что ЭТО будет работать много лет, а оно сломалось через три дня... Думаю от лжи (в том числе и от лжи ИИ) мы никуда не денемся. Важно, чтобы он "врал, но не завирался", то есть ложь не превышала терпимого порога. В противном случае такими устройствами перестануть пользоваться, а следовательно и производить их. Поэтому переживать не стоит - механизм сработает автоматически. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 14 янв 07 13:53 Уважаемый Львович. Мне кажется, вы перемешиваете сразу несколько понятий: ошибка,истина,лож,не логический вывод,заблуждение и т.д. Для меня, ложью считается высказывание, которое тот, кто высказывает, считает ложным, остальное не лож, а заблуждение. Но вообще то мы об этом уже много писали, советую прочитать выше написанное (уделите особое внимание на обсуждение "самообмана", так как там мы углубились в суть "лжи" и пытались дать формальное определение). Что касается полезности "лжи" для общества, пока обсуждаемые мнения принципиально расходятся только в областях применения ИИ вообще. Т.е. я утверждаю, что ИИ надо применять везде, где только оно будет эффективным, а Corwin считает, что человеку стоит жестко ограничит использование ИИ в жизни теми сферами деятельности, где нет необходимости во вранье, дабы избежать с ним проблем. Я так понимаю, что вы придерживаетесь моей точки зрения? [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 14 янв 07 15:21 >у этих людей разные модели Нет не совсем. Ведь если поменять соседов местами результат будет тотже. Скорее у них одна модель: "Если я терпел неудобства из-за этой яблони значит я имею права на яблука". >то при подстановках (я имею ввиду термин "подстановка" из логики) мы получим разные модели. При "подстановке" мы не меняем сути модели. Т.е. сама модель от подстановок не меняется. Например модель паровоза. Если мы будем говорить об паровозе "Ракета" это ведь не меняет саму модель "паровоз". Даже если мы будем говорить об "Ракете" и "Дер Адлере" как об разных паровозах модель "паровоз" от этого никак не поменяется. >А всевозможные поломки? Разве это не ложь? Боюсь что это ложь человека-создателя и сам обеъкт к этому причастности не имеет. >Важно, чтобы он "врал, но не завирался", то есть ложь не превышала терпимого порога. Проблемка в том что этот терпимый порог у разных людей разный. >Corwin считает, что человеку стоит жестко ограничит использование ИИ в жизни теми сферами деятельности, где нет необходимости во вранье, дабы избежать с ним проблем. Не помню чтобы я говорил об "жестко ограничит использование ИИ". Я говорил что люди могут сами не захотеть использовать ИИ в сферах где очень важно умение гибкости, скрытности и лжи. Ведь как не крути а ИИ это всего навсего вычислительно-аналитическая машина построеная на четких логических правилах. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 14 янв 07 15:53 >Нет не совсем. Ведь если поменять соседов местами результат будет >тотже. Скорее у них одна модель: "Если я терпел неудобства из-за >этой яблони значит я имею права на яблука". Нет, если они были уверены в своей правоте. Т.е. либо агент считает, что яблоко получит “уборщик”, либо “хозяин дерева” и не важно кем он сам является. Если же в правило входит местоимение (ну назовем это так, надеюсь понятно о чем я), то оно является функцией, а значит подстановка необходима для понимания ситуации. т.е. другими словами правило "Я->Вася" или "Я->Федя" и есть отличие моделей двух соседей. Пример с поездом, мне кажется не совсем верным. Вы даете название самой модели, я же говорю о частях этой модели. Скажем в поезде есть понятие колесо, но думаю вы не будете спорить, что для понимания модели в контексте (т.е. вместе с текущим состоянием окружающей среды) нам необходимо провести подстановку и различать между ведущими колесами, правыми, левыми и т.д. P.S. Хочу сделать общую оговорку, для того, как я использую термин "модель". Я думаю, что это очевидно и вы точно так же понимаете это как и я, но... пусть будет. Когда я использую понятие модели, я имею ввиду модель для данной ситуации. Т.е. все те правила, которые имеют какое-либо отношение к решаемой проблеме. Т.е. если мы рассматриваем проблему "Алфа" и модели двух агентов, то говоря, что их модели совпадают, я имею ввиду совпадение тех частей модели агентов, которые относятся непосредственно к проблеме "Алфа". >Не помню чтобы я говорил об "жестко ограничит использование ИИ". Я >говорил что люди могут сами не захотеть использовать ИИ в сферах где >очень важно умение гибкости, скрытности и лжи. Ведь как не крути а ИИ >это всего навсего вычислительно-аналитическая машина построеная на >четких логических правилах. Ну да, давайте лишим ИИ возможности "зрения", а потом скажем: "Да чего-то люди не хотят использовать ИИ для вождения машины". Это принципиально! Если ИИ не сможет лгать, его НЕВОЗМОЖНО будет использовать во многих важных областях деятельности. Другой вопрос, хотим ли мы его там использовать, и здесь наши с вами мнения расходятся. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 14 янв 07 17:11 >Пример с поездом, мне кажется не совсем верным. Вы даете название самой модели, я же говорю о частях этой модели. А по вашему имя не является частю модели?! Т.е. говоря о модели паровоза "Ракета" мы говорим об не об модели "паровоза" а об модели "паровоз Ракета"? Так что ли по Вашему? А когда вы говорите о модели поведения Вы ее тоже всегда привязываете к конкретному человеку? По вашему модель это то что привязанно к конкретному объекту??? >Хочу сделать общую оговорку, для того, как я использую термин "модель". Я думаю, что это очевидно и вы точно так же понимаете это как и я. Когда я использую понятие модели, я имею ввиду модель для данной ситуации. Т.е. все те правила, которые имеют какое-либо отношение к решаемой проблеме. Нет похоже мы все же расходимся в понимании модели. Для меня модель это скорее набор общих правил которые не имеют явную привязку для конкретного объекта. Т.е. модель паравоза можно использовать для любого паровоза а не делать привязку какому-либо конкретному паровозу. >Т.е. если мы рассматриваем проблему "Алфа" и модели двух агентов, то говоря, что их модели совпадают, я имею ввиду совпадение тех частей модели агентов, которые относятся непосредственно к проблеме "Алфа". Но ведь для соседов модель одна и таже! А именно "Если я ($name) терпел неудобства из-за этой яблони значит я имею права на яблука", где $name может быть любой переменной и соответственно даная модель может приминятся к совершенно разным людям. Люди разные но модель одна и таже! Если судить по Вашей логике то модель условий выиграша в разных футбольных командах разная. А именно не "забить гол в ворота команды-противника" а "забить гол команде $name". Если модель "забить гол в ворота команды-противника" универсальна и подходит любой команде то модель "забить гол команде $name" подходит только конкретной команде в конкретное время. Как вобще можно расуждать о создании ИИ если у Вас для каждой ситуации нужно создавать новую модель а не использовать общую? >Ну да, давайте лишим ИИ возможности Я ведь сказал что применеие лжи может быть необходимо в некоторых ситуациях. Неужели так трудно понять что даже если ИИ может уметь лгать люди не всегда захотят его использовать в роли лжеца??? >Если ИИ не сможет лгать, его НЕВОЗМОЖНО будет использовать во многих важных областях деятельности. Постараюсь это проигнорировать. Хотя у меня сложилось что Вы или не читаете что я пишу или не хотите этого понимать так как понимаю я. [Ответ][Цитата]
Mad_God Сообщений: 545	На: Должен ли AI уметь врать? Добавлено: 14 янв 07 17:48 И все-таки ответьте на вопрос: Будет ли ИИ программой, делающей все по приказу человека (как база данных) или это будет действительно интеллект, который думает сам? Насколько я представляю интеллектуальность, ии должен обучаться, то есть саморазвиваться. А развитие предусматривает нахождение проблем в развитии и их устранении. Одной из таких проблем будет человек. Или кто-то не согласен? Может, ИИ спокойно пустят разгуливать по городам? Дадут им возможность конкурировать с работниками-людьми? А если роботы будут зарабатывать больше денег они смогут даже нанимать человеческую прислугу. Вот здорово? Так в этом состоит Ваш вопрос или в чем? Объясните подробнее, пожалуйста. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 14 янв 07 18:36 >Будет ли ИИ программой, делающей все по приказу человека (как база данных) или это будет действительно интеллект, который думает сам? Судя из мнения большинства ИИ будет для различных задач разный. Выбрать один конкретный предложеный Вами вариант ответа для меня не представляется возможным. >Одной из таких проблем будет человек. Не совсем понял почему человек должен быть проблемой. Мне кажется что для ИИ человек будет создателем и учителем а не проблемой... >Так в этом состоит Ваш вопрос или в чем? Лично мой интерес в этом вопросе это узнать мнение общества по поводу этого вопроса. Для этого и создавалась даная тема: для того чтобы узнать мнение большинства. Результат: 4 за то что ИИ должен лгать (правда Львович сказал что ложь должна ограничеватся но не сказал как найти эту грань). [Ответ][Цитата]
Mad_God Сообщений: 545	На: Должен ли AI уметь врать? Добавлено: 14 янв 07 20:05 Вообще-то в моем вопросе содержался подвох, а Вы на него поймались. Вы не представляете себе четко и ясно, что такое интеллект. Компьютеры и так выполняют все по приказу человека. Интеллект - самостоятельный. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 14 янв 07 21:42 Mad_God>Будет ли ИИ программой, делающей все по приказу человека (как база данных) или это будет действительно интеллект, который думает сам? Mad_God>Вообще-то в моем вопросе содержался подвох, а Вы на него поймались. >Компьютеры и так выполняют все по приказу человека. Интеллект - самостоятельный. Ваше замечание не слишком коректно. Вообще-то я могу точно сказати что искусственный разум действительно самостоятельный и может лгать. Но мы ведь говорим об ИИ, а ИИ вовсе не обязан лгать или быть свободным. В этом вопросе я полностю согласен с admin (можете прочитать его пост в этой теме). ИИ это всего навсего попытка человека воспроизвести интеллект на компютере (или другим способом), по своей сути это программа которая врятли когда-либо будет свободной. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 14 янв 07 23:54 T.е. вы считаете, что ИИ не тождественен ИР? для меня лично, это синонимы. >В этом вопросе я полностю согласен с admin (можете прочитать его пост в этой теме). И я тоже, в полне согласен. Вы просто употребляее ИР в значении универсальный ИИ. >>Ну да, давайте лишим ИИ возможности > >Я ведь сказал что применеие лжи может быть необходимо в некоторых >ситуациях. Неужели так трудно понять что даже если ИИ может уметь лгать >люди не всегда захотят его использовать в роли лжеца??? > >>Если ИИ не сможет лгать, его НЕВОЗМОЖНО будет использовать во многих >важных областях деятельности. > >Постараюсь это проигнорировать. Хотя у меня сложилось что Вы или не >читаете что я пишу или не хотите этого понимать так как понимаю я. Очень хочу, правда (как видно), не особо успешно. Обратите внимание : факт 1: Вопрос в теме: "Должен ли AI уметь врать?" факт 2: Ваши слова : "применеие лжи может быть необходимо в некоторых ситуациях" факт 3: Если от агента требуется способность в некоторых ситуациях, то он должен ею обладать. Вывод : Вы считаете, что ИИ должен уметь врать. И я полностью с вами согласен. А что касается того, захотят использовать или не захотят, это нас время рассудит. Я, кстати, не утверждал, что ИИ должен врать всегда. Есть много областей, где врать нет необходимости. >А по вашему имя не является частю модели Да, я считаю, что имя модели не является ее частью. И вообще: Логический вывод на одной модели не делается. т.е. если вы хотите, какой-то общий вывод (правило) то пожалуйста. Но если вы хотите конкретный вывод по конкретной ситуации, вам просто необходимо "заземлить" (т.е. сделать подстановку) ко всем переменным. А подстановка, по-вашему, делается без правил? Вот и получается, что когда мы говорим о модели мира вообще (т.е. мировоззрение), модель может совпадать (как раз, по той самой оговорки, что я сравниваю только ту часть моделей, которая относится к конкретной ситуации, в данном случае, ее отсутствию). Но когда дело доходит до модели КОНКРЕТНОИ ситуации, с конкретными объектами, модели становятся разными, так как для подстановок используются разные правила. Ну, сами судите: два человека понимают слово "Я", совершенно по-разному, разве это не признак разности модели, если одно и тоже понятие воспринимается различно? [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 15 янв 07 1:14 >T.е. вы считаете, что ИИ не тождественен ИР? Да, считаю. Скорее всего ИР будет использовать технологии ИИ но сам ИИ не будет являтся ИР. >Вы просто употребляее ИР в значении универсальный ИИ. Нет. ИР я употребляю как разум на порядок выше ИИ. >Вы считаете, что ИИ должен уметь врать. Давайте конкретнее: я считаю что ИИ в некоторых ситуациях вполне может врать НО также считаю что люди врятли захотят ставить ИИ на должности где от него это требуется. Прежде чем продолжать обсуждение модели хотелось бы точно услышать: для Вас моделю является структура только после подстановок, а до подстановок это всего навсего "общий вывод (правило)"? И что Вы понимаете под словами "правила подстановки"? Примеры приветствуются. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 15 янв 07 1:36 И в чем отличие ИИ от ИР (по вашему). >Прежде чем продолжать обсуждение модели хотелось >бы точно услышать: для Вас моделю является структура >только после подстановок, а до подстановок это всего >навсего "общий вывод (правило)"? И что Вы понимаете >под словами "правила подстановки"? Примеры приветствуются я уже раз 5 об этом написал, но попробую еще раз... Смотря, что мы рассматриваем. Если мы говорим (например) о поведении человека (т.е. не какого то конкретного, а вообще), то модель такого человека "открыта". Т.е. подстановка не требуется. Если же, мы говорим о поведении Бориса Петровича, то модель поведения Бориса Петровича, это модель поведения человека с обязательной подстановкой "человек <- Борис Петрович". Когда я говорил о правилах подстановки, я имел ввиду, сами подстановки. Ну, например: правило преобразования местоимений. (для агента Федя говорящего с Мишей о Пети) я -> Федя ты -> Миша он -> Петя и т.д. (для агента Миша говорящего с Федей о Пети) я -> Миша ты -> Федя он -> Петя и т.д. Как минимум модель отношений друг к другу (правила замены местоимений) у этих агентов разные, но к остальным они относятся одинаково. Поэтому, если я буду говорить об отношении этих двух агентов к остальному миру, я скажу, что их модели одинаковы, если же речь пойдет о ситуации, где потребуется определение местоимений "я"/"ты", я буду говорить о разности моделей. В наших обсуждениях, этого вполне можно избежать, если условиться, что любая модель ведется от третьего лица (т.е. подстановки я/ты "заземлены" изначально) . [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 15 янв 07 2:18 >И в чем отличие ИИ от ИР (по вашему). Позднее создам (или сами создайте если хотите) тему по этому вопросу. Там и будем это обсуждать. >Если же, мы говорим о поведении Бориса Петровича, то модель поведения Бориса Петровича, это модель поведения человека с обязательной подстановкой "человек <- Борис Петрович". Помните Вы говорили что человек думает не словами а образами? Так вот: в любой модели "Борис Петрович" это слова а "человек" это образ. В целом же модель у людей одинаковые просто у них в голове разные интерпритации образов. Т.е. образы то одинаковые вот словесное соответствие этим образам отличается. daner>Когда я говорил о правилах подстановки, я имел ввиду, сами подстановки. Ну, например: правило преобразования местоимений. (для агента Федя говорящего с Мишей о Пети) я -> Федя ты -> Миша он -> Петя и т.д. daner (ранше писали)>для подстановок используются разные правила Правила то одинаковые! Вот слова разные. я -> $name, где $name-образ. ты -> $opponent_name и т.д. К чему я веду: модели у людей почти всегда одинаковы. Человека если хотите с самого начала обучают "от третьего лица" и все изучиные им модели таковыми и являються (ведь человека не возможно обучать "изнутри"). То что он испльзует разные слова "Миша", "Федя", "Петя" это просто словесный вывод внутрених образов. И настоящий интерес для нас (как для изобретателей ИИ) представляют именно "внутрение" модели а не те модели которые уже прошли подстановку в "портах ввода/вывода". [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 15 янв 07 3:47 А что у Бориса Петровича нет образа?! По-моему, Борис Петрович это еще тот образ!. Он личность, физ.тело и еще куча всяких относящихся только к нему качеств, величин, объектов и отношений. Человек - образ более общий. И что, имея у себя такое правило я -> $name вы поймете, что речь идет именно о вас? сомневаюсь. Когда я писал о подстановках, я имел ввиду конкретные образы-объекты, а не просто слова. Я вообще сомневаюсь, что человек мыслит конкретными словами. модель для агента это единственное средство сделать какой-либо вывод для текущей ситуации. соответственно, он строит модель той ситуации в которой находится, основой этой контекстной модели, будет "физика"/"правила"/"общая модель" и полученные данные (собственно контекст). Вообще, вспомните как мы к этому пришли. мы говорили о не соответствии моделей. Если мы будем рассуждать о не соответствии общих моделей (т.е. того, как агенты в принципе понимают мир) расхождение в том, как мы с вами оцениваем роль подстановок, не влияет. Если же брать конкретную ситуацию, я остаюсь в рамках теории о не соответствии моделей, просто рассматриваю модели "заземлено" на конкретную ситуацию. Вы же будете решать эту проблему, как-то по-другому (ну как-то же вы должны ее решать). Как для изобретателей ИИ нас обязательно должны интересовать, как общие модели, так и контекстные, иначе ваш агент не сможет делать конкретные выводы в конкретной ситуации. [Ответ][Цитата]
Стр.5 (22): 1  2  3  4  [5]  6  7  8  9  ...  22 << < Пред. | След. > >>