Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.1 (22) След. > >>    Поиск:
Автор	Тема: Должен ли AI уметь говорить неправду?
Corwin Сообщений: 1324	Должен ли AI уметь говорить неправду? Добавлено: 07 янв 07 20:07 Думаю вопрос вполне понятен. Читать всю дискуссию вовсе не обязательно. Просто напишите в конце Ваше мнение. Статистика: Не против: 5 (Mad_God, daner, admin, Львович, Евгеньев Виктор) Против: 1 (Андрей, tac) [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 07 янв 07 20:08 На мой взгляд ИИ не должен физически уметь врать. Т.е. ответы ИИ должны быть в точности такими какими они заложены (или сгенерированы) в базе знаний ИИ. Но тут есть подвох: что если человек прикажет ИИ не говорить чего-то или говорить но не правду. Ведь в таком случае ИИ повинуясь приказу все же соврет. Интересны Ваши мнения по этому поводу. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 07 янв 07 20:11 Также если взглянуть на тест Тьюринга то там точно указано что ИИ методом обмана должен убедить человека что он (ИИ) является человеком. (Например Вы можете спросить о цвете волос у ИИ и он Вам должен солгать чтобы соблюдать правила эксперимента). То есть Тьюринг допускал возможность лживого ИИ. Лично я вижу два способа прохождения теста Тьюринга: 1) Соврать. 2) ИИ действительно воображает себя человеком: он скажет Вам какой у него цвет волос, какую школу он заканчивал и т. п. [Ответ][Цитата]
Mad_God Сообщений: 545	На: Должен ли AI уметь врать? Добавлено: 07 янв 07 21:31 Вопрос затрагивает важные принципы понимания информации. Опять же, нет абсолютной истины и абсольтной лжи. Для людей существуют мнения. В определенных условиях эти мнения правдивы, в других - ложны. Так, классический пример про "Шерлока холмса, который живет на Бейкер-стрит" не является истиной для реального мира. Но как вымышленный персонаж сэра Артура Конан Дойля он действительно жил на Бейкер-стрит. Даже когда люди врут, они допускают, что возможно, поступили бы так в реальности. Отсюда, формируется двойственное представление о реальности и может наступить момент, когда человек сам поверит в то, что говорил. Например, когда человек говорит, что люит кого-то - врет он или говорит правду? Понять, истинно предположение невозможно. Человек может притворяться довольно долгое время. Я думаю, ложь и истина в мозгу дополняют информацию. Мозг пользуется ложными знаниями, чтобы создать из них истинные. Он обязательно использует ложные предпосылки, например: - сколько предметов у меня в руке? - Два? - Ложь - три? - ложь - один? - истина [Ответ][Цитата]
Mad_God Сообщений: 545	На: Должен ли AI уметь врать? Добавлено: 07 янв 07 21:43 Если понять, что мозг руководствуется возможностями (вероятностями), то ложь, как часто встречающееся понятие обязательно станет такой возможностью. С этой позиции мозг использует одинаково как истину, так и ложь. Перейдем к возможностям. Если вы сидите - у вас уже нет возможности сесть. Если стоите - нет возможности встать. Если заперты - нет возможности выйти. В каждом положении есть определенное количество возможностей, плюс особенно важная возможность найти новую возможность. Характер человека определяет предпочтения в выборе и отказе от возможностей. Выбор и отказ - тоже возможности. Свободны ли вы в выборе своих возможностей, действий? Или выбор продиктован Вам условиями, в которых вы находитесь? Стоит только соврать себе, сказать себе, что вы находитесь в других условиях и выбор ваш тоже измениться. Не в этом ли причина инвариантности поведения? Иногда мы врем себе, иногда ошибаемся в определении своих условий, а иногда просто случайным образом выбираем свои действия, повинуемся порыву. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 07 янв 07 23:35 >нет абсолютной истины и абсольтной лжи. Для людей существуют мнения. В определенных условиях эти мнения правдивы, в других - ложны. ... Так то оно так, но все же я имел в виду ту ложь когда интеллект на 100% знает правду а говорит что-то совсем противоположное этой правде. Например ИИ абсолютно точно знает что он машина и что никаких волос у него вообще нет, но тем не мение для прохождения теста Тьюринга он может (он должен) соврать что у него волосы темного цвета. Или например если Вы сидите а говорите что Вы стоите это тоже 100% ложь. Также как пример можно взять то что врачи могут не говорить смертельно больному человеку что он в скором времени умрет, а скорее скажут что он будет жить долго и счасливо. Интересует вопрос стоит ли ИИ создавать возможность врать (т.е. говорить то что он считает 100% неправдой). [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 07 янв 07 23:46 Например вот интересная дилема: Представте себе домашнего ИИ-секретаря. В обед (во время отсутствия вашей жены) к Вам в гости заходят Ваши друзя. Этот факт был зафиксирован ИИ, но Вы не хотите чтобы жена знала про этот факт и просите ИИ не говорить Вашей жене что к Вам приходили друзя. Вечером жена спрашивает у ИИ-секретаря кто сегодня заходил. Что именно должен сказать ИИ: правду (про Ваших друзей) или следуя Вашим указаниям солгать (никого не было)? [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 1:48 Ну хорошо, что хотя бы, в четвертом посте вы вспомнили определение "вранья" дать. Что касается теста Тьюринга... я лично с этим тестом не согласен, да и не я первый. Уверяю вас, если на другом конце будет сидеть какой-нибудь бухарик или ребенок 3-ех лет, вы после 10 предложений скажете что это компьютер!! . Я кстати, читал логи (ну наверняка были выбраны лучшие, но их было много) от бесед с одним из chatbots правда не помню какой (возможно Alan). Читал довольно долго, пару часов. Я был просто поражен. 90% это было натуральное общение на темы религии, искусства (кинематограф) и т.д. Я конечно понимаю, что он сам, особо глубокие мысли, не придумывал, но использовал их корректно и в нужное время. Что же касается самой темы. Зачем так усложнять ситуацию? Жена, измена и т.д. ( хотя, у кого, что болит :D ). В теории игр (рассмотрим раздел "торговли и аукционов") есть такое понятие как private cost т.е. то как лично вы оцениваете товар. Почти всегда, вам прейдеться "врать" т.е. предлагать цену выше того, как вы ее сами оцениваете, иначе просто не возможно будет получить прибыль. Хотите, что бы ИИ занимался торговлей? Вот вам и ответ! На а раздел "переговоров" я даже не упоминаю... там вообще вранье, само собой разумеется, во многих ситуациях. [Ответ][Цитата]
Mad_God Сообщений: 545	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 1:48 Честно говоря все это пустые разговоры и хотя я не прочь заработать себе побольше сообщений, все же имеет смысл общаться например через ICQ.Мой номер 373-193-481. Или заходите на сайт http://abstraction.hotmail.ru Если у Вас есть что сказать, я с удовольствием размещу Вашу статью. По всей видимости, Ваш вопрос сводится к тому, обладает ли ИИ самостоятельностью. Имеет ли он право выбора между действиями, которые нужны ему лично или должен делать только то, что ему сказали. Я правильно Вас понял? Чему Вы его научите, так он и будет поступать. Его опыт будет сформирован Вами. Под Вашим контролем. Опыт должен состоять из непротиворечивых правил. Поэтому, правило говорить все будет изменено на правило умалчивать или говорить неправду в зависимости от того, какова его программа. Сумеете ли Вы жестко перепрограммировать ИИ? Или убедить его, что нужно поступить именно так? Я считаю, что настоящий интеллект должен быть свободным. Вот только как заставить его быть секретарем? На коленях умолять, что ли? Такая программа нам не нужна. Выходит, надо создавать полудурков, зомбированых рабов, которые будут повиноваться трем директивам Айзимова. Проблема вот в чем: плох тот солдат, который не мечтает стать генералом. Не решит ли ИИ, начитавшись нашей истории, что нас нужно спасать от нас самих? Или что он более совершенен чем мы и более приспособлен к жизни и должен нас вытеснить? ИИ способен зарабатывать в интернете намного больше денег чем люди, управлять крупными компаниями, совершать научные открытия. Хотя о чем это я , ИИ еще нет в природе. Но когда он появиться, он не будет ничего забывать, как мы и поэтому будет реже ошибаться. Не будет отвлекаться на мелкие проблемы и поэтому будет работать эффективнее. А если соединить всемирную сеть таких ИИ? Вот они делов натворят... Подумайте вот еще над чем: не решит ли ИИ, сравнив скорость своих ответов на вопросы заданные человеком и скорость ответов человека, на вопросы заданные ИИ, что человек думает намного медленнее, а значит он глупее? Согласно тесту Тьюринга он будет вынужден замедлять свои ответы. А если за счет этой разницы во времени ИИ будет мысленно опережать человека, то он сможет и влиять на его мысли. А если в любой области знаний ИИ будет знать больше чем средний человек, то ИИ будет служить примером для человека, будет признан вожаком. Куда заведет такой вожак? Это мне напоминает саммон демона. Можно попасть под власть демона. Некоторые скажут: слишком много "если".Но все они вытекают из разницы в скорости. Разница может быть и обратная. Должно же у ИИ быть чувство времени? У ИИ реального времени обязательно, у пошагового - не знаю. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 1:57 >Должно же у ИИ быть чувство времени? У ИИ реального времени >обязательно, у пошагового - не знаю. во-первых: Время есть в не зависимости от того, какое ИИ. время это свойство окружающей среды. во-вторых: что-то вы "промазываете" по теме. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 2:01 >Честно говоря все это пустые разговоры и хотя я не прочь >заработать себе побольше сообщений, все же имеет смысл >общаться например через ICQ. Ну, это вообще гениально :D. Прямо как Карцев рассказывал анекдот Двое разговаривают, третий подошел, стоял, слушал, потом говорит: "Да не морочьте мне голову", и пошел дальше. [Ответ][Цитата]
Mad_God Сообщений: 545	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 2:32 Хех это вобще прикол. Похоже, писать по два сообщения подряд входит в моду... "Время есть в не зависимости от того, какое ИИ. время это свойство окружающей среды." А если ИИ изолирован от окружающей среды? Как может безглазый безухий безрукий ИИ понять время? Время можно понять только реально его "пощупав", ощутив на себе, поучаствовав в нем. Можно прочитать о времени, о его свойствах и качествах. Но если числа можно себе представить, то время без измерения - нельзя. [Ответ][Цитата]
Mad_God Сообщений: 545	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 2:38 Если память ИИ будет организована так, чтобы хранить воспоминания последовательно по мере поступления, то можно обрести реальный опыт времени: это событие случилось раньше а это позже. Но сколько оно продлилось? Длилось ли первое событие дольше второго и на сколько? Без тиков этого не понять. И у нас внутри что-то тикает, иначе почему я просыпаюсь без будильника вовремя? А насчет темы - думаю, что тема просуществует недолго. Удалить ее надо, а то глупая очень. Свободный разум хочет врет, хочет не врет. Рабский разум делает что прикажут. Согласны? [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 2:38 Цитата: Автор: Mad_God Хех это вобще прикол. Похоже, писать по два сообщения подряд входит в моду... "Время есть в не зависимости от того, какое ИИ. время это свойство окружающей среды." А если ИИ изолирован от окружающей среды? Как может безглазый безухий безрукий ИИ понять время? Время можно понять только реально его "пощупав", ощутив на себе, поучаствовав в нем. Можно прочитать о времени, о его свойствах и качествах. Но если числа можно себе представить, то время без измерения - нельзя. Возможно, наши взгляды расходятся, но я придерживаюсь концепции агентов, а значит, по определению ИИ являясь агентом, не может быть изолирован от среды. [Ответ][Цитата]
Mad_God Сообщений: 545	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 2:57 Сколько я слышал об агентах, то не знал, что их уже делают в реальной среде. Пока только в виртуальной [Ответ][Цитата]
Стр.1 (22): [1]  2  3  4  5  ...  22 След. > >>