Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.2 (22) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Должен ли AI уметь врать?
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 3:07 Ну, во-первых, чем вас виртуальная среда не устраивает? :D Современная игровая среда (такая скажем как FarCry2, HL2) оооочень реалистичны!!! Во-вторых, Интернет - это реальная среда или нет? если да, то на сегодня есть довольно много агентов используемых для е-Коммерции, chatbots и т.д. Ну и, в-третьих, никто не отменял роботов (исследованиями которых, кстати, я занимаюсь). [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 3:17 >Ну хорошо, что хотя бы, в четвертом посте вы вспомнили определение "вранья" дать. Я так понимаю что без определения здесь никто ничего не понимает. Жаль. Ну что ж. Прошу прощения. Мне казалось что пример с тестом Тьюринга и цветом волос вполне понятен. >Что касается теста Тьюринга... я лично с этим тестом не согласен, Мне например тест Тьюринга не нравится поскольку для его прохождения ИИ должен лгать. >Я кстати, читал логи (ну наверняка были выбраны лучшие, но их было много) от бесед с одним из chatbots. Я был просто поражен. 90% это было натуральное общение на темы религии, искусства (кинематограф) и т.д. Могу Вам точно сказать что все вопросы и предложения написаные человеком в подобных логах были предварительно составлены учитывая возможности и знания определенного чат бота. Если бы с этим чат ботом поговорил обычный человек то он бы довольно быстро обнаружыл бы подставу. >Жена, измена и т.д. ( хотя, у кого, что болит :D ) Не вижу повода для сарказма. Просто хотел показать что ложь может быть благом для одного и проблемой для другого. >Хотите, что бы ИИ занимался торговлей? Итак, Вы приходите в супермаркет, а там ИИ который намного умнее Вас начинает Вам втирать что для Вас лучше и что "Нашы слоны самые слонистые слоны в мире. Покупайте только нашых слонов. Они обязательно пригодятся Вам в домашнем хозяйстве"? Такой ИИ вам нужен? >Ну а раздел "переговоров" я даже не упоминаю... там вообще вранье, само собой разумеется, во многих ситуациях. Я так понимаю что для вас лживый ИИ явление вполне принятное. Т.е. вас вполне устраивает ИИ который будет Вам лгать переследуя собственые интересы? [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 3:21 >Честно говоря все это пустые разговоры Если для Вас это пустые разговоры тогда прошу здесь не оставлять свои сообщения. Лично меня эта тема действительно интересует. Особено отношение обществености к этому вопросу. >По всей видимости, Ваш вопрос сводится к тому, обладает ли ИИ самостоятельностью. Не совсем. Интеллект который всегда при разговоре говорит правду также является достаточно свободным. >Имеет ли он право выбора между действиями, которые нужны ему лично или должен делать только то, что ему сказали. Не обязательно ему. Имеет ли ИИ право солгать во благо человека? Например как это делают доктора. >Я правильно Вас понял? Почти. Хотя Ваша интерпритация также интересна. >Чему Вы его научите, так он и будет поступать. Его опыт будет сформирован Вами. Под Вашим контролем. Совершенно согласен. Но вот стоит ли програмно или с помощю обучения заставлять ИИ говорить только правду или же разрешать ему лгать? И если разрешать ему лгать то как? Во имя себя или во имя человека? >Я считаю, что настоящий интеллект должен быть свободным. Вот только как заставить его быть секретарем? Такая программа нам не нужна. Был бы благодарен если бы Вы оставили сообщение про то зачем Вам ИИ в теме "А что если AI действительно изобретут?"(http://gotai.net/forum/Default.aspx?postid=876#876) >Не решит ли ИИ, начитавшись нашей истории, что нас нужно спасать от нас самих? Ну вот. А если мы подобного не хотим? Ведь ИИ может и не говорить вам что он собирается Вас "спасать" и скрывать этот факт. Т.е. он просто будет лгать. Вот и возникает вопрос: Стоит ли разрешать ИИ лгать? И если стоит то зачем нам такой ИИ? (Я уже понял: для торговли ) >что человек думает намного медленнее Могу поспорить что скорость мышления ИИ всегда можно будет подстроить под скорость мышления человека. Но этот вопрос действительно выходит за рамки этой темы. По етому попрошу для его дальнейшего обсуждения (если у Вас есть желание) выделить отдельную тему. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 3:30 >>Ну хорошо, что хотя бы, в четвертом посте вы >>вспомнили определение "вранья" дать. > >Я так понимаю что без определения здесь никто ничего не понимает. >Жаль. Ну что ж. Прошу прощения. Мне казалось что пример с тестом >Тьюринга и цветом волос вполне понятен. Ну, допустим, я догадался сам, что бы имеете ввиду, но как сами вы убедились, это было понятно не всем. Кстати, давать определения в первом же посте, это хорошая практика, и стоило бы ее ввести. Точно уж, не помешает. >>Хотите, что бы ИИ занимался торговлей? > >Итак, Вы приходите в супермаркет, а там ИИ который намного >умнее Вас начинает Вам втирать что для Вас лучше и что "Нашы >слоны самые слонистые слоны в мире. Покупайте только нашых слонов. >Они обязательно пригодятся Вам в домашнем хозяйстве"? Такой ИИ вам нужен? Как владельцу магазина, просто необходим!!!! зато с другой стороны у моего покупателя может быть с собой партитивный ИИ, который будет за него вести переговоры и "врать" в его пользу! А что вы ожидали? alager com alagero. >>Ну а раздел "переговоров" я даже не упоминаю... там вообще вранье, >>само собой разумеется, во многих ситуациях. > >Я так понимаю что для вас лживый ИИ явление вполне принятное. Т.е. вас >вполне устраивает ИИ который будет Вам лгать переследуя собственые интересы? Нет, меня устраивает ИИ, который будет лгать ВАМ, преследуя МОИ интересы!!! Если у вас будет такой же, ну что же, у нас демократия и равенство прав!!! другое дело, что я за то, что бы хоть кто-то мог бы его все-таки контролировать. и основные задачи ставить, а не пускать это все на самотек. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 3:33 >А насчет темы - думаю, что тема просуществует недолго. Возможно. >Удалить ее надо, а то глупая очень. 1. Пока рано. 2. Предложите что-то поинересней. 3. То что для Вас глупо для других таковым не является. Похоже Вас кроме собственного мнения больше ничего не интересует. Я создал эту тему чтобы посмотреть что об этом думают другие. Ваше мнение я уже услышал. Спасибо. 4. С какого времени это Вы начали распоряжатся что нужно удалять ???! >Рабский разум делает что прикажут. Разум который не врет нельзя считать рабским. Покрайней мере с моей точки зрения. Представте человека который никогда не лжет. По Вашему он раб? [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 3:40 >>Рабский разум делает что прикажут. > >Разум который не врет > нельзя считать рабским. Покрайней мере с моей точки зрения. >Представте человека который никогда не лжет. По Вашему он раб? лично я не вижу корелляци между этими понятиями. А вообще топик по теме форума, а значит и у удалять его нет никакого смысла. Ну и тем более это не нам решать. А более глупых топиков на сайте пруд пруди!!! [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 3:53 >как сами вы убедились, это было понятно не всем. Да. Учимся на практике >Кстати, давать определения в первом же посте, это хорошая практика, и стоило бы ее ввести. Точно уж, не помешает. Слишком накладно будет топики создавать. Надеемся только на умных людей >Как владельцу магазина, просто необходим!!!! зато с другой стороны у моего покупателя может быть с собой партитивный ИИ, который будет за него вести переговоры и "врать" в его пользу! Нафига нам тогда по магазинам ходить? Пускай ИИ магазина и ИИ покупателя по ICQ обсуждают что кому нужно. Думаю после нескольких суток напряженых дебатов они таки определятся нужны ли покупателю слоны или что там ему вообще нужно. >А что вы ожидали? Предпочитаю расматривать ИИ со стороны полезности обществу. А с этой стороны лживый ИИ продавец только вредит. Хотя Ваша идея интересна. >Нет, меня устраивает ИИ, который будет лгать ВАМ, преследуя МОИ интересы!!! Если у вас будет такой же, ну что же, у нас демократия и равенство прав!!! Ой как мило . Представте себе картину: прошло 2 млн лет. Человечество давно вымерло. Зато по планете ходят толпы роботов которые вешают один одному лапшу на уши >другое дело, что я за то, что бы хоть кто-то мог бы его все-таки контролировать. Как можно контролировать лживый интеллект? P.S. Вы здесь что в режиме чата общаетесь? У Вас ушло всего 20 мин на ответ! Мне завтра (то есть сегодня) на работу идти, а я тут Вам ответы пишу [Ответ][Цитата]
Mad_God Сообщений: 545	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 4:26 Цитата: Автор: Corwin Разум который не врет нельзя считать рабским. Покрайней мере с моей точки зрения. Представте человека который никогда не лжет. По Вашему он раб? Не вижу логики. Свободно мыслящий разум может врать и может не врать. Когда вы воображаете, в вашей голове возникают ситуации которые противоречат вашему опыту. При этом вы ведь врете? Говорите неправду? Так вот, тот разум которой физически не может врать - не свободномыслящий. В нем нет нужных качеств для разума.Некоторые операции он просто не сможет выполнить [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 4:28 >.S. Вы здесь что в режиме чата общаетесь? У Вас ушло всего >20 мин на ответ! Мне завтра (то есть сегодня) на работу идти, а я >тут Вам ответы пишу я фильм смотрел, а он не очень вот и не было проблемы отвечать. >>Кстати, давать определения в первом же посте, это >>хорошая практика, и стоило бы ее ввести. Точно уж, не помешает. > >Слишком накладно будет топики создавать. Надеемся только на умных людей Если обратите внимание, то больше времени уходит на то что бы понять, что вас не поняли, а потом все равно надо определение давать. так что, рациональнее давать его сразу! >Нафига нам тогда по магазинам ходить? Пускай ИИ магазина и ИИ >покупателя по ICQ обсуждают что кому нужно. Думаю после нескольких >суток напряженых дебатов они таки определятся нужны ли покупателю >слоны или что там ему вообще нужно. Правильно!!! Только не забывайте, что продавцу продать поскорее нужно, а покупателю купить поскорее. Кстати, совсем врать не выгодно (это из "теории игр" понятно), так что и агенты совсем врать не будут! В общем, даже в "торге" можно найти "экалибриум", если время играет роль. >Предпочитаю рассматривать ИИ со стороны полезности обществу. >А с этой стороны лживый ИИ продавец только вредит. Надо же, какой альтруизм . Кстати, капитализм оказался более жизнеспособным и полезным для общества, чем социализм. То что "лож" ,в разумных пределах, вредит продавцу , я не согласен. Да и "теория игр" с вами не согласна, и вообще ни один политик , экономист и следователь с вами не согласится. Всегда врать рационально только в одноразовом конфликте, но мы же говорим о продолжительных взаимоотношениях, а значит и лож, должна быть такой, что бы не подрывать доверие. Если же, вообще не врать, то значит оппонент быстро определит модель вашего поведения, найдет слабые места и вы (т.е. ваш ИИ) не добьется желаемых результатов. Т.е. если вы сразу признаетесь продавцу, что готовы купить вещь X по цене 1000$ (а он то был готов продать за 100$) сами понимаете, кто от этого проиграет. Думаю что для общества, было бы полезней, если бы и продавец и покупатель смогли преуспеть, т.е. если X будет продан ... скажем за 500$ в процессе спора. Предвижу ваш ответ : "честные ИИ смогут договориться". Возможно, но во-первых, ИИ может торговаться с человеком (т.е. НЕ Честным агентом), а во-вторых эвристики прибыли у агентов могут быть разными. Кроме того, я не хочу, что бы завтра этот X (честным образом) стоил бы 1000$ только из-за того что я раскрыл свой private value. >Как можно контролировать лживый интеллект? Очень просто, нужно что бы этот интеллект БЕЗУСЛОВНО считал вас хозяином, т.е. получить данные, раскодировать и подкорректировать сознание ИИ для "создателей" должно быть доступно. >Человечество давно вымерло. Зато по планете ходят толпы >роботов которые вешают один одному лапшу на уши A по вашему, чем мы (люди) с вами занимаемся? Если человечества не будет (т.е. мы эволюционируем в ИИ) то ИИ нужно будет строить общество, и это будет, скорее всего, по тем же правилам что и у нас. [Ответ][Цитата]
Mad_God Сообщений: 545	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 4:38 Как можно контролировать лживый интеллект? Просто: читая листинги его выводов и правильно формируя его мировоззрение (как воспитываете ребенка).Процесс обучения ИИ будет долгим, так что за это время целая наука появится: ) Институты появятся, профессора. Это как всегда. Пока есть идея - Искуственный Интеллект. Появились Институты Искуственного Интеллекта, которые подготавливают специалистов, которые будут подготавливать специалистов, которые подготовят таки специалистов, которые таки создадут ИИ. А тогда появятся Институты по изучению феномена Искуственного Интеллекта (уже будет что изучать) Институты по обучению персонала, который будет обучать ИИ. Институты изучения проблем обучения ИИ. Институты по изучению проблем изучения проблем обучения. И в конче концов : Институт по подготовке специалистов для создания Институтов по созданию специалистов создания Институтов. Что то на рекурсию потянуло. Наверное понять, о чем я думаю. И оказывается, я просто думаю. [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 4:39 Цитата: Автор: Mad_God Не вижу логики. Свободно мыслящий разум может врать и может не врать. Когда вы воображаете, в вашей голове возникают ситуации которые противоречат вашему опыту. При этом вы ведь врете? Говорите неправду? Так вот, тот разум которой физически не может врать - не свободномыслящий. В нем нет нужных качеств для разума.Некоторые операции он просто не сможет выполнить Прочтите еще раз определение которое дал Corwin в своем 4-ом посте. Там четко написано что "врать" нужно другим (а не самому себе) , притом , четко сознавая что это вранье. Так что связи , со "свободомыслием" никакой. Другой вопрос... И КСТАТИ ВЕСЬМА ЗАНЯТНЫИ должен ли ИИ уметь врать себе!! Ну т.е. должно ли у него быть самовнушение?! Хм.... это интересно!!! [Ответ][Цитата]
Mad_God Сообщений: 545	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 6:27 А, наконец-то я допер... Врать другим людям? Сознавая что это ложь? Тогда я бы перефразировал вопрос. Должен ли человек запрещать ИИ врать? потому что при такой постановке вопроса, как в теме, смысл заключается в связи ИИ и умения лгать, я имею ввиду когда ИИ будет действующим, он обязательно будет уметь врать. Но будет ли он использовать это для общения, так же как и уметь распознавать ложь? То есть будет ли он доверять, верить? [Ответ][Цитата]
Mad_God Сообщений: 545	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 6:47 Давайте подумаем. ИИ должен уметь врать, хотя бы чтобы пройти тест Тьюринга. Допустим, программу ИИ видоизменили, специально чтобы пройти тест и далее использовали "чистую версию", которая не врет. Нужно определить, какие достоинства одной версии перед другой. На основе полученных данных будет легче принять решение. Достоинства зависят напрямую от той отрасли, где будет использоваться ИИ. Если ИИ будет использоваться в информационных справочных системах, энциклопедиях, поисковиках, системах управления, то способность врать ему не нужна. То есть в случае, когда речь идет об ограничении влияния на людей. Влияние производится только правдивой информацией. Если же речь идет о внедрении ИИ во все сферы жизни, где раньше был только человек, то без возможности врать он не будет конкурентноспособным. Опять же, конкурентность подразумевает вытеснение слабой стороны. Предполагаете, кто кого вытеснит? А еще есть такое понятие как превентивный удар... Если существует малейшая опасность того, что ИИ вырвется на СВОБОДУ и от него будет зависеть моя жизнь, то она будет стоить еще меньше чем сейчас. Представьте: уже сейчас в крупных компаниях по телефону отвечают роботы; уже сейчас есть посудомоечные машины; машины, которые убирают улицы, помещения; машины, которые убирают урожай; машины - погрузчики; машины - строители. Когда появится ИИ, все эти машины будут управляться ним. Да что машины? Профессии секретаря, продавца, экскурсовода, водителя, шахтера, минера исчезнут в числе первых. Останутся только проститутки Я ответил на вопрос или тема будет продолжаться? [Ответ][Цитата]
daner Сообщений: 4593	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 13:28 >Профессии секретаря, продавца, экскурсовода, водителя, >шахтера, минера исчезнут в числе первых. Останутся только проститутки Проститутки.... хм... надеюсь что нет. Да и вообще, кто сказал, что к тому времени, человек будет не конкурентно способным!!! почему наш И будешь хуже ИИ? скорость? Но мы видь, говорим о далеком будущем, (т.е. вы говорите о далеком, я стараюсь говорить о близком) тогда и наш мозг мы научимся стимулировать и разгонять . >Я ответил на вопрос или тема будет продолжаться? Надеюсь, что будет продолжаться. Во всяком случае, я поднял еще один вопрос , видоизменив старый. >Если существует малейшая опасность того, что ИИ вырвется на >СВОБОДУ и от него будет зависеть моя жизнь, то она будет стоить >еще меньше чем сейчас. Скорее всего, ваша жизнь от ИИ будет зависеть уже в скором бедующем. Уже сей час, если отключить все компьютеры, будет Апокалипсис! Но это глобально, а в индивидуальном плане "автопилоты" совсем уже скоро будут весьма интеллектуальны и точно не хуже человека. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Должен ли AI уметь врать? Добавлено: 08 янв 07 14:59 >Если обратите внимание, то больше времени уходит на то что бы понять, что вас не поняли, а потом все равно надо определение давать. так что, рациональнее давать его сразу! Как видите даже если бы я дал его с начала это бы не слишком помогло >В общем, даже в "торге" можно найти "экалибриум", если время играет роль. Ну я понял. Если вам нужна машина, ИИ продавец впаривает Вам ржавую консервную банку говоря что "Клянусь богом, это именно то что Вам нужно!". А Вы верите, поскольку разуму который сильне Вас сложно не поверить... >Надо же, какой альтруизм Есть немного >То что "лож" ,в разумных пределах, вредит продавцу , я не согласен. Да и "теория игр" с вами не согласна. А я и не говорю о полезности лжы продавцу. Я говорю об обществе. Продавец всего навсего небольшая часть общества. Тем не менее неужели обществу будет лучше если продавец обогатится за счет толпы тупуватых покупателей которые потратят свои деньги на ненужный и некачественый товар? Ведь именнно покупатели составляют большую часть общества. >значит и лож, должна быть такой, что бы не подрывать доверие. Доверие. Об каком доверии может быть речь если Вы заходя в магазин точно знаете что ИИ продавец УМЕЕТ лгать и скорее всего опять навешает вам лапши на уши как это было прошлый раз? >Очень просто, нужно что бы этот интеллект БЕЗУСЛОВНО считал вас хозяином Тоесть чтобы он Вам всегда говорил правду и никогда не лгал? >A по вашему, чем мы (люди) с вами занимаемся? Переследуем свои интересы а не интересы своих создателей. Покрайней мере я на это надеюсь >должен ли ИИ уметь врать себе!! Ну т.е. должно ли у него быть самовнушение?! Мой ответ: Что за чушь? Т.е. ИИ должен лгать себе что у него действительно есть волосы? А какой в этом смысл? > видоизменив старый. Тема создана только вчера вечером. А Вы уже называете вопрос старым [Ответ][Цитата]
Стр.2 (22): 1  [2]  3  4  5  6  ...  22 << < Пред. | След. > >>