Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.1 (9) След. > >>    Поиск:
Автор	Тема: А нужно ли создавать ИИ?
cosc Сообщений: 4	А нужно ли создавать ИИ? Добавлено: 21 июн 06 21:56 Интересно, ни у кого не возникало мысли о том, что если будет создан полноценный ИИ, то события фильма Терминатор могут стать реальностью. ТО есть ИИ, превосходящий человеческий, может решить, что люди ему не нужны и попытается избавится от них. И тогда, с учетом, того что они воспользуется всеми знаниями человечества и будет по определению умнее человека от него не будет защиты и он сделает все что захочет. Поймите правильно, я не призываю свернуть все работы в области ИИ, те промежуточные результаты его создания(в частности экспертные системы) очень полезны и я думаю что их надо и дальше совершенствовать, но может не надо(пока еще не поздно) создавать главного - самого Искуственного интеллекта, превосходящего человеческий. Или хотя бы создать ИИ, но с ограничением по разуму, что он был немного глупее человеческого. Так по крайней мере можно будет его удержать в подчинении. [Ответ][Цитата]
Андрей Сообщений: 3943	На: А нужно ли создавать ИИ? Добавлено: 22 июн 06 0:25 Паровоз ИИ уже не остановить и единственное что можно сделать это постараться создать его максимально развитым, сообразительным, мудрым и внедрить его повсеместно, чтобы не возникло очагов доминирования в использовании ИИ. Ну, и самим развиваться конечно. ИИ не спасёт человека от проблем с самим собой. [Ответ][Цитата]
Dreamer Сообщений: 268	На: А нужно ли создавать ИИ? Добавлено: 23 июн 06 15:08 cosc:<Интересно, ни у кого не возникало мысли о том, что если будет создан полноценный ИИ, то события фильма Терминатор могут стать реальностью.> Ой, да у кого ее только не возникало, этой мысли. Фильм-то известный. cosc:<промежуточные результаты создания ИИ (в частности экспертные системы) очень полезны (...)> Экспертные системы - это не промежуточные результаты, а скорее отходы процесса создания ИИ. cosc:<Или хотя бы создать ИИ, но с ограничением по разуму, что он был немного глупее человеческого. Так по крайней мере можно будет его удержать в подчинении.> Не стоит городить огород. Поймите 2 простых вещи. Первое: ИИ будет создан в любом случае, просто потому, что это сулит огромные выгоды. Второе: если его создатели не окажутся полными идиотами, они сделают ИИ таким, чтобы он в любом случае, каким бы умным и сильным ни был, признавал приоритет человека и выполнял его приказы. Вот и все. А "Терминатор" - просто современная сказочка. Мысль, что ИИ может получить право на запуск межконтинентальных баллистических ракет без подтверждения людей-операторов - это даже не смешно. Вообще, в последнее время часто вижу 2 противоположные точки зрения: что ИИ создавать нельзя и что, наоборот, как только ИИ создадут, тут-то всем и настанет большое человеческое ЩАСТЬЕ. Но истина, как всегда, лежит посередине... [Ответ][Цитата]
гость 83.237.249.*	На: А нужно ли создавать ИИ? Добавлено: 23 июн 06 19:09 Быть может это звучит непривычно для вас, но я считаю что если будет будет изобретен ИИ, превосходящий человеческий, то в человечестве больше не будет необходимости, и оно должно будет уступить место более совершенным организмам. [Ответ][Цитата]
cosc Сообщений: 4	На: А нужно ли создавать ИИ? Добавлено: 23 июн 06 19:52 Вряд ли можно создать ИИ очень умным и что бы он всегда признавал приоритете человека. Для этого понадобится ввести какие-то законы, которые они никогда не сможет переступить, но это отрицаетельно скажется на его интеллектуальных способностях, хотя все равно это того стоит. Ведь у человека отсутствуют как таковые встроенные законы которые он никогда не может переступить. НРавственость и все прочее закладывается в процессе воспитания. Недаром в процессе эволюции уничтожались все прочие представители рода людей, которые былее менее приспособленны к выживанию. Они уничтожались сильнейшим, то есть нашими предками. И надо недопустить, что бы ИИ пошел по этому же пути... <Мысль, что ИИ может получить право на запуск межконтинентальных баллистических ракет без подтверждения людей-операторов - это даже не смешно.> Думаю это не так уж нереально. Дело в том, что мир становится все более динамичным и часто реакции людей становится недостаточно для принятия важных оперативных решений, и тут вполне возможно что-то доверять машине. Тем более, иногда доверие машине больше, чем людям. Кстати, не так давно уже американцы думали создать мощный суперкомпьютер для упарвления запуском баллистических ракет на случай ядерной войны, но потом отказались, так как им показалось, что он еще недостаточно умен и может неправильно интерпретировать информацию и запустить ракеты тогда, когда не нужно. В будущем возможно появится более мощное и быстрое оружие и эта проблема будет еще острее. Насчет ИИ тогда наверно оптимальным вариантом будет что-то вроде робота из романов Айзека Айзимова, подчиняющегося 3 законам робототехники, если конечно возможно будет на практике обеспечить безусловное подчинение этим 3 законам. Хотя все равно остается опасность того, что какой-то безумец в терорристических целях создасть ИИ, отвергающий эти законы... [Ответ][Цитата]
cosc Сообщений: 4	На: А нужно ли создавать ИИ? Добавлено: 23 июн 06 19:54 <Быть может это звучит непривычно для вас, но я считаю что если будет будет изобретен ИИ, превосходящий человеческий, то в человечестве больше не будет необходимости, и оно должно будет уступить место более совершенным организмам> Вот этого-то я и опасаюсь... [Ответ][Цитата]
Dreamer Сообщений: 268	На: А нужно ли создавать ИИ? Добавлено: 23 июн 06 22:37 cosc: <Вряд ли можно создать ИИ очень умным и что бы он всегда признавал приоритете человека. Для этого понадобится ввести какие-то законы, которые они никогда не сможет переступить, но это отрицаетельно скажется на его интеллектуальных способностях, хотя все равно это того стоит.> Я думаю, особых проблем здесь быть не должно. В том числе и с интеллектуальными способностями. Простой пример - верующие. Они могут свободно рассуждать на технические и бытовые темы, и только обсуждение концепции Бога становится для них больным местом, где имеется предопределенный набор догм, отступление от которого они могут счесть обидой. (Например, тот же Планк, если не ошибаюсь, был глубоко религиозен.) cosc: <Ведь у человека отсутствуют как таковые встроенные законы которые он никогда не может переступить.> Ну а у ИИ некоторые законы будут заданы жестко. Думаю, это чисто инженерный вопрос. Один единственный хорошо воспитанный ИИ используем как эталон . Dreamer:<Мысль, что ИИ может получить право на запуск межконтинентальных баллистических ракет без подтверждения людей-операторов - это даже не смешно.> Cosc:<Дело в том, что мир становится все более динамичным и часто реакции людей становится недостаточно для принятия важных оперативных решений, и тут вполне возможно что-то доверять машине.> Не до такой же степени . Я бы, например, не хотел начала ядерной войны из-за того, что какому-нибудь ИИ приспичило пострелять. Такие решения передоверять нельзя. Думаю, на это никто не пойдет. cosc:<Кстати, не так давно уже американцы думали создать мощный суперкомпьютер для упарвления запуском баллистических ракет на случай ядерной войны, но потом отказались (...)> Думаю, это просто безосновательные слухи. ИИ еще не создан, современным компьютерам подобные решения доверить невозможно. cosc:<Хотя все равно остается опасность того, что какой-то безумец в терорристических целях создасть ИИ, отвергающий эти законы...> Это есть. Но лично я надеюсь, что на начальном этапе технологии ИИ будут труднодоступны, а потом человечество несколько поумнеет, и разного рода подонки будут своевременно попадать в психиатрические лечебницы и на тот свет. Гость:<Быть может это звучит непривычно для вас, но я считаю что если будет будет изобретен ИИ, превосходящий человеческий, то в человечестве больше не будет необходимости, и оно должно будет уступить место более совершенным организмам> Для меня это звучит бредом, к тому же опасным! Извините за резкость. Объясните мне, какая-такая _сейчас_ есть необходимость в человечестве? Может быть, Вы существуете, потому что Вам сообщили, что это необходимо? Никакая "необходимость" тут ни при чем, не надо фантазировать. Относительно цели жизни пока не придумали ничего лучше старого доброго: "Цель жизни есть жизнь". Просто жизнь - это такая форма организации материи, которая стремится сохранить и распространить свой шаблон организации. А все остальное - вторично. В том числе и (само)совершенствование, которое многие считают самоцелью, хотя оно опять-таки в конечном счете служит жизни, выживаемости - собственной, а возможно, и чужой (человек - животное социальное). А ИИ - это еще один инструмент прогресса _человеческой_ цивилизации (другой у нас нет, не так ли?). И заявления вроде "уступим место более совершенным ..." - на мой взгляд, лишь проявление суицидальных наклонностей. В будущем, возможно, люди сольются с ИИ в одно целое, использовав преимущества технологии для совершенствования тела - но преемственность цивилизации останется. Так что не будем забывать: главная цель - человечество. Не абсолютная, но, безусловно, главная. [Ответ][Цитата]
cosc Сообщений: 4	На: А нужно ли создавать ИИ? Добавлено: 25 июн 06 22:49 <Думаю, это просто безосновательные слухи. ИИ еще не создан, современным компьютерам подобные решения доверить невозможно.> Вообще говоря, это не так сложно. Ведь надо просто отследить, когда противник будет наносить удары и дать один единственный приказ (нажать ядерную кнопку). Тут главное не ошибиться, а мозгов особых не надо. Сложнее собрать информацию, а это уже прерогатива других, а принять решение на основе собранной информации - большого ума не надо, и теоретически совр. компьютер может с этим справиться. Скажем например, радары зафиксировали кучу запусков с территории противника в твою сторону, тут по-моему думать особо не чего. НО все равно, компьютеру этого поручать нельзя уже по другим причинам, что он может ошибиться и т. д. Поэтому вроде бы они и отказались. А так идея была благая - да же если операторы погибнут, приказ все равно будет отдан компьютером. Кстати, если придет время, когда будет создан и распространен ИИ, то придется прекратить все войны, так как ИИ по встроенным законам будет мешать им, а создавать ИИ с отклонением от этих законов нельзя. ТАк что волей-неволей придется подчиниться. [Ответ][Цитата]
Dreamer Сообщений: 268	На: А нужно ли создавать ИИ? Добавлено: 26 июн 06 10:55 cosc:<...если придет время, когда будет создан и распространен ИИ, то придется прекратить все войны> Мечтать не вредно... иногда [Ответ][Цитата]
Feniks Сообщений: 1	На: А нужно ли создавать ИИ? Добавлено: 05 июл 06 17:02 Вмешаюсь в вашу дискусию по поводу "Нужен ли ИИ". На этот вопрос я прочитал огромное количество литературы и методов создания наипростейших ИИ (например все программисты игр знают, что смодулировать какого нибуть жучка впринципе реальна). И сделал я интересные выводы: Всем известно, что в мире мнение по поводу, нужен ли ИИ разделились на "ЗА" и "ПРОТИВ" (в частности и в моей семья :-) Лично моё ИМХО: Я за искуственный интелект (за существо, которое осзнаёт себя как личность, может развиваться, принимать решения используя свой опыт) Человечество катиться в пропасть. Ничего в будущем. Ресурсы не бесконечны, екология уже подорвана, войны разрушают как человеческие жизни, так и биосферы. А теперь скажите мне, хоть одно правительство мира сделала хоть что то, что бы хоть как то прекратить войны, улутшить екологию. Кажды из нас, проходя по городу и хавая мороженное даже и не задумываеться, что на этом месте когда то было озеро или вместо универмага "Современная бытовая техника" когда то была прекрасная лужайка. Если хоть кто то был в Кривбасе (Украина, промышленный центр), то наверняка знает не по наслышке, что сохнушее бельё на улице может принимать желтоватый оттенок, воздух имеет непреятный запах и вода отдаёт вкусом железа и хлорки (и пить эту воду невозможно). Но к сожалению мы не можем повернуть время обратно,, и никто из нас не откажеться от електричества, удобств. Могу поспорить, что многие из нас даже не выключают свет в соседней комнате, где никого нету. И тем более ни одно правительство не убавит темпы економического роста (вся економика США базируеться на всем известном принципе "экономического роста". Это достигаеться путём нарашивания промышленных мощностей, значит и ухудшение екологической ситуации как на данной местности, так и в мире в целом). И после этого вы хотите сказать, что "человечество разумно" ?!? Убивать свою среду обитания? Как неким выходом из данной ситуации являеться ИИ. Возможно, (это лиш фантазия) этот организм выживет на земле после нас и более разумно будет поступать с нашей планетой. Но тут возникает другой вопрос: А каким будет ИИ? Будет ли он нести добро человечеству? В зависимости от того, кто будет разрабатывать и обучать ИИ. Ведь на ранних стадиях ИИ будет как ребёнок, которому будут расказывать о мире и помогать учиться. И в зависимости от того, кто будет учителем, будет влиять на "мировозрение" ИИ. А теперь посмотрим, кто реально сможет разработать ИИ. Огромные корпорации. Мы живём в мире капиталистов, и корпорации - отличный тому примр. Есликорпорация влаживает деньги в какой либо проект, то причина тому - "вложили 1 млрд. денежек, а получим 100 млрд. денежек". А значит от ИИ как раз и будет вложен етот принцип. А это очень плохо. Всем известно, на что способен человек ради денег. Некоторые люди готовы и родную мать за бабки продать. Гос. заказы . Ради чево государсвту ИИ? Ради науки? Не верю. Спец службы каждой страны не против иметь информацию о "соседних странах". А значит от ИИ что будет требовать? Грязная работа. Сами понимаете, что будет творить ИИ Военные и "чёрный рынок" - я так называю всех и всё, что связано с оружием, войнами,деньгами, наркотой. Не сложно догадаться, какие будут требования от ИИ. Разработка новых средств поражения противника, средства изготовления новых хим. препаратов, нахождения информации о противнике, принятие некоторых решений. Группа людей и мелкие компании - эта группа меня привлекает больше всего. Это горсточки самоотчаяных психов-учёных, которые работают фактически на голом ентузиазме ради "блага человечества". Тоесть в ИИ влаживають все наилутшее, что смогло изобрести, придумать, сделать человек за всё свое существование. Мир без войн, голодных, наркоты и всякой нечести и психов-падонков. ТОлько они смогут сделать что-то по настоящему хорошее, иначе... Вот видите, какая делема возникает. Ведь не ИИ монстр, а те, кто его создают. Если с благими помыслами, то дитя технологий будет творить добро, а если же с корысливыми... Хрен его знает, как всё обернёться для нас. Насчёт "трёх правил". Все отлично знают, что мы - человеки всегда нарушаем правила или можем нарушить. Единчтвенный закон, который мы не нарушаем - закон самосохранения. Никто из нас в здравом уме не хочет погибнуть (если у вас всё хорошо). А это значит, что даже если мы и сможем заставить ИИ слушаться трёх законов, то ИИ всё равно их нарушить, ведь он самообучаеться. Дело только времени. Я сдесь увидел, что многи вспоминают знаменитый всем фильм "Терминатор". Чесно говоря, фильм клёвый (но не о фильме то идёт реч ;-) / Я думаю, что такого развития событий вряд ли ИИ захочет. (посудите сами, захочете ли вы воевать с противником-психом, который в случае смерти готов подорвать себя и вас за компанию, что бы прехватить и вас на ТОТ свет). Самый неразумный поступок, и все эти бредни про войны с компьютерами - фигня (попрошу не обижаться, это лиш моя точка зрения, и я никому её не навязываю). Проше дать человечеству того, чего он хочет. Как говорили (кажись римляне) "Хлеба и зрелиш". А так жеш и власти. Посмотрите на американцев и я думаю, что большинство со мной согласиться. Лично я возлагаю на ИИ то, что не может сделать один человек и чего не хотят делать другие. Это счастья всем, и что бы никто не остался обиженым Writed by Feniks Gordon Freeman E-MAIL: Feniksa@rambler.ru [Ответ][Цитата]
гость 62.117.124.*	На: А нужно ли создавать ИИ? Добавлено: 06 авг 06 16:03 Читал и плакал!!! Простите меня за тон, просто когда люди начинают судить о предмете, в котором мягко говоря не очень разбираются, да ещё к тому же публично, ну вобщем я это называю изнасилование ума. Теперь по существу. Вы что серьёзно думаете, что интеллект это ВЕСЬ человек? Или что СУПЕР интеллект это самодостаточный объект для принятия РЕШЕНИЯ? Милые мои любители ИИ! Этой проблемой я занимаюсь уже 15 лет. И уверяю Вас – интеллект это всего лишь крупица! Для того чтобы Вы поняли о чем я говорю, вспомните знаменитый фильм «Человек дождя». Главный герой этого фильма – аутист. Так вот чтобы Вы навсегда избавились от глупых страшилок-терминаторов-матриц-и т.п. запомните несколько постулатов: 1. Для принятия РЕШЕНИЯ необходима ВОЛЯ. ИИ может ПОНЯТЬ но не ПРИНЯТЬ. Воля движется МОТИВАЦИЕЙ, а та в свою очередь невозможна без понятий – «ЧУВСТВА» или «ЖЕЛАНИЯ». 2. Воля не тождественна Интеллекту (интеллект животных, да простят меня зоологи, крайне примитивен, однако им не чуждо понятие «воли-мотивации»). 3. Компьютеры никогда не смогут ЖЕЛАТЬ, т.к. это не есть СВОЙСТВО ИНТЕЛЕКТА. 4. Создание искусственного ЧЕЛОВЕКА ПРИНЦИПИАЛЬНО НЕВОЗМОЖНО т.к существует, уверяю Вас, сфера нематериальной составляющей человеческого МЫШЛЕНИЯ. Простите меня за возможные неточности, я, к сожалению не владею искусством изысканного письма, и возможно недостаточно убедительно излагаю свои мысли, но поверьте мне, это не теория, а практические результаты многолетнего и, кстати небезуспешного, труда на этом поприще.. [Ответ][Цитата]
Андрей Сообщений: 3943	На: А нужно ли создавать ИИ? Добавлено: 06 авг 06 22:09 >> Главный герой этого фильма – аутист Процессы торможения доминируют над процессами возбуждения. Что тут удивительного? >> Воля движется МОТИВАЦИЕЙ, а та в свою очередь невозможна без понятий – «ЧУВСТВА» или «ЖЕЛАНИЯ». (...) Компьютеры никогда не смогут ЖЕЛАТЬ, т.к. это не есть СВОЙСТВО ИНТЕЛЕКТА. Насколько я понимаю причины желаний теряются для Вас в глубинах Вашего непонимания. И в этих же глубинах, т.е. в себе, Вы ищите все причины всех следствий. А не предполагали ли Вы, что причины желаний находятся во вне?! Человек не является самодостаточным существом, внутри которого работает движок свободы воли и позволяет ему желать всякое волшебным образом. Человек - адаптивный автомат и желания возникают в нём как реакция на внешнее, в подавлющем большинстве случаев разрушающее, воздействие. >> это не теория, а практические результаты Можно ли где-то с ними ознакомиться? >> но поверьте мне Не поверю [Ответ][Цитата]
Valr Сообщений: 136	На: А нужно ли создавать ИИ? Добавлено: 07 авг 06 11:00 Цитата: Автор: гость Читал и плакал!!! Простите меня за тон, просто когда люди начинают судить о предмете, в котором мягко говоря не очень разбираются, да ещё к тому же публично, ну вобщем я это называю изнасилование ума. Совершенно с вами согласен! Цитата: Теперь по существу. Вы что серьёзно думаете, что интеллект это ВЕСЬ человек? Или что СУПЕР интеллект это самодостаточный объект для принятия РЕШЕНИЯ? Мое мнение - человек выполняет лишь функцию несамостоятельного носителя интеллекта, которую ему навязывает общество/человечество. Без контакта с обществом человек вырастает дикарем или деградирует в дикаря. Примитивным образцом ИИ (всемирной управляющей сети) является нынешний интернет: он уже демонстрирует свойства будущего ИИ - его уже невозможно ни уничтожить, ни остановить. Цитата: Милые мои любители ИИ! Этой проблемой я занимаюсь уже 15 лет. И уверяю Вас - интеллект это всего лишь крупица! За такой срок уже можно было бы избавиться от заблуждений, что интеллект может быть заключен в крупице, он во всей нашей цивилизации. Цитата: Для того чтобы Вы поняли о чем я говорю, вспомните знаменитый фильм <Человек дождя>. Главный герой этого фильма - аутист. Так вот чтобы Вы навсегда избавились от глупых страшилок-терминаторов-матриц-и т.п. запомните несколько постулатов: Причем тут фильмы с фантазиями их авторов, не понятно, но перейдем к пастулатам. Цитата: 1. Для принятия РЕШЕНИЯ необходима ВОЛЯ. ИИ может ПОНЯТЬ но не ПРИНЯТЬ. Воля движется МОТИВАЦИЕЙ, а та в свою очередь невозможна без понятий - <ЧУВСТВА> или <ЖЕЛАНИЯ>. 2. Воля не тождественна Интеллекту (интеллект животных, да простят меня зоологи, крайне примитивен, однако им не чуждо понятие <воли-мотивации>. 3. Компьютеры никогда не смогут ЖЕЛАТЬ, т.к. это не есть СВОЙСТВО ИНТЕЛЕКТА. 4. Создание искусственного ЧЕЛОВЕКА ПРИНЦИПИАЛЬНО НЕВОЗМОЖНО т.к существует, уверяю Вас, сфера нематериальной составляющей человеческого МЫШЛЕНИЯ. С четвертый постулат я бы согласился в такой формулировке: Создание искусственного ЧЕЛОВЕКА ПРИНЦИПИАЛЬНО НИКОМУ НЕНУЖНО! Теперь факты: В определенную эпоху рабовладение оказалось наиболее эффективным решением, и многочисленные рабы покорно исполняли чужую волю. Или сейчас на дворе проклятый капитализм, и все вынуждены это учесть поправками к своей воле, мотивации, чувствам и т.п. Даже у нас, в стране победившей пролетарской революции. С другой стороны, компьютер, не имеющий набора ваших постулатов, находит и выбирает более эффективные ходы, чем чемпион мира по шахматам, в результате чего последний, наделенный всеми вашими постулатами, проигрывает. Если сеть, управляемая ИИ, будет принимать более эффективные решения, чем наши управленцы, которым мотивация, чувства, и желания только мешают управлять, как вы думаете, кого или что захотят видеть управляющим массы носителей воли, желания, чувств? Я думаю, развитие цивилизации, как и прежде, пойдет по более эффективному, пусть не привлекательному пути. Цитата: Простите меня за возможные неточности, я, к сожалению не владею искусством изысканного письма, и возможно недостаточно убедительно излагаю свои мысли, но поверьте мне, это не теория, а практические результаты многолетнего и, кстати небезуспешного, труда на этом поприще.. Вот если бы к вашим 15 годам практического труд немного теории... [Ответ][Цитата]
гость 62.117.124.*	На: А нужно ли создавать ИИ? Добавлено: 07 авг 06 11:17 Добрый день. Я не любитель спорить, и делать этого не стану. Разница между ИИ и человеком на примере шахматной программы – компьютер может великолепно сыграть партию, но он некогда не сможет ЗАХОТЕТЬ сыграть в шахматы, точно также как некогда не сможет захотеть уничтожать или созидать. Спасибо, до свидания. [Ответ][Цитата]
Valr Сообщений: 136	На: А нужно ли создавать ИИ? Добавлено: 07 авг 06 11:31 Добрый день. Достаточно, что бы компьютер доказал, что он лучше человека играет в шахматы или управляет чем-либо еще, а человек сам передаст ему управление или заложит такой перехват в программу. Если не сделает этот челеовек, сделает другой, и превзойдет первого по эффективности. Так фабрикант поручил работу машине, и многие мастера - ремесленники оказались не у дел. [Ответ][Цитата]
Стр.1 (9): [1]  2  3  4  5  ...  9 След. > >>