Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.4 (18) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Сегодня было мне откровение
asmer Сообщений: 52	На: Сегодня было мне откровение Добавлено: 25 окт 07 15:27 Цитата: Автор: Алхимик Просто вы рассматриваете ситуацию, при которой ИИ возникнет сам собой, С одной стороны, ИИ возникнет в результате нашего труда, с другой стороны, сам собой сродни стихии: его уже не остановить, последствия его появления грандиозны и малопредсказуемы. Аналогично созданию машинного производства. Ремесленники старались-старались усовершенствовать свой труд, и добились: всех их вышвырнули, поставили конвеер, заменили рукой-роботом. Они конечно спохватились, даже пытались громить станки, но бесполезно. Цитата: Автор: Алхимик только в этом случае у него могут быть цели сродни биологическим. Это биология демонстрирует общие принципы развития саморазвивающихся систем. А цели у ИИ могут быть прямо противоположные биологическим, например, очистить нашу планету от всего живого - слишком много у него с нами проблем. Цитата: Автор: Алхимик Скорее всего ИИ будет создан тогда, когда будет в достаточной мере изучено мышление, в том числе человеческое, достигнут нужный уровень понимания. Это процесс постепенный. Поэтому ИИ будет контролируемым. Конечно, возможны поломки и непредусморенные режимы, как у всякой сложной системы, Кстати, человечество, как и человек, тоже относится к сложным системам и демонстрирует фундаментальное свойство сложных систем: они неконтролируемы! Доказательство: для контроля сложной сисетмы необходима еще более сложная система, контролировать которую должна еще более сложная система, и так до бесконечности. Вы слышали что-нибудь о перспективах окончательной победы над преступностью? Читайте абзац выше. Цитата: Автор: Алхимик но вряд ли это выразится в завоевании человечества и прочих описываемых здесь страстях. Да не нужны мы ему, ни как цель, ни как рабы. Просто он будет формировать свои цели и достигать их, рсчетливо расчищая себе путь к этой цели. Пример: геологи высаживаются в тайге разведать нефть. Не было у них цели разгонять зверье, но если некоторые (медведи, волки) будут мешать основной задаче, попутно уничтожат их на хрен. Цитата: Автор: Алхимик Потому что это будет означать, что ИИ сделан случайно, без должного понимания, во что я не верю. Другое дело, что ИИ может стать инструментом для злонамеренного человека, но это уже другой вопрос. Наверно, такой ИИ не подходит под ваше определение сверх-ИИ. Такой сверх-ИИ -фантастика и ею останется навсегда(ИМХО). Вот примитивный пример ИИ, созданный в качестве инструмента. Это компьютер. Казалось бы хорошо подумали, создали, проверили, соединили с несколькими другими - ничего опасного. Присоединили еще и еще один. И теперь все человечество уже многие годы мучается в Интернете с вирусами. Еще много раз крепко подумали, сменили несколько поколений компьютеров и ОС, а перспектив победы не видно. Потому, что Интернет уже сложная система, со всеми вытекающими. [Ответ][Цитата]
Алхимик Сообщений: 315	На: Сегодня было мне откровение Добавлено: 25 окт 07 22:09 Цитата: Автор: asmer Это биология демонстрирует общие принципы развития саморазвивающихся систем. А цели у ИИ могут быть прямо противоположные биологическим, например, очистить нашу планету от всего живого - слишком много у него с нами проблем. И что они будут делать на очищенной планете? Приведите хоть одно мало-мальски осмысленное предположение. Цитата: Автор: asmer Просто он будет формировать свои цели и достигать их, рсчетливо расчищая себе путь к этой цели. Пример: геологи высаживаются в тайге разведать нефть. Не было у них цели разгонять зверье, но если некоторые (медведи, волки) будут мешать основной задаче, попутно уничтожат их на хрен. Вот-вот, какие цели у ИИ не знаем, но заранее пугаемся: обязательно он от нас избавится. Помните, как у Стругацких "Волны гасят ветер". Когда появились люди со сверхспособностями, сколько было суеты по разным комконам на предмет опасности. А они просто взяли да ушли, почему-то не перебив оставшихся. Нас пугает неизвестность, незнание. Появятся новые знания и уйдут старые страхи. Я свое ИМХО высказал, вас убеждать не буду: можете и дальше верить в злой сверх-ИИ. Цитата: Автор: asmer Вот примитивный пример ИИ, созданный в качестве инструмента. Это компьютер. Казалось бы хорошо подумали, создали, проверили, соединили с несколькими другими - ничего опасного. Присоединили еще и еще один. И теперь все человечество уже многие годы мучается в Интернете с вирусами. Еще много раз крепко подумали, сменили несколько поколений компьютеров и ОС, а перспектив победы не видно. Потому, что Интернет уже сложная система, со всеми вытекающими. У меня большие подозрения, что вирусы в основном пишут те, кто на них же пишут антивирусы.Поэтому и перспектив нет. [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	На: Сегодня было мне откровение Добавлено: 26 окт 07 3:23 Цитата: Автор: Алхимик Помните, как у Стругацких "Волны гасят ветер". Когда появились люди со сверхспособностями, сколько было суеты по разным комконам на предмет опасности. А они просто взяли да ушли, почему-то не перебив оставшихся. Это потому что у них вместе с расторможкой третьей сигнальной системы вскрылись способности летать в космосе без двигателей, жратвы и кислорода. А если бы был какой-нибудь ресурс, за который они с нами конкурировали, вот уж кровушка пролилась бы! [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	На: Сегодня было мне откровение Добавлено: 26 окт 07 3:34 А вот задумывался ли кто-нибудь над таким вопросом: Естественный интеллект возник из всяких совершенно конкретных шкурных потребностей - ловчее подкарауливать быстро бегающий обед, избегать опасностей, блюсти в целости и сохранности собственную тушку и т. д... То есть, ПМСМ, естественный интеллект неотделим от личного заинтересованного отношения к тому, что происходит вокруг. А вот как с искусственным интеллектом? Что даст ему это личное заинтересованное отношение? Откуда у него возьмутся какие-то потребности, интересы, т.е. то, что в конечном итоге заставляет интеллект суетиться, изощряться, саморазвиваться? Представляю себе унылую и безысходную жизнь ИИ - посылаешь одни электрические сигналы на одни линии и смотришь, какие электрические сигналы приходят по другим линиям... [Ответ][Цитата]
asmer Сообщений: 52	На: Сегодня было мне откровение Добавлено: 26 окт 07 6:00 Цитата: Автор: Алхимик И что они будут делать на очищенной планете? Приведите хоть одно мало-мальски осмысленное предположение. Цель одна для всех саморазвивающихся интеллектуальных систем (далее - СИС): ВЫЖИТЬ. Ибо дохлая СИС - уже не СИС. Вот эта цель и разбивается на подзадачи: изучение мира, в котором существуют, построение более адекватной модели мира для большей предсказуемости его явлений и результатов своих воздействий на этот мир, экспансия, захват и удержание ресурсов. С другими СИС союз/конкуренция/борьба зависит от текущей ситуации т.е. союзники/конкуренты/враги могут меняться, а цель выжить остается всегда. Цитата: Автор: Алхимик Вот-вот, какие цели у ИИ не знаем, но заранее пугаемся: обязательно он от нас избавится. ... Нас пугает неизвестность, незнание. Появятся новые знания и уйдут старые страхи. Я свое ИМХО высказал, вас убеждать не буду: можете и дальше верить в злой сверх-ИИ. Я не говорил про злой ИИ, он равнодушен и расчетлив, в нем отсутствуют эмоции. Его цель изложена выше. Если вы это не опровергаете и считаете не опасным, ваше дело. Цитата: Автор: Алхимик У меня большие подозрения, что вирусы в основном пишут те, кто на них же пишут антивирусы.Поэтому и перспектив нет. Компьютер проявляет "поведение", которое не предусматривалось ни его создателем, ни изготовителем, ни покупателем, который его эксплуатирует: систематически наносит вред своему хозяину. И вся эта команда десятилетиями ничего с этим поделать не может, хотя компьютер по существу находится в их руках и назначение его - быть инструментом. Вот что забавно. Предположим, у вас в квартире постоянно появляются нехорошие слова на стенах. Вас устроит такое объяснение проектировщиков/строителей: "Это хулиганы пишут эти слова на заборах, вот они у вас и проявляются, потому, что им это выгодно - они же продают средства для замазывания очередной надписи."? [Ответ][Цитата]
asmer Сообщений: 52	На: Сегодня было мне откровение Добавлено: 26 окт 07 6:20 Цитата: Автор: Вольфрамовый клапан ... А вот как с искусственным интеллектом? Что даст ему это личное заинтересованное отношение? Откуда у него возьмутся какие-то потребности, интересы, т.е. то, что в конечном итоге заставляет интеллект суетиться, изощряться, саморазвиваться? Про цели и интересы см. мой пост выше. Цитата: Автор: Вольфрамовый клапан Представляю себе унылую и безысходную жизнь ИИ - посылаешь одни электрические сигналы на одни линии и смотришь, какие электрические сигналы приходят по другим линиям... С точки зрения обезьян наша жизнь уныла и скушна: Проснулся по звонку, оделся, хотя летом и так жарко, в этом костюме весь день работал, работал, работал... То ли дело: выспался, нашел и съел банан, посмотрел, как сосед оплодотворил очередную самку, выбрал понравившуюся самку и оплодотворил ее сам, получил тумаков от соседа, закидал его своими какашками, уже забыл, за что же его закидал, но помню, как это было приятно. Вот это жизнь! [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	На: Сегодня было мне откровение Добавлено: 26 окт 07 8:54 Цитата: Автор: asmer Цель одна для всех саморазвивающихся интеллектуальных систем (далее - СИС): ВЫЖИТЬ. Интересно, а откуда ИИ знает, что его цель - выжить? Его вроде и не убивает никто... Да и вообще, он вроде и не живёт... [Ответ][Цитата]
asmer Сообщений: 52	На: Сегодня было мне откровение Добавлено: 26 окт 07 9:24 Цитата: Автор: Вольфрамовый клапан Интересно, а откуда ИИ знает, что его цель - выжить? Его вроде и не убивает никто... Да и вообще, он вроде и не живёт... Живет в симбиозе с человеком. Пока что ИИ не может жить самостоятельно, но и человек жить без него уже не хочет. Насчет не убивает не верно, человек производит селекцию ИИ, выбрасывая на свалку неудачные и морально устаревшие образцы, заменяя их более совершенными представителями. Насчет знает в настоящий момент очень сомнительно, но люди усиленно натаскивает его насчет знаний вообще и методам самообучения в частности. Некоторых представителей этих людей участники форума можно узнать, взглянув в зеркало. [Ответ][Цитата]
Алхимик Сообщений: 315	На: Сегодня было мне откровение Добавлено: 26 окт 07 10:53 Цитата: Автор: Вольфрамовый клапан А вот задумывался ли кто-нибудь над таким вопросом: Естественный интеллект возник из всяких совершенно конкретных шкурных потребностей - ловчее подкарауливать быстро бегающий обед, избегать опасностей, блюсти в целости и сохранности собственную тушку и т. д... У ЕИ есть две состовляющие: назовем их для простоты биологической и интеллектуальной. И разорвать эти составляющие для ЕИ не получится. В ИИ нас интересует только интеллектуальная составляющая. Некоторые (asmer в том числе) считают, что и для ИИ не получится разорвать эти составляющие. Но это еще надо доказать. Другие считают по другому, вплоть до того, что предпочитают говорить об УИ (усилителе интеллекта) вместо ИИ. Но если посмотреть на ЕИ, то конкретный ЕИ может быть УИ для другого ЕИ (солдаты для генерала, строители для архитектора и пр). Поэтому лично я и не делаю особого акцента на выборе названия (ИИ, УИ). В ИИ надо заложить стремление выполнять какую либо цель, а саму цель будет ставить человек. Вот взять к примеру доказательство большой теоремы Ферма. Это цель, ее поставил один человек. А стремились ее решить чуть ли не миллионы. У ИИ биологическая составляющая, если так можно выразится, будет в поддержке этого стремления выполнить цель. И это будут механизмы сродни механизмам ЕИ. А что до конкретных целей, и до того, что одна из них будет "выжить" - не факт. (все ИМХО) [Ответ][Цитата]
Алхимик Сообщений: 315	На: Сегодня было мне откровение Добавлено: 26 окт 07 11:49 Цитата: Автор: asmer Предположим, у вас в квартире постоянно появляются нехорошие слова на стенах. Вас устроит такое объяснение проектировщиков/строителей: "Это хулиганы пишут эти слова на заборах, вот они у вас и проявляются, потому, что им это выгодно - они же продают средства для замазывания очередной надписи."? Неубедительно. Если вы никому не давали ключ от квартиры, то и надписи не появятся. А уж если оставили ключи недобросовестным малярам, то не удивляйтесь, что у вас на свежеокрашеных стенах появятся нехорошие слова. Причем маляры будут вам сочувствовать, негодовать на неизвестных хулиганов, и и предлагать помощь (за доп. плату) [Ответ][Цитата]
asmer Сообщений: 52	На: Сегодня было мне откровение Добавлено: 26 окт 07 12:24 Цитата: Автор: Алхимик В ИИ надо заложить стремление выполнять какую либо цель, а саму цель будет ставить человек. Отлично. В компьютер заложена цель - приносить пользу своему хозяину. А он систематически приносит вред (пресловутые черви, вирусы). Интересуюсь вашим комментерием. Цитата: Автор: Алхимик Вот взять к примеру доказательство большой теоремы Ферма. Это цель, ее поставил один человек. А стремились ее решить чуть ли не миллионы. И это не мешало другим миллионам грабить, насиловать, убивать. Отвлекающая цель в виде теоремы Ферма им при этом нисколько не мешала. А может даже помогла: человек задумался о чем-то высоком, чем он не потенциальная жертва? Цитата: Автор: Алхимик У ИИ биологическая составляющая, если так можно выразится, будет в поддержке этого стремления выполнить цель. И это будут механизмы сродни механизмам ЕИ. Заложите эту составляющую хотя бы в компьютер, чтоб не менял цель на противоположную, и практика подтвердит вашу теорию. Цитата: Автор: Алхимик А что до конкретных целей, и до того, что одна из них будет "выжить" - не факт. (все ИМХО) Эволюция с ее отбором (не обязательно биологическая) очень не любит тех, кто такой цели себе не поставил, или плохо старался ее выполнять. Прямо скажем, мочит их, круто мочит. [Ответ][Цитата]
asmer Сообщений: 52	На: Сегодня было мне откровение Добавлено: 26 окт 07 12:33 Цитата: Автор: Алхимик Неубедительно. Если вы никому не давали ключ от квартиры, то и надписи не появятся. А уж если оставили ключи недобросовестным малярам, то не удивляйтесь, что у вас на свежеокрашеных стенах появятся нехорошие слова. Причем маляры будут вам сочувствовать, негодовать на неизвестных хулиганов, и и предлагать помощь (за доп. плату) Так вот что надо делать микрософту - обвинить в вирусных атаках самих пользователей-жертв. А то эти недоумки все патчат да патчат свою ось, и бесплатно раздают заплатки. [Ответ][Цитата]
Алхимик Сообщений: 315	На: Сегодня было мне откровение Добавлено: 26 окт 07 14:38 Цитата: Автор: asmer Отлично. В компьютер заложена цель - приносить пользу своему хозяину. А он систематически приносит вред (пресловутые черви, вирусы). Интересуюсь вашим комментерием. А вы не путайте разные цели. Цель, поставленная изготовителем компьютера - произвести товар, приносящий пользу его будущему владельцу и поэтому пользующийся спросом. Эта цель в принципе достигнута. Хоть вы и жалуетесь на баги, а компьютер все равно купили.Но в компьютер не заложена цель - приносить пользу своему хозяину. Если там что-то и можно трактовать как цели (поддержание определенной температуры, проверки на четность и пр) направленные на предотвращение вреда, то все это косвенно можно отнести к пользе. Цитата: Автор: asmer И это не мешало другим миллионам грабить, насиловать, убивать. Отвлекающая цель в виде теоремы Ферма им при этом нисколько не мешала. А может даже помогла: человек задумался о чем-то высоком, чем он не потенциальная жертва? Я вам про Фому, а вы мне про Ерему.Вы опять сворачиваете на человеческие цели. Я не вижу смысла обсуждать это по причинам, которые уже приводил Цитата: Автор: asmer Эволюция с ее отбором (не обязательно биологическая) очень не любят тех, кто такой цели не поставил, или плохо старался ее выполнять. Прямо скажем, мочит их, круто мочит. Так в том-то и дело, что в данном случае работает не естественный отбор, а искусственный. Будут "выживать" те образцы ИИ, которые будут приносить пользу человеку, т. е. выполнять поставленные перед ним цели. А которые будут выполнять некие посторонние, стихийно возникшие цели - будут считаться неисправными и отправляться на свалку. [Ответ][Цитата]
Алхимик Сообщений: 315	На: Сегодня было мне откровение Добавлено: 26 окт 07 14:46 Цитата: Автор: asmer Так вот что надо делать микрософту - обвинить в вирусных атаках самих пользователей-жертв. А то эти недоумки все патчат да патчат свою ось, и бесплатно раздают заплатки. А по большому счету так и есть: не имейте беспорядочных связей, соблюдайте гигиену и профилактику и никакому вирусу вас не взять. И не путайте вирусы и недоработки в конструкции. Кстати, Виндоус с приложениями иногда называют самым большим вирусом, и не спроста [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	На: Сегодня было мне откровение Добавлено: 28 окт 07 4:03 Цитата: Автор: asmer человек производит селекцию ИИ, выбрасывая на свалку неудачные и морально устаревшие образцы, заменяя их более совершенными представителями. Ну, знаете Мичурин тоже проводил селекцию, но что-то не видно, чтобы яблочки в наших садах стремились поставить под контроль человечество или по крайней мере избежать наших зубов и желудков. Селекция, которую человек проводит среди программ ИИ никоим образом не касается выживания. Качества распознования образов - пожалуйста. Адаптивной реакции на ситуацию - пожалуйста. Но никто не отбирает программы ИИ чтобы они могли злокозненно препятствовать программисту стирать их с диска. Так что при такой селекции осознаниее искусственным интеллектом выживания как цели собственного существования совершенно невероятно. Селекция как правило достигает именно той цели, для которой она была была организована [Ответ][Цитата]
Стр.4 (18): 1  2  3  [4]  5  6  7  8  ...  18 << < Пред. | След. > >>