Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.1 (3) След. > >>    Поиск:
Автор	Тема: ИИ - огромные возможности и опастности для человечества.
IvanFuture Сообщений: 146	ИИ - огромные возможности и опастности для человечества. Добавлено: 04 фев 13 20:08 Решил разместить тут еще одну свою мини-книгу (макростатью) "Апокалипсис в байтах". В ней скомпилировал свои соображения по поводу опасностей которые поджидает человечество после глобализации технологий ИИ. Попытался сформулировать 7 основных правил при развертывании инфраструктуры ИИ, которые бы смогли предотвратить апокалипсис Под ИИ в статье подразумевал и в том числе экспертные и иные системы, способные самостоятельно (автоматизировано) принимать решения. Как обычно ни на что не претендую, но может кому-то мои мысли покажутся интересными и полезными. [Ответ][Цитата]
NewPoisk Сообщений: 3745	На: ИИ - огромные возможности и опастности для человечества. Добавлено: 05 фев 13 2:02 Подобные выводы возникают как результат неявного сравнения ИИ с самим собою: людям почему-то упорно кажется что будто ИИ - это такой же человек, только железный, что будто у него есть какие-то естественные для нас желания, что будто ему изначально присущи издержки биологического бытия вроде борьбы за самку, гордость уважения, стремление повелевать, страх смерти и т.д. и т.п.. Но ИИ (тем более сврх-ИИ) - это не человек... Вот в чем состоит фатальная ошибка фантастов: они рассматривают отнюдь не подлинный ИИ, а незначительно модернизированного /телесно/ человека будущего. --- Хотите знать что такое сверх-ИИ? Глава 7.9. Хотите знать что такое цивилизация будущего? Глава 7.10.3.. Вы увидите насколько могущественен сверх-ИИ и узнаете что ни о каком равноправии с ним человечества не может идти и речи. В отличии от фантазий (не только Ваших) на тему будущего, вышеперечисленные главы носят научно-обоснованный характер. [Ответ][Цитата]
Victor G. Tsaregorodtsev Сообщений: 3187	На: ИИ - огромные возможности и опастности для человечества. Добавлено: 05 фев 13 4:11 Цитата: Автор: NewPoisk людям почему-то упорно кажется что будто ИИ - это такой же человек, только железный, что будто у него есть какие-то естественные для нас желания, что будто ему изначально присущи издержки биологического бытия вроде борьбы за самку, гордость уважения, стремление повелевать, страх смерти и т.д. и т.п.. Но ИИ (тем более сврх-ИИ) - это не человек... Вот в чем состоит фатальная ошибка фантастов: они рассматривают отнюдь не подлинный ИИ, а незначительно модернизированного /телесно/ человека будущего. Да, правильно. Под будущим народ понимает немного изменённое и продолженное настоящее. Т.е. ту же самую структуру - только с немного изменёнными значениями каких-то параметров. Но будущее всегда наступает в виде революционных или спонтанных изменений (т.е. со сменой структуры). Правда, среди фантастов можно по пальцам руки пересчитать тех, кто писал о таком реально новом будущем (с новой отнологией, например). Фантастам вроде как сам бог велел - ан нет. Что уж тут говорить о простых людях? И, кстати, у Вас тоже не будущее - а продолженное настоящее. Пусть даже ИИ не будет человеком - всё равно возникнут вопросы о его гражданских и избирательных правах, о подчинении кому-то (и подчинении кого-то этому ИИ), о профпригодности ИИ и о запретах на какие-то профессии,... [Ответ][Цитата]
IvanFuture Сообщений: 146	На: ИИ - огромные возможности и опастности для человечества. Добавлено: 05 фев 13 4:57 Цитата: Подобные выводы возникают как результат неявного сравнения ИИ с самим собою: людям почему-то упорно кажется что будто ИИ - это такой же человек, только железный, что будто у него есть какие-то естественные для нас желания, что будто ему изначально присущи издержки биологического бытия вроде борьбы за самку, гордость уважения, стремление повелевать, страх смерти и т.д. и т.п.. Но ИИ (тем более сврх-ИИ) - это не человек... Вот в чем состоит фатальная ошибка фантастов: они рассматривают отнюдь не подлинный ИИ, а незначительно модернизированного /телесно/ человека будущего. Как раз, как мне кажется я писал не об этом. Да я и не рассматриваю ИИ как нечто похожее на человека, наоборот, под ИИ я также подразумевал и автоматизированные и автономные экспертные системы (а это на порядок ниже классического ИИ). Опасность ИИ для человека я вовсе вижу не в том, что он словно человек обидевшись на homo вдруг решит изничтожить нашу цивилизацию. Нет, речь то о том, что как и любая машина ИИ подвержен ошибкам, более того есть и косвенные аспекты опасности (о них я тоже писал). Проблема заключается что сейчас, во времена отсутвия ИИ, инфраструктуру автоматизированных технологий легко контролировать человеку, так как ее цели и задачи им же и определяются. В условиях распространения технологий ИИ, этот контроль будет осуществлять намного сложнее. А гибкость алгоритмов принятия решений ИИ, в конечном счете, повысит плотность ошибок. Цитата: Да, правильно. Под будущим народ понимает немного изменённое и продолженное настоящее. Т.е. ту же самую структуру - только с немного изменёнными значениями каких-то параметров. Но будущее всегда наступает в виде революционных или спонтанных изменений (т.е. со сменой структуры). Простите, но как раз такую точку зрения и считаю уделом фантастов. История развития общества, часто говорит о другом, противоположным факте. Да и различается между настоящим и будущем определяется протяженностью временного промежутка между ними. Я считаю что к моменту создания ИИ, общество уйдет еще не в столь далекое общество. [Ответ][Цитата]
гость 109.171.7.*	На: ИИ - огромные возможности и опастности для человечества. Добавлено: 05 фев 13 9:05 6.14 ИИ и государства ИИ является абсолютным оружием, сила которого пока недооценивается государствами – насколько нам известно. (Однако довольно успешный проект Эвриско начала 80-х получил финансовую поддержку DARPA.) Однако идея о нанотехнологиях уже проникла в умы правителей многих стран, а идея о сильном ИИ лежит недалеко от неё. Поэтому возможен решительный поворот, когда государства и крупные корпорации поймут, что ИИ – это абсолютное оружие – и им может овладеть кто-то другой. Тогда маленькие частные лаборатории будут подмяты крупными государственными корпорациями, как это произошло после открытия цепной реакции на уране. Отметим, что у DARPA есть проект по разработке ИИ, однако он позиционируется как открытый и находящейся на ранней стадии. Впрочем, возможно, что есть мощные ИИ проекты, о которых мы знаем не больше, чем знали обычнее граждане о Манхэттенском проекте в годы Второй мировой войны. Другой вариант – маленькая группа талантливых людей создаст ИИ раньше, чем правительства поймут ценность и, более того, опасность,исходящую от ИИ. Однако ИИ, созданный отдельным государством, скорее будет национальным, а не общечеловеческим. Если ИИ-атака будет неудачной, она может стать поводом войны между странами. (Из Алексея Турчина, http://ru.scribd.com/doc/7529531/AVTurchin-#outer_page_138 ) По-моему вначале описан резкий максимум вероятности среди прочих многих маловероятных возможностей. Интересно, кто, когда именно это придумал\описал. Вообще у него Полное Собрание где либо встречающихся измышлений, и можно подобрать себе по вкусу. [Ответ][Цитата]
Fractaler Сообщений: 2490	На: ИИ - огромные возможности и опастности для человечества. Добавлено: 05 фев 13 9:59 Да люди, вон, пока на уровне микроонтологий топчутся, а до общей картины/модели мира - как до Луны через Альфа Центавра. Так что можно расслабиться. А те модели/картины мира, что якобы обещают создать создать через всякие "костыли" типа "Думботов" по качеству будут аналогичны китайским товарам - вроде они есть, а использовать нельзя (кто чего туда накукарекал, такая и картина/модель мира). А перепроверять на соответствие реальности - дешевле самим сделать с 0. [Ответ][Цитата]
IvanFuture Сообщений: 146	На: ИИ - огромные возможности и опастности для человечества. Добавлено: 05 фев 13 20:04 Цитата: Автор: гость 6.14 ИИ и государства ИИ является абсолютным оружием, сила которого пока недооценивается государствами – насколько нам известно. (Однако довольно успешный проект Эвриско начала 80-х получил финансовую поддержку DARPA.) Однако идея о нанотехнологиях уже проникла в умы правителей многих стран, а идея о сильном ИИ лежит недалеко от неё. Поэтому возможен решительный поворот, когда государства и крупные корпорации поймут, что ИИ – это абсолютное оружие – и им может овладеть кто-то другой. Тогда маленькие частные лаборатории будут подмяты крупными государственными корпорациями, как это произошло после открытия цепной реакции на уране. Отметим, что у DARPA есть проект по разработке ИИ, однако он позиционируется как открытый и находящейся на ранней стадии. Впрочем, возможно, что есть мощные ИИ проекты, о которых мы знаем не больше, чем знали обычнее граждане о Манхэттенском проекте в годы Второй мировой войны. Другой вариант – маленькая группа талантливых людей создаст ИИ раньше, чем правительства поймут ценность и, более того, опасность,исходящую от ИИ. Однако ИИ, созданный отдельным государством, скорее будет национальным, а не общечеловеческим. Если ИИ-атака будет неудачной, она может стать поводом войны между странами. (Из Алексея Турчина, http://ru.scribd.com/doc/7529531/AVTurchin-#outer_page_138 ) По-моему вначале описан резкий максимум вероятности среди прочих многих маловероятных возможностей. Интересно, кто, когда именно это придумал\описал. Вообще у него Полное Собрание где либо встречающихся измышлений, и можно подобрать себе по вкусу. Вот как раз такая позиция, мне больше всего кажется маловероятной (я о том, что успел прочитать у Турчина). Он цитирует М. Омохундро, из статей которого я так и не понял почему ИИ с большой долей вероятности должен эволюционировать в "истребителя человечества"? Даже соблюдение простых Трех законов робототехники не позволят ему развиться в такого монстра. Про использование ИИ правительством, так тут опасность из совсем иной "оперы" - человек давно уже научился использовать подручный материал в качестве оружия, так и вилкой можно порешить себе подобных) Тут уже проблема безопасности в плане угрозы политики и военных действий. Как таковой ИИ тут не причем, просто новый вид оружия. Хочется, правда надеется, что в будущем общество поумнеет... В остальном больше похоже на вариант теории заговоров. ИМХО, опасность от ИИ исходит совсем по иным причинам. И еще раз повторюсь, речь в этих публикациях идет о полноценных "позитронных мозгах", а же опирался на тот факт, что даже более менее автоматизированная технология, интегрированная в инфраструктуру жизнедеятельности человека, может представлять не меньшую опасность, при этом актуальность этой опасности возрастает из года в год, даже без создания ИИ. И дело не только во внешней опасности - опасности воздействия на такую структуру из вне (умышленное воздействие). Речь идет также и о внутренних угрозах, которые несет такая система для человека. Конечно, можно пофантазировать и на счет маньяков-роботов, жаждущих изничтожения человека, и кто знает как там в туманном будущем будут обстоять дела, но в обозримом будущем, ИМХО лучше оставаться реалистом. [Ответ][Цитата]
rrr3 Сообщений: 11857	На: ИИ - огромные возможности и опастности для человечества. Добавлено: 05 фев 13 20:53 Опасность более реальная может исходить из НЕПОНИМАНИЯ системных ("внутренних") закономерностей развития когнитивных ("больших"), так скажем, образований, как естественных, так в дальнейшем и искусственных. И совсем не из-за того, что "они" захотят "нас" съесть! Осознаю, что это высказывание - пустышка в пустоту, но вот так уж, захотелось высказаться Иначе как-то порой скучновато... [Ответ][Цитата]
Стас Сообщений: 7	На: ИИ - огромные возможности и опастности для человечества. Добавлено: 06 фев 13 23:42 Простите, что вмешиваюсь, но хочу сказать свое мнение по поводу ИИ. Человек всегда боится нового, когда появились простые компьютеры, то их тоже боялись, появились первые летательные аппараты то боялись разбиться. Есть самолеты, которые перевозят людей, есть самолеты, которые уничтожают города и везде человеческий фактор. Можно годами гадать, и обсуждать, что же принесет ИИ смерть или жизнь. Первое – настоящий ИИ необходимо еще создать. «Опасность более реальная может исходить из НЕПОНИМАНИЯ» - абсолютно правильно, так как это логичный и простой ответ. Краткость – сестра таланта. Вот эти ссылки на книги, статьи – все это теория и фантастика. Один повторяет другого, а нового ничего нет и не может быть, потому что это пустая болтовня. Лучше бы подумали, как осуществить его, куда бы, было интересней и продуктивней. Прочитав множество информации по ИИ, пришел к выводу: Никаких прогрессов нет, по ИИ застой, что позже было подтверждено несколькими учеными и соответствующим материалом... Если имеются идеи по поводу разработок уникума, с радостью вступлю в контакт и поделюсь своими соображениями. Спасибо [Ответ][Цитата]
Fractaler Сообщений: 2490	На: ИИ - огромные возможности и опастности для человечества. Добавлено: 08 фев 13 0:43 Цитата: Автор: Стас Прочитав множество информации по ИИ, пришел к выводу: Никаких прогрессов нет, по ИИ застой Раньше компов не было. Теперь появились. Прогресс есть? [Ответ][Цитата]
Стас Сообщений: 7	На: ИИ - огромные возможности и опастности для человечества. Добавлено: 08 фев 13 3:31 Прогресс по ИИ - застой, а не прогресс в целом. [Ответ][Цитата]
Victor G. Tsaregorodtsev Сообщений: 3187	На: ИИ - огромные возможности и опастности для человечества. Добавлено: 08 фев 13 4:12 Цитата: Автор: Стас по ИИ застой, что позже было подтверждено несколькими учеными и соответствующим материалом... "Имя, сестра, имя!" (С) "Три мушкетёра" Ссылки в студию, в общем. [Ответ][Цитата]
Стас Сообщений: 7	На: ИИ - огромные возможности и опастности для человечества. Добавлено: 08 фев 13 5:06 Цитата: Автор: Victor G. Tsaregorodtsev "Имя, сестра, имя!" (С) "Три мушкетёра" Ссылки в студию, в общем. Если имеются идеи по поводу разработок уникума, с радостью вступлю в контакт и поделюсь своими соображениями. Спасибо [Ответ][Цитата]
Fractaler Сообщений: 2490	На: ИИ - огромные возможности и опастности для человечества. Добавлено: 08 фев 13 6:18 Цитата: Автор: Стас Прогресс по ИИ - застой, а не прогресс в целом. Программ раньше не было. Теперь есть. Программа - прогресс в целом или прогресс по ИИ? [Ответ][Цитата]
Fractaler Сообщений: 2490	На: ИИ - огромные возможности и опастности для человечества. Добавлено: 08 фев 13 6:25 Цитата: Автор: Стас Если имеются идеи по поводу разработок уникума, с радостью вступлю в контакт и поделюсь своими соображениями. Спасибо Шаг 1. Создать модель мира для ИИ (граф - ориентированный, правило построения "матрёшки": Подмножество->Множество->Надмножество) - таксономию. Пример кусочка модели (тестовый) Спичечный коробок Шаг 2. К полученной иерархии классов (таксономии) добавить функции Шаг 3. Редактировать модель мира, добиваясь ежемоментного соответствия (отображения) с реальностью. [Ответ][Цитата]
Стр.1 (3): [1]  2  3 След. > >>