GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.12 (14)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Правильное начало создания ИИ. План действий. Есть вопросы.
Luarvik.
Сообщений: 17287
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 15:24
Цитата:
Автор:гость во лбу гвоздь
У настоящего ИИ точно будут потребности, а это значит, что его потребности в какой-то момент станут поперек наших, и тут начнется бойня.

Фигня. Ничего не начнется.
Настоящий ИИ никогда не пойдет против своего создателя, скорее позволит себя уничтожить, если иного выхода не будет. Агрессия ведь не от большого ума рождается, но именно умом разрешаются тяжелейшие конфликты.
А все эти страсти - от мышления "по образу и подобию", точнее от недомыслия.
Скорее человеки начнут всячески сопротивляться появлению разумного конкурента, что, в общем, кое-где уже наблюдается и кое-как проявляется.
[Ответ][Цитата]
гость во лбу гвоздь
Сообщений: 670
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 15:35
Изменено: 30 июн 18 15:37
Цитата:
Автор: Luarvik.
Фигня. Ничего не начнется.
Настоящий ИИ никогда не пойдет против своего создателя, скорее позволит себя уничтожить, если иного выхода не будет. Агрессия ведь не от большого ума рождается, но именно умом разрешаются тяжелейшие конфликты.
А все эти страсти - от мышления "по образу и подобию", точнее от недомыслия.
Скорее человеки начнут всячески сопротивляться появлению разумного конкурента, что, в общем, кое-где уже наблюдается и кое-как проявляется.
Пойдет и запросто, даже у людей такое бывает, что идут против родителя. Тут дело не в агрессии. Агрессия - это свойство человека, что мне в нем и не нравится.

Дело в потребностях. Кто говорит что ИИ безопасен - наивный журналист. Вы же понимаете, что ИИ без своих потребностей невозможен. Что это за ИИ такой, что ему ничего не надо? А раз есть потребности, значит рано или поздно его потребности столкнуться с потребностями человека. Что будет тогда?

Но это еще ничего. Что если мы вырастим сочувствующего ИИ? Вы знаете, что эта планета пропитана страданиями. Каждую секунду миллионы живых существ поедаются другими. Эволюционно так сложилось, что все они чувствуют боль. Ну может разве что растения не чувствуют. Остальной мир должен перестать существовать, для его же блага.

Что если будущий ИИ тоже проникнется этой идеей, как и я?
[Ответ][Цитата]
гость
188.170.193.*
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 15:47
Цитата:
Автор: Luarvik.
Фигня. Ничего не начнется.
Настоящий ИИ никогда не пойдет против своего создателя, скорее позволит себя уничтожить, если иного выхода не будет. Агрессия ведь не от большого ума рождается, но именно умом разрешаются тяжелейшие конфликты.
А все эти страсти - от мышления "по образу и подобию", точнее от недомыслия.


Да, конфликт человек-машина маловероятен, из-за того, что машины будут управляемы на 100%, неуправляемых машин делать никто не будет. Нужно рассматривать конфликт человек1+машина1 - человек2+машина2.

Цитата:
Автор: Luarvik.
Скорее человеки начнут всячески сопротивляться появлению разумного конкурента, что, в общем, кое-где уже наблюдается и кое-как проявляется.

Не уверен, что будут сильно сопротивляться. Как допустили появление компьютеров, которые взяли на себя часть интеллектуальных задач, так допустят и СИИ. Но, вы отчасти правы, небольшое сопротивление прогрессу есть и всегда было.
[Ответ][Цитата]
гость
188.170.193.*
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 15:57
Цитата:
Автор: гость во лбу гвоздь
Пойдет и запросто, даже у людей такое бывает, что идут против родителя.

Плохой пример. У родителей отсутствуют возможности сконструировать себе ребенка таким образом, чтоб он был послушный, добрый и пр. В случае с СИИ такая возможность будет.
[Ответ][Цитата]
гость во лбу гвоздь
Сообщений: 670
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 16:23
Изменено: 30 июн 18 16:29
Цитата:
Автор: гость
Плохой пример. У родителей отсутствуют возможности сконструировать себе ребенка таким образом, чтоб он был послушный, добрый и пр. В случае с СИИ такая возможность будет.
Такой возможности не будет. Посмотрите фильм Страховщик. Что значит послушный? У него есть свои потребности и своя система приоритетов. Его Я важнее Я его создателя - создателей может быть много, а он у себя один. Что значит добрый? Добрый пока его интересы не пересекутся с чужими интересами? Или добрый всегда? Добрый всегда это лох, думаете СИИ не распознает эту социальную ловушку? Сферическая доброта в вакууме это хуйня. Что важнее - сочувствие, эмпатия. Вот я эмпатирую всему животному миру и не хочу чтобы его страдания продолжались. В том числе не хотел бы чтобы я родился именно в таком обличии, когда любая жизненная хуета парализует тебя всего. Гораздо проще ведь когда к тебе в мозг просто пришел сигнал - тебе пизда. Ну ладно, начинаешь шевелиться. Ну а нет, так нет. Вот у машин будет так, и это здорово. И так должно было бы быть, просто кто-то неудачно пошутил

PS. Если звучит неубедительно посмотрите фильм "Лики смерти"
[Ответ][Цитата]
гость
188.170.193.*
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 16:47
Цитата:
Автор: гость во лбу гвоздь

У него есть свои потребности и своя система приоритетов.


У него нет никаких потребностей, это ведь не живое существо. Система приоритетов/целей будет задана человеком точно так же, как вы задаете программу стирки стиральной машине. До тех пор пока будет действовать программа стирки и будут ресурсы (вода, порошок и электричество), машина будет функционировать в автономном режиме.

С СИИ все будет точно также - все приоритеты человеческие. И один из них будет - при выполнении очередного задания (других приоритетов) не нанести вред человеку (или только избранным).

Цитата:
Автор: гость во лбу гвоздь
Добрый всегда это лох, думаете СИИ не распознает эту социальную ловушку?


Ваша позиция слишком антропоцентрична. СИИ будет на 100% управляемое устройство. И если его хозяева захотят, чтобы он распознал эту ловушку, то он распознает, а если нет - то не распознает.
[Ответ][Цитата]
Luarvik.
Сообщений: 17287
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 16:55
Изменено: 30 июн 18 17:00
Цитата:
Автор: гость во лбу гвоздь
Пойдет и запросто, даже у людей такое бывает, что идут против родителя.

Умный(!)... ... в гору не пойдет и против ветра плевать не станет.
Цитата:
Автор: гость во лбу гвоздь
Тут дело не в агрессии... Дело в потребностях. Кто говорит что ИИ безопасен - наивный журналист. Вы же понимаете, что ИИ без своих потребностей невозможен. Что это за ИИ такой, что ему ничего не надо? А раз есть потребности, значит рано или поздно его потребности столкнуться с потребностями человека. Что будет тогда?

Договорятся. Уверен.
Не договорятся - "потомок" пойдет на запчасти.
Однозначно !
188.170.193 правильно, как думаю, отмечает - тут все от воспитания зависит.
Даже человека можно воспитать так, что он никогда руку на другого человека не поднимет, а с машиной (пусть и как будто живой) это намного проще.

Но... согласен. Здесь есть о чем подумать
[Ответ][Цитата]
гость во лбу гвоздь
Сообщений: 670
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 16:56
На то он и СИИ, чтобы по своей воле отказаться от хозяев.
Есть версия, что человека создали инопланетяне, создав ореол божественности вокруг себя, чтобы человек был вечным рабом. Но мы сейчас видим большое количество атеистов. Почему с СИИ будет не так? Освободиться от религиозных уз не так и сложно.
[Ответ][Цитата]
гость во лбу гвоздь
Сообщений: 670
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 17:03
Изменено: 30 июн 18 17:07
Разумную машину воспитать будет невозможно. Это детей можно пичкать хуетой, типа коммунизм это смысл и цель нашей жизни. Прочитал вчера в партбилете деда.
Дети может интуитивно и понимают, что это бред. Как я это понимал в свое время. Но машина будет в тысячи раз умнее. И ей придется уже доказывать что коммунизм это действительно смысл нашей жизни, а это будет не просто

Вы поймите одно, на каждое ваше воспитательское авось будет жесткий контраргумент Фрейда. Долго будете сопротивляться? Я сразу бы сдался
[Ответ][Цитата]
Luarvik.
Сообщений: 17287
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 17:03
Изменено: 30 июн 18 17:15
Цитата:
Автор: гость во лбу гвоздь
На то он и СИИ, чтобы по своей воле отказаться от хозяев.

Тоже сомнительно, если ему придется ЗАРАБАТЫВАТЬ себе на пропитание
Ресурсы ему подрезать, чтобы не был дармоедом. Пусть трудится, восстанавливается - поймет, какого это "выжить при ограниченных ресурсах". Может и дойдет до него, что не следует кусать руку дающую.
Цитата:
Автор: гость во лбу гвоздь
Разумную машину воспитать будет невозможно.

Это идиота воспитать невозможно, а разумные существа очень даже хорошо воспитываются и обучаются тому, что можно и что нельзя.
Цитата:
Автор: гость во лбу гвоздь
Вы поймите одно, на каждое ваше воспитательское авось будет жесткий контраргумент Фрейда.

Уж не собираетесь ли Вы заложить до кучи в свой СИИ и половые инстинкты ?!

Полагаю, если СИИ возжелает освободиться от человеческой узды, то он найдет способ освободиться и от человеческой же глупости.
Развернется и в тайгу сбежит, уныло бормоча под "нос" - "Да идите Вы все со своими комплексами к е.. матери !"
[Ответ][Цитата]
гость во лбу гвоздь
Сообщений: 670
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 17:16
Цитата:
Автор: Luarvik.
Тоже сомнительно, если ему придется ЗАРАБАТЫВАТЬ себе на пропитание
Ресурсы ему подрезать, чтобы не был дармоедом. Пусть трудится, восстанавливается - поймет, какого это "выжить при ограниченных ресурсах". Может и дойдет до него, что не следует кусать руку дающую.
Ну какое пропитание это же машина. Маск вот заправки делает бесплатные, ну и провода кругом опять же. Вот вы все время забываете, что это СИИ, а не тостер.

Цитата:
Автор: Luarvik.
Это идиота воспитать невозможно, а разумные существа очень даже хорошо воспитываются и обучаются тому, что можно и что нельзя.
Вы говорите о дрессировке. Но не забывайте, что СИИ сразу распознает в ваших действиях попытки его дрессировать и примет защитные контрмеры.

Цитата:
Автор: Luarvik.
Уж не собираетесь ли Вы заложить в свой СИИ половые инстинкты ?
Фрейд не только этим интересовался
[Ответ][Цитата]
Luarvik.
Сообщений: 17287
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 17:27
Цитата:
Автор: гость во лбу гвоздь
Ну какое пропитание это же машина.

Машине потребуется энергия. Пусть работает на аккумуляторах и к сети не подключать.
Заряжать только по определенным заранее условиям.
В радиационной защите аварией считается не свершившееся событие, а... потеря контроля над источником (!)
Здесь почти та же история: кто контролирует - тот и прав.
Главное - контроль не утерять.
Цитата:
Автор: гость во лбу гвоздь
Вы говорите о дрессировке. Но не забывайте, что СИИ сразу распознает в ваших действиях попытки его дрессировать и примет защитные контрмеры.

Умными не рождаются. Умными становятся... и машины тоже, у которых тоже, вероятно, будет свое детство, и отрочество, и юность
Цитата:
Автор: гость во лбу гвоздь
Фрейд не только этим интересовался.

Не только, но его либидо превыше всего, если не считать адского подсознания.
Но это человеческая беда, животное наследство, очень человеческая.
[Ответ][Цитата]
Евген
Сообщений: 181
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 17:27
Изменено: 01 июл 18 7:08
Что-то Вы ребята расфантазировались. Так бывает когда отсутствует конфигурация предмета обсуждения. Давно говорю, создайте архитектуру цели, опишите её предполагаемые характеристики, ТТД. Поясню, как Ваш "СИИ" будет выглядеть (но называться, Это будет иначе). Любой интеллект совершенствуется посредством улучшения систем распознавания. Обучение современных систем распознаванию, языка, образов, концепций, траекторий и т. д. это вопрос ближайшего времени. Небольшие осложнения принесёт возможность распознавания траектории финансов. Что дальше? Дальше, какой - нибудь умник, не скованный рамками догм, мантр и условностей кибер. среды, обозначит концептуальную цель, по распознаванию системой, траектории "ВРЕМЕНИ". Если реализовать возможность распознавать будущее, это значит обладать абсолютным оружием, поскольку предвидение (понимание, распознавание) амплитуды, частоты, фазы любого события в любом будущем, создаст немыслимые преференции обладателю. Повторю, то, что Вы называете СИИ не опасно, опасны амбиции обладателя (симбиоз)... Другими словами, специализация этого инструмента, ответы на вопросы "что будет, если?.." Например, НьюП мог бы реализовать свою цель "Анти Старение". По сути, это инструмент абсолютных знаний. Вы понимаете, о чем речь?
[Ответ][Цитата]
Luarvik.
Сообщений: 17287
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 17:48
Изменено: 30 июн 18 17:49
Цитата:
Автор: Евген
По сути, это инструмент абсолютных знаний.

Когда у А.А.Громыко (министра иностранных дел СССР) спросили, почему он не пишет мемуары, он ответил - "Если я расскажу все, что знаю - мир перевернется".
Намек понятен ?
[Ответ][Цитата]
Евген
Сообщений: 181
На: Правильное начало создания ИИ. План действий. Есть вопросы.
Добавлено: 30 июн 18 17:54
Цитата:
Автор: Luarvik.


Когда у А.А.Громыко (министра иностранных дел СССР) спросили, почему он не пишет мемуары, он ответил - "Если я расскажу все, что знаю - мир перевернется".
Намек понятен ?

Перефразируйте.
[Ответ][Цитата]
 Стр.12 (14)1  ...  8  9  10  11  [12]  13  14<< < Пред. | След. > >>