GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (2)След. > >>   Поиск:  
 Автор Тема: Риск от ИИ * Risk AI
Igor Gabrielan
Сообщений: 705
Риск от ИИ * Risk AI
Добавлено: 08 май 12 5:16
Осторожные люди считают, что от ИИ может исходить некоторая опасность для человечества.
К ним относится и Турчин, который в своём эссе о глобальных рисках затронул и тему опасного для человечества ИИ:

Часть 1. Глава 6. Искусственный интеллект
Часть 2. Глава 4. Специфические ошибки, возникающие в дискуссиях об опасности неконтролируемого развития искусственного интеллекта
[Ответ][Цитата]
Slava
Сообщений: 3070
На: Риск от ИИ * Risk AI
Добавлено: 08 май 12 6:11
Давно не читал его и перечитывать что-то не хочется. Тема примитивна до очевидности и поэтому, видимо, большинство ее не замечают. Время не пришло
[Ответ][Цитата]
Igor Gabrielan
Сообщений: 705
На: Риск от ИИ * Risk AI
Добавлено: 08 май 12 7:14
Да, это пока на обочине мировой науки. Тем не менее люди что-то строчат по этой теме.
Библиография
[Ответ][Цитата]
Slava
Сообщений: 3070
На: Риск от ИИ * Risk AI
Добавлено: 08 май 12 7:17
Ну почему же не пофилософствовать? - это ведь так приятно и ни к чему не обязывает
[Ответ][Цитата]
Igor Gabrielan
Сообщений: 705
На: Риск от ИИ * Risk AI
Добавлено: 08 май 12 7:56
Вот статья о первом убийстве роботом человека.

1979: 25-летний рабочий конвейера Форд Мотор погиб на работе в Флэт-Рок, штат Мичиган. Это первый зарегистрированный смерти человека от робота.

Смерть Роберта Уильямса произошла на 58-й год после премьеры пьесы Карела Чапека о универсальных Роботах Россума. "R.U.R." дал миру первое использование этого слова, чтобы описать искусственную личность. Чапек придумал термин, основываясь на чешском слова "принудительный труд". ("Робот" вошёл в английский язык в 1923 году.)

Уильямс умер мгновенно в 1979 году, рука робота прихлопнула его, когда он подбирал запчасти в хранилище, где робот также получал запчасти. Семья Уильямс позже получила компенсацию $ 10 млн. Жюри согласилось, что робот ударил челоека по голове в связи с отсутствием мер по обеспечению безопасности, в том числе должен был звучать сигнал тревоги, если робот рядом.

В значительной степени благодаря промышленному конвейеру робот стал обычным явлением в современном мире. Но в отличие от робота, убившего Уильямса, роботы сегодня пылесосят помещения, обезвреживают мины, бродят по Марсу, собирают фрукты, возможно, скоро будут ухаживать за пожилыми людьми и уже в значительной степени ответственны за производство печатных плат.

Эти и другие достижения создают питательную среду для широкого обсуждения этических проблем роботов, машин, которые, как предполагает соучредитель Microsoft Билл Гейтс, должны привести к технологическому прорыву.

Вековой проблемой является аргумент луддитов, опасность, что машины, в конечном счёте заменят работника. Другая озабоченность, заданная научной фантастикой тема о том, что интеллект робота превысит человеческий интеллект.

В соответствии с этой теорией, машины могут взбунтоваться и ликвидировать хозяев-людей, что запрещает первый закон Айзека Азимова, изложенный в 1950 году: «Робот не может причинить вред человеку , или своим бездействием допустить, чтобы человеку был причинен вред. "

Когда речь заходит о роботах, ученые не хотят проснуться в один день и спросить: "Боже мой, что случилось?", как произошло после создания ядерного оружия, говорит Рональд Аркин, директор Лаборатории мобильных роботов в Технологическом институте штата Джорджия.

Он рассказал о смерти Уильямса как "несчастном случае на производстве", в котором было виновно отсутствие физической гарантии. Смерть не была вызвана волей робота, предупредил он.

"Это был не этический недостаток, если вы не луддиты против промышленной революции», Аркин сказал в недавнем интервью по телефону.

Спустя три десятилетия после смерти Уильямса, правительство начинает регулировать роботов. Ученые изучают юридические последствия действий роботов и будут ли им скоро нужны собственные адвокаты.

Аркин обеспокоен больше о реакции человеческого духа на взаимодействие с роботами, тем более, что одной из целей робототехники является создание личного компаньона для выполнения своих повседневных потребностей, как робот Рози из Jetsons.

"Каковы последствия того, что если мы добьемся успеха?" Аркин спросил. «Искусственные вещи могут быть более желанным и привлекательными, чем их ошибающиеся коллеги-люди".
[Ответ][Цитата]
Slava
Сообщений: 3070
На: Риск от ИИ * Risk AI
Добавлено: 08 май 12 8:44
Цитата:
Автор: Igor Gabrielan
«Искусственные вещи могут быть более желанным и привлекательными, чем их ошибающиеся коллеги-люди".


Да, но они должны общаться с нами и понимать нас, как друзья.
В этом-то и состоит та проблема, которую никто практически не хочет видеть и осознавать, в частности, и на всех тутошних интеллектуальных форумах
[Ответ][Цитата]
Igor Gabrielan
Сообщений: 705
На: Риск от ИИ * Risk AI
Добавлено: 08 май 12 9:05
Но это отдельное убийство из-за несчастного случая не угрожает роду людскому и не навевает философские размышления.
Гораздо философичнее статья Сэмюэля Батлера, написанная в 1863 году.

Перевод от Иъ Лю Ха, немного уточнённый мной:

В 1863 году, через четыре года после того, как Чарльз Дарвин опубликовал свой труд "Происхождение видов путем естественного отбора или сохранение благоприятных рас в борьбе за жизнь", редактор новозеландской газеты "The Press" опубликовал письмо, озаглавленное "Дарвин среди машин". Подписанное Cellarius, оно было написано английским писателем Сэмюэлем Батлером (Samuel Butler, 4 or 5 December 1835 - 18 June 1902). В письме автор противопоставляет эволюцию людей эволюции машин, предрекая, что машины, в конце концов, отберут у людей господство на земле: "В течение веков мы окажемся низшей расой."
Письмо уже тогда подняло многие темы, которые в настоящее время обсуждаются сторонниками Технологической Сингулярности, а именно, что компьютеры развиваются гораздо быстрее, чем люди, и что мы неудержимо ускоряемся в переходе к непознаваемому будущему со взрывоопасными технологическими изменениями.

"Дарвин среди Машин"

Darwin Among the Machines
[To the Editor of The Press, Christchurch, New Zealand, 13 June, 1863.]




Сэр,
Есть немного вещей, которыми нынешнее поколение гордится более справедливо, чем прекрасными улучшениями, которые ежедневно происходят с самыми различными механическими приспособлениями. И это действительно вызывает огромное одобрение на многих основаниях. Излишне перечислять их здесь все , они достаточно очевидны. Наше настоящее дело заключается в соображениях, которые могут, возможно, несколько умерить нашу гордость и заставить нас серьезно задуматься о перспективах развития человеческой расы.

Если вернуться к самым ранним изначальным видам механической жизни, таким как рычаг, клин, наклонная плоскость, винт и шкив, или ( аналогия с чем привела бы нас на один шаг дальше) к одному виду первичного типа, из которого было разработано все механическое царство, мы имеем в виду рычаг, и если для сравнения мы изучим механизмы корабля Great Eastern, мы обнаружим себя почти в благоговении перед широким развитием механического мира, гигантскими шагами, с которыми он продвинулся вперед в сравнении с медленным прогрессом в животном и растительном мире. Мы тогда найдем невозможным воздерживаться от того, чтобы не задаться вопросом, что в конце этого могучего движения будет? К какому направлению оно склонно? Какой будет его итог? Дать несколько, общих советов в направлении решения этих вопросов и является предметом настоящего письма.

Мы используем слова "механическая жизнь", "механическое царство", "механический мир" и так далее, и мы сделали это намеренно, поскольку, как растительное царство постепенно эволюционировало от минерального и, как подобным же образом животное царство произросло на растительном, так и теперь, в эти последние несколько лет, выросло совершенно новое царство, которое представляется нам пока лишь тем, что когда-нибудь будет рассматриваться как допотопные прототипы расы.

Мы глубоко сожалеем, что наши знания и естественной истории, и машинной индустрии слишком малы, чтобы позволить нам выполнить гигантскую задачу классификации машин в роды и подроды, виды, сорта и подсорта, и так далее, в отслеживании связующих звеньев между машинами самых различных характеристик, показывая, как подчинение нуждам человека сыграло ту же роль среди машин, какую естественный отбор сыграл в животном и растительном царстве, указывая на рудиментарные органы, которые существуют в некоторых машинах, слаборазвитые и совершенно бесполезные, но выступающие в ознаменование происхождения от некоторых исконных типов, которые либо погибли или были изменены в некоторую новую форму механического существования. Мы можем лишь указать на это поле для исследования, которое должно продолжать другим, чьи образование и таланты гораздо более высокого порядка чем те, на которые мы можем претендовать.

На несколько выводов мы решили осмелиться, хотя мы делаем это в глубочайшей неуверенности. Во-первых, мы хотели бы заметить, что как низшие позвоночные достигали гораздо большего размера, чем их более высокоорганизованные потомки, так и уменьшение в размерах у машин часто присутствует в их развитии и прогрессе. Возьмите, например, часы. Изучите структуру красивого зверька, наблюдайте интеллектуальную игру маленьких членов, которые составляют его. Однако это маленькое существо есть не что иное, как усовершенствование громоздких часов тринадцатого века, а никак не ухудшение их. Придёт день, когда часы, которые, безусловно, на сегодняшний день, существенно не уменьшаются, могут быть полностью заменены повсеместным использованием других приборов наблюдения времени, и в этом случае часы вымрут, как динозавры, а новые приборы наблюдения времени (которые годами имели тенденцию более уменьшаться в размерах, чем наоборот) останутся существующим видом вымершей расы.

Взгляд на машины, который мы только-только наметили, подскажет решение одного из величайших и самых таинственных вопросов сегодняшнего дня. Мы ссылаемся на вопрос: Каким может скорее всего быть следующее существо, преемник человека в превосходстве на земле? Мы часто слышали обсуждение этого, но нам кажется, что мы сами создаем своих преемников; мы ежедневно совершенствуем красоту и изысканность их физической структуры; мы ежедневно предоставляем им большую власть и поставляем всякого рода гениальные ухищрения для саморегуляции и автономии силы, которые будут им тем, чем разум был человеческой расе. С течением веков мы обнаружим себя низшей расой. Уступая власть, уступая в этом моральные качества самоконтроля, мы будем смотреть на них как на вершину всего, к чему лучший и мудрый человек никогда не может осмелиться стремиться.

Ни дурные страсти, ни ревность, ни жадность, ни нечистые желания не будут мешать спокойному могуществу этих славных существ. Грех, стыд и горе не будет иметь места среди них. Их умы будут в состоянии вечного покоя, довольства духа, который не знает ни желаний, ни сожалений. Амбиции никогда не будут мучить их. Неблагодарность никогда не причинит им и момента беспокойства. Нечистая совесть, несбывшиеся надежды, боль изгнания, служебная наглость, презрение, что терпящий принимает как недостойную заслугу - это будет совершенно неизвестно им.

Если они захотят "есть" (использованием самого этого слова мы открываем наше признание их в качестве живых организмов), они будут окружены заботой терпеливых рабов, чьи дело и интерес будет следить чтобы они ни в чем не нуждались. Если они выйдут из строя, они будут оперативно окружены врачами, которые досконально знакомы с их устройством; если они умрут, потому что даже эти славные животные не будут освобождены от этого необходимого и универсального завершения, они будут немедленно вступать в новую фазу существования. Ведь не умирает же машина полностью в каждой своей части в один и тот же момент времени?

Мы полагаем, что, когда наступит положение вещей, которое мы пытались описать выше, человек должен будет стать для машины тем, чем лошади и собаки являются для человека. Он будет продолжать существовать, и даже улучшать свое существование, и будет, вероятно, лучше в состоянии одомашнивания под благотворным правлением машин, чем он есть в его нынешнем диком состоянии.

Мы относимся к нашим лошадям, собакам, крупному рогатому скоту и овцам, в целом, с большой добротой, мы даем им всё лучшее, чему опыт учит нас, и не может быть никаких сомнений, что наше использование мяса добавляет к счастью низших животных гораздо больше, чем оно отбирает от него. Подобным же образом есть основания полагать, что машины будут относиться к нам любезно за то, что их существование зависит от нас, как наше зависит от низших животных.

Они не могут нас убить и съесть, как мы делаем это с овцами, они не только нуждаются в наших услугах по их воспроизводству (часть их экономики, которая будет всегда оставаться в наших руках), но и в услугах по их кормлению, их лечению, когда они больны, и захоронению их умерших или переработке их трупов в новые машины. Очевидно, что если бы все животные в Великобритании кроме только людей умерли, и если бы в то же время все сношения с иностранными государствами из-за внезапной катастрофы стали бы совершенно невозможны, то при таких обстоятельствах гибель людей была бы чем-то, что страшно представить. Подобным же, если люди вымрут, будет и конец машин, если не хуже.

Дело в том, что наши интересы неотделимы от их, и их интересы от наших. Каждая раса зависит от другой неисчислимым количеством выгод, и до того как репродуктивные органы машин будут разработаны таким образом, какой мы вряд ли еще способны себе представить, они полностью зависят от человека хотя бы для продолжения воспроизводства своего вида. Это правда, что эти органы могут быть в конечном счете, развиться в направлении развития интересов человека. Нет ничего, что наша увлечённая раса желала бы более, чем видеть плодородный союз двух паровых двигателей. Правда, что машины даже в настоящее время заняты в воспроизводстве машин, становясь родителями машин зачастую их превосходящих, но время флирта, ухаживания и брака, представляется весьма отдаленным, да и вряд ли может быть реализовано нашим слабым и несовершенным воображением.

Изо дня в день, однако, машины, укрепляют свои позиции по отношению к нам, с каждым днём мы становимся более послушны по отношению к ним; больше мужчин ежедневно приковывается к ним в качестве рабов, больше мужчин ежедневно посвящают энергию всей своей жизни развитию жизни механической. В итоге это просто вопрос времени, но это время придет, когда машины будут держать реальную власть над миром и его жителями, в чём ни один человек с поистине философским разумом не станет и на момент сомневаться.

Наше мнение таково, что война на уничтожение должна быть немедленно провозглашена против них. Каждая машина всякого рода должна быть уничтожена доброжелателями той же специальности. Пусть не будет никаких исключений, не будет пощады. Давайте в одночасье вернемся в первобытное состояние. Если будет настоятельно оспорено, что это невозможно при нынешнем состоянии дел человеческих, это сразу показывает, что зло уже сделано, что наше порабощение началась по настоящему серьёзно, что мы породили расу существ, которую не в нашей власти уничтожить, и что мы не только порабощены, но и абсолютно уступчивы в нашем рабстве.

В настоящее время мы оставим этот вопрос, который мы предоставляем безвозмездно членам Философского Общества. Согласятся ли они воспользоваться огромным полем для деятельности, которое мы указали, мы сами будем стремиться к труду в нём в недалеком будущем и неограниченно долго.

Я, сэр и т.д.,
Cellarius
[Ответ][Цитата]
covax
Сообщений: 1609
На: Риск от ИИ * Risk AI
Добавлено: 08 май 12 9:12
Цитата:
Автор: Igor Gabrielan
Учёные изучают юридические последствия действий роботов и будут ли им скоро нужны собственные адвокаты.


Я вот частенько думаю о роботизированных средствах активной защиты от проникновения на охраняемые территории. Активной, в том плане, что робот может прикончить злоумышленника проникшего на территорию и попавшего в поле "зрения" робота. Прикончить не огнестрелом, а по-тихому, к примеру, пневмопушкой или каким-то метательным орудием.
Будет ли в этом случае юридический прецедент в отношении робота или его хозяина? Интересно, что здесь можно предъявить? Неосторожное обращение, повлекшее смерть?

[Ответ][Цитата]
Slava
Сообщений: 3070
На: Риск от ИИ * Risk AI
Добавлено: 08 май 12 9:31
Цитата:
Автор: Igor Gabrielan
Я, сэр и т.д.,
Cellarius


Потрясающе!
Я думал, что Лем был первым, кто задумался об этом.
Спасибо
[Ответ][Цитата]
Igor Gabrielan
Сообщений: 705
На: Риск от ИИ * Risk AI
Добавлено: 08 май 12 9:32
Цитата:
Автор: Slava



Да, но они должны общаться с нами и понимать нас, как друзья.
В этом-то и состоит та проблема, которую никто практически не хочет видеть и осознавать, в частности, и на всех тутошних интеллектуальных форумах


Подразумеваете концепцию дружественных роботов "friendly robots"?
[Ответ][Цитата]
Slava
Сообщений: 3070
На: Риск от ИИ * Risk AI
Добавлено: 08 май 12 9:34
Цитата:
Автор: Igor Gabrielan
Подразумеваете концепцию дружественных роботов "friendly robots"?


Я не знаком с этой концепцией.
В двух словах скажете, что это такое, или пошлете куда-нибудь?
[Ответ][Цитата]
Igor Gabrielan
Сообщений: 705
На: Риск от ИИ * Risk AI
Добавлено: 08 май 12 9:43
Цитата:
Автор: covax
Я вот частенько думаю о роботизированных средствах активной защиты от проникновения на охраняемые территории. Активной, в том плане, что робот может прикончить злоумышленника проникшего на территорию и попавшего в поле "зрения" робота. Прикончить не огнестрелом, а по-тихому, к примеру, пневмопушкой или каким-то метательным орудием.
Будет ли в этом случае юридический прецедент в отношении робота или его хозяина? Интересно, что здесь можно предъявить? Неосторожное обращение, повлекшее смерть?


Думаю, при современном состоянии юриспруденции это будет равносильно тому, что хозяин заложил мину для уничтожения нежелательных гостей. А в разных странах это оценивается по разному. У нас это считается преступлением, но, может быть, на Диком Западе, где позволительно убить такого лазутчика не из-за угрозы жизни хозяина, а только его собственности, это преступлением считаться не будет.
[Ответ][Цитата]
Igor Gabrielan
Сообщений: 705
На: Риск от ИИ * Risk AI
Добавлено: 08 май 12 9:48
Цитата:
Автор: Igor Gabrielan
Подразумеваете концепцию дружественных роботов "friendly robots"?


Цитата:
Автор: Slava
Я не знаком с этой концепцией.
В двух словах скажете, что это такое, или пошлете куда-нибудь?



Сторонники сингулярности главной задачей ИИ и робототехники считают построение дружественного ИИ (робота).
Friendly Artificial Intelligence

[Ответ][Цитата]
Slava
Сообщений: 3070
На: Риск от ИИ * Risk AI
Добавлено: 08 май 12 10:29
Цитата:
Автор: Igor Gabrielan

Сторонники сингулярности главной задачей ИИ и робототехники считают построение дружественного ИИ (робота).
Friendly Artificial Intelligence


Спасибо, позже погляжу
[Ответ][Цитата]
Slava
Сообщений: 3070
На: Риск от ИИ * Risk AI
Добавлено: 08 май 12 12:53
Ну, в общем, я так и думал, что это ребята из Сингулярити института. Иногда я поглядываю в их сторону. Спасибо. Спорят. Не договорятся
[Ответ][Цитата]
 Стр.1 (2): [1]  2След. > >>