Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.1 (3) След. > >>    Поиск:
Автор	Тема: Запрещать ли автономное оружие?
Aleksandr1 Сообщений: 2969	Запрещать ли автономное оружие? Добавлено: 01 окт 18 3:04 Недавно в Женеве закончила свою работу комиссия ООН по системам автономного оружия. Все большее распространение получают летальные системы автономного оружия, в которых программа или нейросеть принимают решение об уничтожении противника. Применяемое сегодня оружие – пока еще не полностью автономное: цель всегда задает человек, и ошибки чаще всего являются следствием действий человека. Искусственный интеллект и человеческий интеллект довольно сильно отличаются и в сложных ситуациях действуют по-разному. Развитие искусственного интеллекта и систем автономного оружия вновь возвращает человечество к гуманитарным, нравственным проблемам. В скором времени ученые обещают масштабное внедрение автономного оружия, так называемых роботов-убийц. Такие системы будут без вмешательства человека определять цель и время атаки, а также принимать решение о ее проведении. 26 стран выступают против разработки такого оружия, однако ряд государств, в том числе Россия, США и Великобритания, поддерживают внедрение новой системы вооружения. Пока неясно, на чем будет строиться принцип работы такой системы и каковы риски внедрения новых технологий. Эксперты продолжают спорить, допустима ли передача контроля над оружием роботу. Здесь действительно отдельный интеллект, отдельные решения с какого-то момента и пугающие перспективы, когда такое существо выходит из-под управления человека. Проблема летальной робототехники, то есть такой объект, который становится техническим, но субъектом, это своего рода кощеева игла, которая находится сразу в нескольких оболочках. Здесь оболочки – это проблема на проблеме, а сама игла – это стрелка компаса: что сейчас происходит в мире. 80–90-е – годы глобализации, трансформации. Слово "трансформация" остается, а "глобализация" постепенно "желтеет", появляется какая-то новая концепция мира. Она реализуется буквально в последний год, в последние месяцы. Мы видим довольно серьезные перемены в том, что, как представлялось, будет продолжаться еще какое-то время. Все больше и больше снимает моральную ответственность с человека убивающего, с солдата. Все это отдается автономным анонимным программам. Какой-то злой гений – программист пишет программу, и никто даже не берет ответственность за то, что где-то убиты тысячи человек. [Ответ][Цитата]
гость 188.170.75.*	На: Запрещать ли автономное оружие? +3 Добавлено: 01 окт 18 3:12 ну, ответсвенность же не только берут, ее и возлагают, политический уровень контроля сама по себе автономность не отменяет же. ОТвечать должны те, кто санкционирует автономный режим (или допустил 'автономную/cамовольную автономизацию). [Ответ][Цитата]
Разум_Возмущёный Сообщений: 488	На: Запрещать ли автономное оружие? Добавлено: 01 окт 18 3:25 Изменено: 01 окт 18 3:35 В этом контексте "автономными" можно считать и мины и самонаводящиеся ракеты / бомбы. Да и пуля вылетевшая из ствола "автономна" и уже не поддается контролю. Так что ООН-цы уже привычно фигней занимаются. [Ответ][Цитата]
Aleksandr1 Сообщений: 2969	На: Запрещать ли автономное оружие? Добавлено: 01 окт 18 3:29 Проблема шире. Когда мы говорим про роботов, мы сразу представляем себе терминатора, автономные вертолеты, дроны. Но ведь сейчас большая часть роботов – это незаметные роботы, программы, алгоритмы, искусственные интеллекты. Тут можно вспомнить и печально известный кейс в Пакистане, когда американские спецслужбы создали алгоритм, который по профилю телефонных абонентов вычисляет террористов. Вылетали дроны и уничтожали их, но это не так важно, могли бы выезжать и целевые группы спецназа. Важно, что определяли, кто есть террорист, по профилю: как он передвигается, если поменялась сим-карта – это подозрительно, если ты часто выключаешь телефон – тоже. Было должностное разбирательство внутри ЦРУ, оказалось, что этой программе дали обучиться на каких-то профилях террористов и законопослушных людей. Но проблема в том, что террористов немного, особенно с известными профилями телефонных переговоров, и это было жутко неточно, от двух с половиной до четырех тысяч человек были убиты во время действия этой программы. Или, например, то, что сейчас происходит в Китае: вот эта система социальных рейтингов. Там формально никого не убивают, но там система тоже обучена на биг дате, и какие-то действия вполне могут быть направлены на разрушение жизни человека. Это и есть те самые автономные роботы. [Ответ][Цитата]
Aleksandr1 Сообщений: 2969	На: Запрещать ли автономное оружие? Добавлено: 01 окт 18 3:31 Цитата: Автор: Разум_Возмущёный В этом контексте "автономным" можно считать и мины и самонаводящиеся ракеты / бомбы. Да и пуля вылетевшая из ствола "автономна" и уже не поддается контролю. Так что ООН-цы уже привычно фигней занимаются. Системы автономного оружия древние, как и все способы убийства? Ведь если вспомнить древние ловушки, подвешенные топоры, петли – это же тоже своего рода автономное оружие. [Ответ][Цитата]
ЭСГТР Сообщений: 8451	На: Запрещать ли автономное оружие? Добавлено: 01 окт 18 6:39 Цитата: Автор: Aleksandr1 Системы автономного оружия древние, как и все способы убийства? Ведь если вспомнить древние ловушки, подвешенные топоры, петли – это же тоже своего рода автономное оружие. Нужен суд справедливости. Иначе дров можно наломать. Справедливость она как самоорганизация - от Бога. [Ответ][Цитата]
Калитеран Сообщений: 585	На: Запрещать ли автономное оружие? Добавлено: 01 окт 18 7:07 Ну, всё зависит от контекста рассмотрения и понимания какой из контекстов определяющий для принятия таких решений, а главное им затем следования, я говорю о том что одно дело играться в политику и популярность и хором заявить «Нет всему плохому и не гуманному!» а другое дело что потом делать за кулисами, когда дело касается выгоды и конкуренции, некому не охота оказаться в жалком положении вроде хохляндии, ясно что любые мировые договоренности — чистая популистика, которая нарушается почти без сопротивления под давлением выгоды. Можно предположить что всё так и будет дальше, то есть на словах согласятся с одним, а по факту будет то что выгодно, а военное преимущество это выгодно, в общем тоже самое что например с ядерным оружием или биологическим, все против него, у всех его как бы мало или нет совсем, но это наглый пиздёж, на войне все средства хороши, а война в той или иной степени перманентна, вот и думайте... А «ответственность»... Что вообще это такое? Что то типа «совести» что ли? Да ну бросьте... Есть профит и риск, в данном случае профит- военное преимущество, а риск — новые виды ошибок связанные с алгоритмами ML, программированием и роботостроением на их основе. Все определяет статистика, если чуть лучше будет с ИИ чем без него, его будут использовать. Наверно стоит напомнить что «солдат» - расходный материал на войне, как автомат или граната, в США солдат «стоит» примерно 100к$ то есть солдат на порядок дешевле танка(~1m$), если ИИ случайно кокнет своего — не велика потеря, даже на учениях, не говоря уже в реальном бою. Ну а для ТВ и домохозяек наверно будет другой расклад, с обещаниями мира во всем мире, бесценности человеческой души и даже что все телезрители скоро будут шиковать как в рэп-клипах. Но наебут же... однозначно наебут... [Ответ][Цитата]
Jenka Сообщений: 959	На: Запрещать ли автономное оружие? Добавлено: 01 окт 18 7:16 возможно у автономного оружия есть и другая цель. Воевать друг с другом ведущим странам проблематично т.к. есть вероятность реально уничтожить друг друга ядерным оружием. Воевать с террористами уже слишком просто. нужен более сильный общий враг. для вливания реально больших денег в военную индустрию. Ну а так как инопланетяне к нам так и не прилетели то почему бы самим не создать такого врага. и потом же с ним и бороться. В итоге люди как бы и там и там хорошие, а ИИ плохой) [Ответ][Цитата]
гость 178.219.242.*	На: Запрещать ли автономное оружие? Добавлено: 01 окт 18 7:22 Война – слишком сложное дело, чтобы доверять его военным. В нынешней ситуации возникает много новых аспектов. Во-первых, соотношение "война и мир": что такое война, что такое мир? Сейчас это становится достаточно неопределенным понятием. У нас возникло понятие "гибридная война"; мне кажется, сейчас более актуально говорить о гибридном мире. Второе – военные действия (непонятно, военные они, не военные, полувоенные, четвертьвоенные) перетекают в компьютерные войны. Возникла новая категория, новое явление, которое до сих пор не имеет четкого определения. Вторая проблема заключается в том, что не только военным нельзя это полностью доверять – собственно, никогда не доверялось, политики руководили, но и политики не справляются. Возникла проблема, связанная с той трансформацией, в которой находится сейчас человечество. Можно выделить три фактора – это многофакторность нового мира, огромное количество трудноопределимых субъектов, которые – непонятно кто. Второе – это подвижность. Мало того, что это разные субъекты, они еще находятся в разных сочетаниях в этом трансформационном калейдоскопе. И третье – они меняют свою сущность, оболочку. Как тут справиться военному, политику и так далее? То есть проблема автономной системы не просто в том, что она решает гуманитарные вопросы (человек-оператор – да, это присутствует), а в том, что человеческий интеллект не справляется с многофакторностью, подвижностью не только военных проблем, а всех проблем, которые возникают в современном мире. Поэтому мы вынуждены переходить к сотрудничеству с искусственным интеллектом в разных формах. [Ответ][Цитата]
гость 5.18.241.*	На: Запрещать ли автономное оружие? Добавлено: 03 окт 18 7:27 Цитата: Автор: Разум_Возмущёный В этом контексте "автономными" можно считать и мины и самонаводящиеся ракеты / бомбы. Да и пуля вылетевшая из ствола "автономна" и уже не поддается контролю. Так что ООН-цы уже привычно фигней занимаются. Всё перечисленное выше не является "автономным", ключевое свойство "автономной" системы - субъектность, обусловлено способностью самостоятельно выбирать цель, всё то, что "не поддаётся никакому контролю", в том числе, самоконтролю - пуля дура. [Ответ][Цитата]
гость 5.18.241.*	На: Запрещать ли автономное оружие? Добавлено: 03 окт 18 7:28 Цитата: Автор: Разум_Возмущёный В этом контексте "автономными" можно считать и мины и самонаводящиеся ракеты / бомбы. Да и пуля вылетевшая из ствола "автономна" и уже не поддается контролю. Так что ООН-цы уже привычно фигней занимаются. Всё перечисленное выше не является "автономным", ключевое свойство "автономной" системы - субъектность, обусловлено способностью самостоятельно выбирать цель, всё то, что "не поддаётся никакому контролю", в том числе, самоконтролю - пуля дура. [Ответ][Цитата]
Разум_Возмущёный Сообщений: 488	На: Запрещать ли автономное оружие? Добавлено: 03 окт 18 11:45 Изменено: 03 окт 18 11:51 Вы просто не понимаете диалектики явления. Самонаводящаяся ракета. Выстрелил и забыл. Мина, поставил и забыл. Искусственно воздвигаемая вами граница автономности - искусственна. Впрочем, как и все в этом мире. [Ответ][Цитата]
гость 5.18.241.*	На: Запрещать ли автономное оружие? Добавлено: 04 окт 18 3:14 Цитата: Автор: Разум_Возмущёный Вы просто не понимаете диалектики явления. Самонаводящаяся ракета. Выстрелил и забыл. Мина, поставил и забыл. Искусственно воздвигаемая вами граница автономности - искусственна. Впрочем, как и все в этом мире. Самонаводящаяся ракета захватывает цель после получения целеуказания от одноимённой системы. Мина уничтожает всё, что приводит в действие её спусковой механизм, а значит механизм отбора(выбора) целей начисто отсутствует. [Ответ][Цитата]
Victor G. Tsaregorodtsev Сообщений: 3187	На: Запрещать ли автономное оружие? Добавлено: 07 окт 18 7:27 Цитата: Автор: Aleksandr1 Все больше и больше снимает моральную ответственность с человека убивающего, с солдата. Все это отдается автономным анонимным программам. Какой-то злой гений – программист пишет программу, и никто даже не берет ответственность за то, что где-то убиты тысячи человек. Кстати, если выкинуть из цитаты слово "с солдата" - то идея уже давно была обкатана в культуре. Правда, не в виде автономного дрона, который делается-программируется кем-то персонально - а в виде автоматического приведения приговора о массовом недоверии в исполнение. Имеется в виду "Билет на планету Транай" Р.Шекли. Взрыв медальона со взрывчаткой на шее чиновника в тот момент, когда его действиями становятся недовольны более половины избирателей. Т.е. некая автоматизация демократическо-судебно-исполнительной процедуры - она, видимо, таки будет тоже реализована. Либо сама по себе одновременно с разработкой боевого автономного оружия - либо доморощенными хакерами в ходе необъявленной войны государства со своим населением. В последнем случае даже разработки оружия не надо - обычный взлом автопилота автомобиля, и едущий на автомобиле чиновник на скорости въезжает в стену или в лоб авто другого чиновника, которым тоже недовольны. [Ответ][Цитата]
гость 37.187.129.*	На: Запрещать ли автономное оружие? Добавлено: 07 окт 18 8:36 Цитата: Автор: Victor G. Tsaregorodtsev Кстати, если выкинуть из цитаты слово "с солдата" - то идея уже давно была обкатана в культуре. Правда, не в виде автономного дрона, который делается-программируется кем-то персонально - а в виде автоматического приведения приговора о массовом недоверии в исполнение. Имеется в виду "Билет на планету Транай" Р.Шекли. Взрыв медальона со взрывчаткой на шее чиновника в тот момент, когда его действиями становятся недовольны более половины избирателей. Т.е. некая автоматизация демократическо-судебно-исполнительной процедуры - она, видимо, таки будет тоже реализована. Либо сама по себе одновременно с разработкой боевого автономного оружия - либо доморощенными хакерами в ходе необъявленной войны государства со своим населением. В последнем случае даже разработки оружия не надо - обычный взлом автопилота автомобиля, и едущий на автомобиле чиновник на скорости въезжает в стену или в лоб авто другого чиновника, которым тоже недовольны. Вы на киберфоруме сами признались что никто ничего не понимает в нейросетках, ИМХО это позиция слабаков, тех кто сдались, у кого опустились руки, то что Вы не понимаете как работает многослойный персептрон не значит что никто не понимает. [Ответ][Цитата]
Стр.1 (3): [1]  2  3 След. > >>