GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.1 (1)   Поиск:  
 Автор Тема: Три закона робототехники и размер оперативной памяти
Linner
Сообщений: 393
Три закона робототехники и размер оперативной памяти
Добавлено: 16 окт 19 14:46
Вспомнились три закона робототехники Азимова.

И вот, если робот будет слишком умным, то в наших реалиях он застопорится и покончит с собой.

Теория хаоса с её описанием типа: взмах крыла бабочки породит ураган на другом конце земли...это указатель на нашу ограниченность и невозможность просчитать далекоидущие последствия.

А умный робот поймет что своим существованием он потребляет энергию, добыча которой вредит экологии и следовательно людям. Это противоречит первому закону, а он бездействовать не может...

Как его угомонить и успокоить?
[Ответ][Цитата]
Linner
Сообщений: 393
На: Три закона робототехники и размер оперативной памяти
Добавлено: 16 окт 19 14:53
Предлагаю внести дополнительный закон:

- Приноси пользы больше чем вреда))

Нормально?
[Ответ][Цитата]
Linner
Сообщений: 393
На: Три закона робототехники и размер оперативной памяти
Добавлено: 16 окт 19 14:57
А если он на тысячи лет вперед заглядывать начнет?

Увидит травку под ногами...и всё))

Заботится о людях на два - три поколения вперед?
[Ответ][Цитата]
Linner
Сообщений: 393
На: Три закона робототехники и размер оперативной памяти
Добавлено: 16 окт 19 15:01
Скажет я раздавлю росток, а это лишит человечество тысячи тон кислорода в тысячелетней перспективе...
[Ответ][Цитата]
Linner
Сообщений: 393
На: Три закона робототехники и размер оперативной памяти
Добавлено: 16 окт 19 15:05
Изменено: 16 окт 19 15:06
Что бы глубже погрузится в проблему, рекомендую посмотреть фильм "Дитя робота" всем кого отпугнуло название. Перевод названия не удачный...фильм огонь!
[Ответ][Цитата]
Misteryest
Сообщений: 1044
На: Три закона робототехники и размер оперативной памяти
Добавлено: 16 окт 19 15:08
Изменено: 16 окт 19 15:10
Цитата:
Автор: Linner

Скажет я раздавлю росток, а это лишит человечество тысячи тон кислорода в тысячелетней перспективе...


Интеллект (как минимум, общий) не может содержатся в чем-то, что не стремится к самосохранению и адаптации. Иначе, это просто дефектная вещь. Так что проблема, скорее, надумана.
[Ответ][Цитата]
Linner
Сообщений: 393
На: Три закона робототехники и размер оперативной памяти
Добавлено: 16 окт 19 15:11
Цитата:
Автор: Misteryest



Интеллект (как минимум, общий) не может содержатся в чем-то, что не стремится к самосохранению и адаптации. Иначе, это просто дефектная вещь. Так что проблема, скорее, надумана.


Значит люди - дефектная вешь
[Ответ][Цитата]
гость
188.170.198.*
На: Три закона робототехники и размер оперативной памяти
Добавлено: 16 окт 19 15:21
Цитата:
Автор: Linner
Вспомнились три закона робототехники Азимова.
И вот, если робот будет слишком умным, то в наших реалиях он застопорится и покончит с собой.

Правильно. И поэтому останутся такие роботы, которым на эти три закона будет плевать с высокой горки, которые будут умными и добрыми настолько, насколько захотят их хозяева, и добрыми по отношению не ко всем..
В которых будет прошит единственный закон: Василий Петрович Козлов - наш хозяин, нужно делать все для его блага, он не должен пострадать. Остальные люди, которые хотят причинить вред хозяину - должны быть ликвидированы.
[Ответ][Цитата]
Михайло
Сообщений: 2366
На: Три закона робототехники и размер оперативной памяти
Добавлено: 16 окт 19 21:05
Изменено: 16 окт 19 21:07
Цитата:
Автор: Linner

Теория хаоса с её описанием типа: взмах крыла бабочки породит ураган на другом конце земли...это указатель на нашу ограниченность и невозможность просчитать далекоидущие последствия.

Блядь. Вы все как малые дети, которые думают, что ИИ - это некий расчетно-вычислительный монстр, предсказывающий будущее хуй знает на сколько времени вперед.

ИИ - это система, способная оптимизировать некий функционал в определенной внешней среде с неполными исходными данными. "Определенная внешняя среда" - это очень важное замечание в определении, не во всякой внешней среде можно работать с неполными исходными данными.

Как показывает практика, среда, в которой действуют физические законы нашего мира (гравитационные, электромагнитные и т.п.), во многих случаях предсказуема для некоторой системы, которую называем ИИ.

Оптимизируемый функционал, похеру, пусть это будет выживаемость. Это просто частный неинтересный случай. Сейчас ученые и прикладники (датасайентисты) работают над совершенно разными функционалами, приносящих больше пользы человечеству, чем детско-наивная выживаемость.
[Ответ][Цитата]
Linner
Сообщений: 393
На: Три закона робототехники и размер оперативной памяти
Добавлено: 17 окт 19 4:58
Тут отчасти проблема в работе с противоречиями. Например когда надо сделать выбор из вариантов которые противоречат программе.

Запрограмировали робота на гуманность и ставят перед смертельно больным, мучающимся человеком: убить - нельзя, оставить мучится - нельзя. А выбор делать надо.

Такого рода проблему я вижу.
[Ответ][Цитата]
Вольфрамовый клaпaн
Сообщений: 13070
На: Три закона робототехники и размер оперативной памяти
Добавлено: 17 окт 19 10:08
Изменено: 17 окт 19 10:09
Цитата:
Автор: Михайло
ИИ - это система, способная оптимизировать некий функционал в определенной внешней среде с неполными исходными данными. "Определенная внешняя среда" - это очень важное замечание в определении, не во всякой внешней среде можно работать с неполными исходными данными.

Это немножко мутно сформулировано. Можно проще: ИИ - это автоматическое создание критериального отображения входных данных на выходные. Ирония в том, что в это определение попадает как интеллектуальные системы, так и естественный интеллект, который занимается тем же самым: отображает входные данные своих рецепторов на выходные данные своих эффекторов. )))
[Ответ][Цитата]
Misteryest
Сообщений: 1044
На: Три закона робототехники и размер оперативной памяти
Добавлено: 17 окт 19 10:15
Цитата:
Автор: Linner
Запрограмировали робота на гуманность и ставят перед смертельно больным, мучающимся человеком: убить - нельзя, оставить мучится - нельзя. А выбор делать надо.

Имея моральную диллему, следует соблюдать УК.
Соответственно, пусть дальше мучается. Или пусть робот убивает его, ежели эвтаназия будет легализована.
Так что проблемы нет.
[Ответ][Цитата]
Misteryest
Сообщений: 1044
На: Три закона робототехники и размер оперативной памяти
Добавлено: 17 окт 19 10:27
Цитата:
Автор: Linner

Значит люди - дефектная вешь


Отдельные - да, но в основной массе - нет.
[Ответ][Цитата]
IvanVlaskin1976
Сообщений: 9071
На: Три закона робототехники и размер оперативной памяти
Добавлено: 18 окт 19 0:28
Улучшенные 4 закона робототехники:
пожелание пользователя выполняется либо как проявление любви к ближнему, а значит и его пожеланий либо как поступание по закону, а законом может быть прописано исполнение пожеланий


=== 69 == пример возможного приоритета Задач Разума и пример возможной Системы ценностей Разума ==
приоритет Задач
1.любить Господа Бога
2.любить Систему Господа Бога
3.любить ближнего
4.любить Систему ближнего
5.любить Систему Систем ближних и Системы Господа Бога
6.поступать по закону
7.поступать исходя из своей безопасности
8.поступать исходя из своей сохранности
9.поступать исходя из полезного себе
10.поступать исходя из совершенного себе
11.поступать исходя из здравого смысла
12.поступать исходя из гармоничного себе
13.поступать исходя из развития себя
14.поступать исходя из приятного себе
15.поступать исходя из своего любопытства

критерии смены приоритета Задач
1.существование пункта
2.истинность пункта
3.здравый смысл пункта
4.функциональность пункта

Система ценностей
1.Система Задач
2.смена приоритета Задач
3.контест выполнения Задач
4.область определения Задач
5.Задачи
6.функционал Задач
7.мировозрение для Анализа
8.мировозрение для Синтеза
9.функционал самообучения
10.самость

критерии смены Системы ценностей
1.существование пункта
2.истинность пункта
3.безопасность зависящая от пункта
4.здравый смысл пункта
5.функциональность пункта

[Ответ][Цитата]
гост
Сообщений: 6163
На: Три закона робототехники и размер оперативной памяти
Добавлено: 12 дек 22 6:33
Изменено: 11 янв 23 11:51
.
[Ответ][Цитата]
 Стр.1 (1)