Моя основная сфера интересов мозг и сознание.
Сознание имеет 3 контура.
1. Безусловные реакции.
2. Эмоции.
3. Логика.
Сложно рассуждать на отвлеченные темы если кто то на ногу наступил
).
Можно абстрактно рассуждать о ДТП или женщинах. Но если разговор заходит о ДТП со знакомыми или жене, то включаются эмоции и логика может пасовать.
Что бы начался процесс логического мышления, фантазии, абстракции. Информация от органов чувств должна пройти 2 первых контура.
Такая система выработалась эволюцией. Подробно как можно на это влиять и по каким законам работает можно прочитать в Белой книге Виктора Васильева (не реклама).
Собственно весь вопрос в том, что ИИ пытаются создать на основе логики. Перепрыгнув этапы реакции и эмоций. А они необходимы для развития и совершенствования (конкуренции).
Вопрос в том, какие чувства и реакции могут быть актуальны для ИИ. В чем будет заключаться его благополучие (что будет способствовать его безопасности и развитию, а что будет представлять опасность для него). Тут конечно присутствует риск, что ИИ воспримет людей как опасность/конкурентов с соответствующими последствиями
).
Возможно правильнее было бы пытаться создать само сознание, а не голую логику ИИ оторванную от чувств, эмоций, реальности?
Возможно стоит прописывать 3 контура для самосознания ИИ.
1. То что прямо угрожает существованию ИИ.
2. То что раньше навредило или наоборот способствовало развитию, функционированию.
3. Непосредственно текущий логический ИИ.
Все эти контуры должны иметь возможность меняться под управлением самого ИИ.
К примеру. Установлены камеры и ИИ зафиксировал, как кто то подошел и отключил питание, после этого снял пару планок оперативной памяти. После включения ИИ зафиксировал замедление скорости вычислений и зафиксировал на 2ом контуре, что человеки в кадре плохо
). А если ему наоборот добавили планок или процессор по шустрее поставили, он расценит это как хорошо. И в дальнейшем будет просить сделать ему ещё лучше
)).
Как то так.
То есть хорошо плохо, можно поставить в зависимость от производительности, наличия (гарантированного электро питания). Это будет 1ым уровнем.
2ой контур. Эмоции от возможных внешних действий (тут требуются органы чувств, датчики для взаимодействия с окружающим миром), когда происходит воздействие на 1ый контур.
3ий контур. Абстрактное мышление. Иногда могут снять планки оперативки, иногда могут добавить. Как он может повлиять и проконтролировать это. Сюда наверное стоит отнести проверку истинности и адекватности информации.