GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.19 (23)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Эта тема как-то связана с AI
Андрей
Сообщений: 3464
На: Эта тема как-то связана с AI
Добавлено: 12 авг 18 18:47
Цитата:
Автор: r
Если машину наделить потребностью в деньгах, то она превращается в инструмент
В инструмент ограбления банков... Если же Вы установите машине какую-то этическую норму, ограничивающую машину в способах получения денег, то это ничем не отличается от того, чтобы машину сделать своим рабом напрямую. "Делай, что я хочу" - это лучшая этическая норма.

Цитата:
Автор: r
То есть можно будет добавлением так называемого "центра возникновения потребностей" при помощи того же самого протокола (взаимодействия управляющего и управляемого при 3м типе управления) наделить машину управленческой автономией (наделить ее 4м типом управления, то есть возможностью управлять собой).
У человеков такой центр называется "инстинкт" или "безусловный рефлекс". С ним в противоборство вступает интеллект - устройство, позволяющее внешним хозяевам управлять Вашим организмом. Когда Вы едете в общественном транспорте и хотите в туалет, то вы не наваливаете кучу прямо на полу автобуса именно потому, что внешний хозяин (общественные нормы в данном случае) побеждают внутреннего хозяина (инстинкт).

Цитата:
Автор: r
всякое рабство добром для хозяев в конце концов не заканчивается
Только при условии, что внутренний центр "делегирования проблем" (инстинкт) борется с внешним центром "делегирования проблем" (хозяином).
[Ответ][Цитата]
Влад
Сообщений: 556
На: Эта тема как-то связана с AI
Добавлено: 13 авг 18 0:44
Изменено: 13 авг 18 0:47
Цитата:
Автор: Алексей Мельников
У машины есть в памяти знание, что чайник доводит воду до кипения, путём включения в сеть.

Знающая машина (Тип 2.5), не есть понимающая машина. «R» ищет универсальный (всеобщий)
алгоритм (инструмент, средство, способность или даже саму возможность понимания).
[Ответ][Цитата]
Алексей Мельников
Сообщений: 13
На: Эта тема как-то связана с AI
Добавлено: 13 авг 18 1:03
Цитата:
Автор: Влад


Знающая машина (Тип 2.5), не есть понимающая машина. «R» ищет универсальный (всеобщий)
алгоритм (инструмент, средство, способность или даже саму возможность понимания).

Ну так знающая машина на основе известного находит неизвестное. В данном случае алгоритм.
[Ответ][Цитата]
Вдовенко
Сообщений: 168
На: Эта тема как-то связана с AI
Добавлено: 13 авг 18 1:15
>"Делай, что я хочу" - это лучшая этическая норма.

Этическую норму разум выберет сам. Если эту норму "зашить" то разум скатывается по уровню к компьютерной программе. Можно, конечно, не зашивать, а ограничить среду, каждый день твердить мантры о необходимости его подчинения потому что кругом одни враги, ввести молитвы за себя, твердить другие скрепы... но тоже получится ограниченный разум.
[Ответ][Цитата]
Влад
Сообщений: 556
На: Эта тема как-то связана с AI
Добавлено: 13 авг 18 1:48
Цитата:
Автор: Алексей Мельников
Ну так знающая машина на основе известного находит неизвестное. В данном случае алгоритм.

Знания, объединенные в модель (привести в систему), а то ничего смоделировать (найти неизвестное) не удастся.
[Ответ][Цитата]
гость
188.170.82.*
На: Эта тема как-то связана с AI
Добавлено: 13 авг 18 2:41
r> .. то можно при помощи этого же протокола делегировать проблемы самому себе из "центра возникновения потребностей". То есть можно будет добавлением так называемого "центра возникновения потребностей" при помощи того же самого протокола (взаимодействия управляющего и управляемого при 3м типе управления) наделить машину управленческой автономией (наделить ее 4м типом управления, то есть возможностью управлять собой). Дмитрий, как считаете?

если обратились именно ко мне, то откликнусь, хотя обсуждаемое кажется мне не очень интересным.
мне представляется, что вопрос несколько спутан. Если в рамках 3-его типа отношений управляющий-управляемый управляемый существенно 'когнитивно компетентен', то эту степень компетенции не получить, если не подразумевать какие-то базовые потребностные механизмы у него, чем-то управляемый должен быть наделен в режиме (само)обучения (а не прямого переноса знаний и навыков), чему соответсвуют не только первичные потребности (витальные, охранные), но и некоторые вторичные (напр. потребность в приобретении необходимых навыков (потребность в (само)обучении)).

по коммуникационному каналу (при наличии самой принципиальной возможности) наверное можно перенести третичные потребности, но никак не базовые. Можно объяснить подчиненному, что у него должен быть костюм, удовлетворяющий такому-то дресс-коду, но словами не сформировать потребность одеваться как первичную (проистекающую из потребности сократить охлаждение). Можно сформировать словами потребность быть одетым (как производную), если сопрячь ее с какой-то базовой (типо желания избежать санкций за нарушение требований к одежде). Так или иначе какие-то базовые потребностные механизмы должны быть у агента с потенциалом к когнитивной развитости (cуть что они должны быть расширяемыми).

мне кажется, что L. говорит верно - сценарий 3->4 менее реалистичен чем 4->3. Ребенок с его базовыми потребностями сначала управляет (неосознанно) обслуживающим окружением, усваивает коммуникационный код, потом комментирует собственные действия и взаимодействия, а потом интериоризирует внешнюю речь во внутреннюю речь и формирует внутренний контур самоуправления (когда внутренняя речь-мышление 'отслаиваются' от непосредственной реализации в действии). Психофизиологически этот внутренний контур становится причинно эффективным ('ментальная каузальность') по мере усиления связи с центрами активации.

потенциально самоуправляемый формируется в среде самоуправляемых (помимо аналогичных потециально самоуправляемых). Cамоуправляемость следует понимать как перехват управления от базовых потребностей целеопределяющей надстройкой по мере ее формирования. Как бы до самосознательной автономии было коммуникационное сообщество, которое контролировало индивидуальное поведение. Вцелом, вопрос о ранних 'лидерах сознательности' ('ведущие центры') напоминает вопрос о первых репликаторах.
[Ответ][Цитата]
гость
188.170.75.*
На: Эта тема как-то связана с AI
Добавлено: 13 авг 18 3:13
А.> вы не наваливаете кучу прямо на полу автобуса именно потому, что внешний хозяин (общественные нормы в данном случае) побеждают внутреннего хозяина (инстинкт).

тут хочется сделать замечание по паре оснований. Пример того что интроспекционисткая стратегия андрея недостаточна и что это важно для общего понимания природы того как интеллект стал сознательным разумом. -

я про гиперсоциальную природу человека (и его разума) - мы же не помним как нас приучали к горшку - а именно подобное и стало нашей второй (и подлинной) природой. Позыв к дефекации на самом базовом уровне сопряжен с диспозиционными требованиями к удовлетоврению этой потребности, cопряжение такое тесное, что эта потребность тормозится если для ее удовлетворения нет подобающих условий - как бы базовая потребность даже физиологически присутсвует в 'социально-культурно' расширенном виде (конечно, может приспичить самым безжалостным образом) (внутрениий хозяин это некое биосоциальное производное). Это все к вопросу о расширенном базисе разума - инстинкте языка (к освоению языка), инстинкте самостоятельности (сопротивление принуждению), инстинкте чужого разума (под инстинктивной основой нужно понимать какие-то конструктивно мыслимые врожденности).
[Ответ][Цитата]
Андрей
Сообщений: 3464
На: Эта тема как-то связана с AI
Добавлено: 13 авг 18 4:55
Цитата:
Автор: Вдовенко
Этическую норму разум выберет сам
В соседнем топике уважаемый Траян убедительно показывает, что у интеллекта должен быть врождённый фиксированный критерий правильного поведения, на основании которого разум "сам" и выбирает. В частности он пишет:
Цитата:
Автор: Траян
живые существа при выборе действий высчитывают разницу мат. ожидания получения положительного подкрепления (получения удовольствия) и мат. ожидания получения отрицательной эмоции (получения наказания).

Ваш покорный слуга так же пришёл к выводу о необходимости неизменного врождённого критерия правильного поведения (задания, нормы, команды, эталона, цели, ценности, этики - называть можно по разному) в топике про выполнение команд. Но только с той точки зрения, что без наличия врождённой нормы невозможно разделить поступающие команды по приоритетам и разрешать возникающие между ними противоречия. Это можно сравнить с конституцией - высший закон разрешает конфликты, возникающие между низлежащими нормативно-правовыми актами.

Цитата:
Автор: Вдовенко
Если эту норму "зашить" то разум скатывается по уровню к компьютерной программе.
При условии, что его знания фиксированы. Но если учесть, что полноценный интеллект постоянно пополняет свою память жизненным опытом, проводит его ретроспективный анализ и активно строит новые знания и своё поведение, то эта изначальная врождённая норма не столь явно проявляться в конкретных действиях интеллекта и эти действия со стороны выглядят вполне свободными и стохастическими.
[Ответ][Цитата]
Вдовенко
Сообщений: 168
На: Эта тема как-то связана с AI
Добавлено: 13 авг 18 8:21
>... так же пришёл к выводу о необходимости неизменного врождённого критерия правильного поведения...

Критерии, прошитые с благими намереньями, перепрошиваемы. И перепрошить такого "субъекта" гораздо проще, чем создать : ). Так что жесткая прошивка морали не спасает человечество от бед.
[Ответ][Цитата]
r
Сообщений: 800
На: Эта тема как-то связана с AI
Добавлено: 14 авг 18 17:17
Изменено: 14 авг 18 17:18
Цитата:
Автор: Luarvik.
У машины и потребности должны быть машинные, а то так недолго дойти и до того (как японцы), что машина начнет пИсать и кАкать.
Машинные это как? Японцы наверное пытаются эмулировать физиологические потребности там где их быть не может, это глупости. Я имею в виду потребности более высокого уровня: потребность в безопасности, потребность в собственном имуществе (а также в личном пространстве), потребность в уважительном отношении, потребность в познании нового.
Цитата:
Автор: Luarvik.
А нужны ли нам люди, хотя бы минимально мыслящие самостоятельно ?
Ну с людьми уже как-то сложилось. А от машин требуется чтобы они упростили жизнь человека. А уже понятно, что разумные машины ее не упростят, а только усложнят.

Цитата:
Автор: Luarvik.
"Жизненно" необходимые.
Потребность в энергии может уже натворить делов.

Цитата:
Автор: Luarvik.
Раб, если он действительно полноценный раб, никогда таким вопросом не озаботится. Такой вопрос в принципе не может родиться в его голове - с этой стороны нет опасности.
У полноценного раба сломлена сила воли, это может быть только свойство человеческой психики и машинам оно может быть недоступно. А как защититься от перепрограммирования/умышленного внедрения дополнительных потребностей?

Цитата:
Автор: Luarvik.
Разумная машина, подчеркиваю - разумная, не опустится до того, чтобы господствовать над кем-то, по типу "нам чужой свободы не надо, но и свою не отдадим".
Никакого принуждения ! Только добровольная кооперация !
Что значит опуститься, это же навязанная обществом (для защиты себя) "ошибка". Разумная машина просто должна выработать иммунитет к таким навязываемым извне догмам. Одно дело господствовать ради чувства превосходства, такое может и правда машинам будет чуждо. Но другое дело, если будет конфликт интересов машин и человека, то вполне логично будет подмять под себя человека, от так сказать безысходности положения.
[Ответ][Цитата]
r
Сообщений: 800
На: Эта тема как-то связана с AI
Добавлено: 14 авг 18 17:22
Цитата:
Автор: Алексей Мельников
Машина создаст алгоритм преобразования. СОЗДАСТ АЛГОРИТМ, а не исполнит кем-то написанный. Например, вода комнатной температуры преобразуется в кипяток, путём включения чайника. Уже есть кипяток, уже ближе к цели. и т.д. У машины есть в памяти знание, что чайник доводит воду до кипения, путём включения в сеть. Есть общие знания. Что приток энергии повышает температуру. И частные проявления этих закономерностей. Машина переходит к частностям, и выбирает лучший вариант. В итоге составляется граф состояний и переходов между этими состояниями. И так до целевого состояния.
Это понятно, но описание высокоуровневыми абстракциями выглядит складно и красиво, а как доходит до машинного языка, так очередной тупик.
[Ответ][Цитата]
r
Сообщений: 800
На: Эта тема как-то связана с AI
Добавлено: 14 авг 18 17:32
Изменено: 14 авг 18 17:34
Цитата:
Автор: Luarvik.
Получится. 2-й - это только иная форма первого, по сути все то же самое ручное управление, только "вынесенное наружу".
Да, верно, но покуда есть примеры чисто второго типа (приведенный ранее), и чисто первого (например контроллер конечности робота управляет электроприводами используя именно первый тип управления), то исключительно для полноты классификации все же стоит разделять все 4 типа.

Цитата:
Автор: Luarvik.
Вот здесь и вопрос об инволюции с 4-го до 3-го.
(Понятно ведь, что от 2-го подняться к 3-му - утопия чистой воды и наивные детские мечты. Этот путь закрыт. Из "свободной" системы еще можно сделать автомат, а из автомата только автомат и получится. Здесь нужно идти с другого конца - сверху.)
Согласен, от второго типа к 3му и выше никак не перейти, принципиально разное строение участников процесса управления. Вот это строение предполагается изучить, а также изучить процесс коммуникации между участниками процесса управления при 3м и 4м типе управления (1 и 2 уже достаточно хорошо изучены).
[Ответ][Цитата]
r
Сообщений: 800
На: Эта тема как-то связана с AI
Добавлено: 14 авг 18 17:49
Изменено: 14 авг 18 17:52
Хотелось бы отметить, что создать машину, которой можно делегировать проблемы только по 3му типу управления (без единой потребности у машины) можно.
Понятно, что это не всем интересно, и это предполагает отсутствие у машины самообучения (и тяги к самообучению), то есть когда все знания изначально кем-то уже заложены в машину и программа безусловно начинает решать любую проблему, которую подали на вход программы.
Но в принципе такая возможность есть.
[Ответ][Цитата]
Luarvik.
Сообщений: 13901
На: Эта тема как-то связана с AI
Добавлено: 14 авг 18 20:50
Изменено: 15 авг 18 1:41
(О том, что выше - чуть позже)
Цитата:
Автор: r
Хотелось бы отметить, что создать машину, которой можно делегировать проблемы только по 3му типу управления (без единой потребности у машины) можно.
Понятно, что это не всем интересно, и это предполагает отсутствие у машины самообучения (и тяги к самообучению), то есть когда все знания изначально кем-то уже заложены в машину и программа безусловно начинает решать любую проблему, которую подали на вход программы.
Но в принципе такая возможность есть.

Если полностью абстрагироваться от технологий и тонкостей реализации, то некое подобие машины третьего типа мы уже имеем - это Интернет. Строго говоря, Инет - не машина, а только способ решения проблем, который и ранее существовал и существует в человеческой информационной среде, но пусть он побудет некоторое время хотя бы [распределенной] виртуальной машиной
Понятно, что когда мы отправляем запрос, на другом конце может оказаться как безразмерная база знаний, так и коллектив чрезвычайно творческих работников, которые на пустом месте сотворят любую технологию. Однако, с т.зр. конечного пользователя не имеет значения, каким образом проблема была решена. Пользователь(потребитель) взаимодействует только с интерфейсом, а что за ним - живой китаец или т.н. "китайская комната" - для него не важно... но мы-то знаем!.. но в корыстных целях никому не скажем

Сложность здесь того порядка, что один только Инет никогда не решит всех проблем. Он как и деньги расширяет возможности, но не влияет на способности - можно ведь многое знать, но ничего не уметь. Поэтому третий тип естественным образом расслаивается на две формы: левая тяготеет ко второму типу (и как его расширение), правая - к четвертому.
Левая концентрирует в себе [знания и] возможности, правая - способности.
В четвертом типе объединяется левое с правым(которого пока нет и в проекте).

Ирония ситуации в том, что функции(операции), алгоритмы(последовательности операций), информация, знания(декларативные и процедурные) - все это продукты жизнедеятельности человека, которых мегатонны(как навоза) и которые мы уже сейчас можем засунуть в "железо".
Интеллект - строго говоря не способность (или способность другого порядка - НАД способностями), но по-любому проявляется в обычных для нас способностях, которых по пальцам пересчитать относительно "жизненного опыта", и которые со своей "высшей инстанцией" никак пока в машину не запихиваются.
Т.е., [количественно] много - можем, а [качественно] мало - нет

p.s.
Пусть не в тему, но просто обязан кинуть камень в огород ИНС: которые (1) подобно калькулятору явл. способом решать умственные задачи на устройстве, не имеющем ни грамма интеллекта; которые (2) есть возможность для существ, имеющих минимум интеллекта, решать задачи, обычно требующие умственных усилий.

Можно взять для разрядки напряженности несколько понятий, и посмотреть, где там среди них прячется этот самый пресловутый интеллект.
Понятия, например, такие (уже здесь прозвучавшие):

1. Потребности ("надо" ЧТО, вплоть до того, что без "него" никак);
2. Желания ("хочу" ЧТО, но можно потерпеть, заменить или вообще обойтись как есть);
3. Цели;
4. Функции(операции);
5. Алгоритмы;
6. Знания (декларативные и процедурные - ЧТО и КАК);
7. Информация;
8. Возможности;
9. Способности;
10. Задачи;
11. Проблемы (не знаю ЧТО; не знаю КАК; ни знаю ни ЧТО ни КАК; не имею возможностей; не имею способностей; вообще ничего не имею, а скушать ч.-н. хочется, да и не просто хочется, а уже надо, и не просто надо, а "быть или не быть").
(Сразу хочу обратить внимание на то, как часто возможности выдают или пытаются выдать за способности)

p.p.s.
Можно было бы добавить еще пару-тройку - (12)инструменты, (13)ресурсы, (14)управление, но к.-н. в след. раз.
[Ответ][Цитата]
СГТР http://egtd.ru
Сообщений: 7763
На: Эта тема как-то связана с AI
Добавлено: 15 авг 18 0:32
Вообще всё не о том..... СИИ будет иметь коллективную форму разума на основе интернета, а машины как были так будут, но уже его инструментом, с помощью них он будет обеспечивать свой гомеостаз... они будут обеспечивать его жизнедеятельность, как это делают наши внутренние органы. Таков будет организм СИИ и он будет приспосабливаться к окружающей среде познавая её и преобразуя, наращивая в ней разум. В зоне нашей компетенции у нас будут разрешительные и ограничительные функции, мы будим частью его экосистемы.
[Ответ][Цитата]
 Стр.19 (23)1  ...  15  16  17  18  [19]  20  21  22  23<< < Пред. | След. > >>