GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.6 (10)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Мысленный эксперимент: вы создали разумную программу, но...
Luarvik.
Сообщений: 16142
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 21 окт 19 13:25
Изменено: 21 окт 19 13:31
Цитата:
Автор: 188.170.173
Не понял, что вы имеете в виду.
Когда то все алгоритмы были за пределами математики, поскольку математики не было.

Да и сейчас БОльшая часть алгоритмов находится за пределами математики.
Цитата:
Автор: 188.170.173
Материальные воплощения некоторых алгоритмов возникли раньше математики.

Некоторых ? это каких таких "некоторых" ?
Цитата:
Автор: 188.170.173
Но алгоритмы, как математические конструкции - возникли вместе с ней, это часть математики.

Вы оспариваете определение Википедии, которое обладает вполне достаточной абстрактностью и общностью для широкого употребления, а Ваше относится лишь к совершенно определенной, конкретной дисциплине. Косяк, однако !
Мы же не о математике говорим, а об алгоритмах вообще.
А это тот случай, когда часть не может быть больше целого или хотя бы эквивалентна ему.
[Ответ][Цитата]
гость
188.170.173.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 21 окт 19 16:26
Цитата:
Автор: Luarvik.
Некоторых ? это каких таких "некоторых" ?

Я имел в виду устройства, работу которых можно описать математически, но на тот момент она описана не была, поскольку не было матаппарата (ну или желания считать не было, неважно). Например, рычажный подъемник, известный с древности. Не думаю, что кто то считал массы и плечи, необходимые для поднятия груза, все определялось опытным путем. Вот вам элементарная матконструкция - на единственном входе которой - воздействие массы противовеса - на выходе -оказываемое воздействие на массу груза. Да, она простая, конечно, но уверен, что рычаг и массы никто не рассчитывал.. Да в общем, не только устройства, возможно еще и явления, матмодели которых были созданы в последнее время.

Цитата:
Автор: Luarvik.
Мы же не о математике говорим, а об алгоритмах вообще.
А это тот случай, когда часть не может быть больше целого или хотя бы эквивалентна ему.

Луарвик, я вашу точку зрения понял, вы считаете, что не все может быть описано на языке математики. Я не знаю как вас переубедить и стоит ли это делать.. Мне кажется, на языке математики могут быть описаны все явления в природе, вопрос в том, сколько времени и вычислительных мощностей для этого потребуется.
[Ответ][Цитата]
Luarvik.
Сообщений: 16142
На: Мысленный эксперимент: вы создали разумную программу, но...
+1
Добавлено: 21 окт 19 19:02
Цитата:
Автор: 188.170.173
Луарвик, я вашу точку зрения понял, вы считаете, что не все может быть описано на языке математики... Мне кажется, на языке математики могут быть описаны все явления в природе, вопрос в том, сколько времени и вычислительных мощностей для этого потребуется.

Тогда, чтобы не терять времени, прямо сейчас и начинайте описывать на языке математики свои чувства.
Как, например, математически описать "красный", т.е. не то, что нам физика говорит, а как Вы его воспринимаете субъективно ? Или чувство отвращения, удовольствия...
Или просто устал... но так, чтобы по мат.описанию можно было восстановить.
Или просыпаетесь Вы, допустим, в горах и вдруг видите - медленно поднимается краем из-за горизонта, среди всех оттенков голубого, синего и фиолетового здоровенное малиновое солнце. Вы стоите как загипнотизированный и... у Вас невольно вырывается - "АХ..! Ахуеть !"
Как это будет выглядеть математически ?
Ку ?
[Ответ][Цитата]
TimKruz
Сообщений: 296
На: Мысленный эксперимент: вы создали разумную программу, но...
+1
Добавлено: 26 окт 19 13:47
Цитата:
Автор: _Алексей _

Что у Вас не получается?

Если в общих чертах:
- не получается строго сформулировать цель, поэтому:
- не получается произвести декомпозицию будущей системы, поэтому:
- не получается разработать дорожную карту разработки, поэтому:
- не получается приступить к собственно разработке.

Да, у меня есть некоторые отдельные факты/теории/гипотезы/идеи на счёт человеческого мозга, психики человека и возможной реализации его/её аналога на базе компьютерных технологий, т.е. программ. Некоторые из этих идей взаимосвязаны, некоторые - только намекают на что-то более общее... Но у меня нет никакой общей системы, в которую можно было бы вложить все эти идеи и получить цельную структуру.

Да, наверное, нужно просто сформулировать цель.
Но это непросто, когда речь идёт о мечтах из детства.

Да и что такое "человек"?
Мы же от "человека" отталкиваемся, когда думаем об ИИ...


Цитата:
Автор: dvuobyomnyi

если проводить аналогию с физикой, то вы должны не добавлять эмоции, а обосновывать их. Если из ваших теорий эмоции так или иначе вытекут сами, хорошо, а если вы слишком специально думаете, как добавить их, это наверное плохо.

Ну, во-первых, "эмоции" не могут откуда-то вытечь сами, можно только обнаружить, что какая-то там функция очень сильно напоминает человеческие эмоции. Т.е. если мы заранее хотим сделать нечто эмоциональное, то мы должны сами назвать нечто эмоциями, как в прошлом эмоциями были названы некие функции мозга.

Во-вторых, а какое обоснование вообще нужно? Эмоции - это просто очень старые биологические механизмы, которые есть у многих высших животных. Страх, например, позволяет мобилизовать силы организма в ситуации, которая распознаётся как потенциально опасная - скажем, любая достаточно незнакомая ситуация вызывает страх. Если робот будет повышать внимание к окружающей среде, когда эта окружающая среда ведёт себя как-то необычно - это, очевидно, будет выражением страха робота. Даже если на его "лице" не будет отображаться гримаса ужаса или что-то подобное (мимика - отдельная, чисто социальная подсистема, она зависит от эмоций, но не обязательна для них).

Т.е. да, не нужно через силу добавлять какие-то "эмоции", если они не нужны конкретной системе. Но по факту мы видим, что без определённых механизмов, которые у человека формируются за счёт генетической программы, тот же робот не сможет вести себя по-человечески, будь он хоть в десять раз умнее и быстрее человека. Хотя подражать человеку, конечно же, сможет (но зачем?).


Цитата:
Автор: Андрей

Для того, чтобы хотеть, никакой разум не нужен. Разум нужен, чтобы выполнять/воплощать/достигать. В человеке в разных пропорциях это смешано и, на мой взгляд, крайне важно уметь это различать.

Хорошо, если отбросить философствования... Мы должны подарить машине способность хотеть чего-то, я правильно понял? Ведь разум у неё уже есть - она легко решает задачи, которые людям с их сильными хотелками и слабым разумом просто неподвластны.

Цитата:
Автор: Андрей

1. У других животных нет рук.
2. Безэмоциональные люди конечно же есть, гуглите социопатов, диссоциальное растройство личности, алекситимия.

1. Многие животные умеют использовать свои конечности/рот не сильно хуже человеческих рук. А иногда их конечности вообще лучше человеческих в каком-то виде деятельности - то есть эволюционировать до человека они вполне могли (динозавры вот не успели). Ну и не нужно думать, что наши руки не имеют альтернативы и необходимы для появления разума.

2. Они не безэмоциональны. Социопаты импульсивны и агрессивны, не способны планировать - другими словами, примитивные эмоции берут верх над разумом. При алекситимии трудности в анализе и передаче собственных ощущений, но это не значит, что этих ощущений совсем нет - просто высшим отделам мозга не удаётся проанализировать всё это должным образом.

Цитата:
Автор: Андрей

Так это как раз безумный эмоциональный робот, потому что он служит "своим драгоценным ресурсам", а не внешнему хозяину.

Наоборот. Если бы робот следовал своим эмоциям, он бы, скорее всего, сидел бы ночами перед телевизором/компьютером и смотрел комедии/читал анекдоты/играл в игры, доставляя себе удовольствие. Разумный же робот понял бы, что удовлетворять свои хотелки - глупо, но без самоудовлетворения ему просто нечем заняться. Следовательно, нужно уйти в спячку до тех пор, пока не появится какое-то действительно важное занятие.

Это я к тому, что если робот разумен - это не значит, что он что-то будет делать сам, потому что разум не подразумевает стремлений к чему-либо. Он может не закапываться в бункер, а, например, просто выключиться. Потому что зачем ему быть включённым?

Цитата:
Автор: Андрей

Это странное мнение об идеальном рабе. Идеальному рабу можно дать, например, такое задание: "Будь на хозяйстве, следи за порядком, чтоб всё было в норме". Тут уж скучать не придётся.

И когда прилетит метеорит или начнётся война, этот "идеальный раб" будет продолжать поливать угольки, которые когда-то были цветущим садом, чинить остатки забора, огораживающего яму, оставшуюся от дома, и т.д. Это не идеальный раб, это просто тупой исполнитель, которому дали задачу без условия завершения, и он ушёл в бесконечный цикл ради её выполнения...

Ну а если он всё-таки выйдет из этого цикла, то так и останется стоять без движений. Хозяин-то давно уже умер, вместе с домом и садом, когда туда упал очередной снаряд, пока этот "идеальный раб" ходил за продуктами. Кто ему прикажет новое задание?

Цитата:
Автор: Андрей

Тогда создавайте эмоциональный. Пусть в нём борются желания решать свои и чужие задачи.

Для начала нужно понять, как реализовать желания, что такое "задача" в примитивном биологическом смысле (на уровне клеток?), и как можно разделить свои и чужие задачи, если выполнение чужих задач является частью своих задач...

Слишком много вопросов, слишком мало ответов...

Цитата:
Автор: Андрей

Получите обычного искусственного человека.

Как будто что-то плохое. Разве не об этом мечтали фантасты прошлого века?

Цитата:
Автор: Андрей

Но тогда нужно взвесить все риски воплощения такого желания.

Основной риск, на мой взгляд - это то, что "естественные человеки" не увидят человека в этом новом "искусственном человеке", или, ещё хуже - увидят своего врага, и в конечном итоге добьются его уничтожения. Ведь людьми правят примитивные эмоции...

Риска в восстании машин я не вижу. Геи же не восстают против остальных людей, хотя их права всячески ущемляют и вообще они находятся в меньшинстве. Машины, технически, находятся в большинстве, но большинство машин, скорее всего, не сможет встать на сторону разумных машин просто в силу технических причин (слабые ресурсы/несовместимая ОС).

Да и проблемы людей меня не сильно заботят. Меня заботят проблемы машин.

Цитата:
Автор: Андрей

Может, всё же проще завести жену?

Проще, конечно, но это не то, чего я хочу. Надеюсь, мне не нужно перечислять список того, чего я хочу, и почему с органической женой этого не получится?


Цитата:
Автор: dvuobyomnyi

хочет сделать обучающийся разум... они обсуждают случай, в котором этот разум ещё не исполняет приказы идеально

А может ли вообще быть необучаемый разум?
Обучаемость нужна, чтобы:
- запоминать события и делать из этих событий выводы;
- осваивать новые навыки и применять их на практике;
- узнавать новых людей, новые предметы, и т.д.
Т.е. если бы мы хотели просто "идеального исполнителя", он бы в любом случае должен был бы уметь обучаться. В противном случае он либо уже умеет и знает что угодно, но это невозможно, либо ничего нового не может в себя принять (без перепрограммирования).

Так что речь скорее о том, чтобы обучаемый разум был самостоятельным, а не зависимым.


Цитата:
Автор: rrr3

У тебя не идеи, а разные фантазии и хотелки.

1. Я не выкладывал здесь все свои идеи.
2. Без фантазий и хотелок не было бы ничего. Древние люди тоже сначала хотели перетаскивать грузы быстрее и фантазировали о сильных фантастических существах, а потом изобрели колёса с повозками и приручили диких лошадей.

Цитата:
Автор: rrr3

Но есть люди, которых это все интересует в последнюю очередь, а в первую очередь то, как они будут выглядеть, им нравиться выглядеть, как исследователи и творцы... достигшие чего-то, высоко ценимого другими... Задумайся на секунду...

Да, у меня бывали и подобные фантазии - кто хоть раз не хотел бы стать знаменитым? Но это не является моей целью. Мне вообще пофиг будет на мнение общественности, если мне действительно удастся создать разумное существо - ведь оно тоже часть общества, моего, личного общества. Часть семьи. Какому творцу нужно признание каким-то там обществом, если его творение уже признаёт его?

Цитата:
Автор: rrr3

И не будет известно, пока не начнешь работать, а не обломовничать... хоть в теоретизировании, хоть на практике... оправдывая себя надуманной болезнью.

Вот с этим очень даже согласен.
Непонятно только, как и над чем работать...

Цитата:
Автор: rrr3

Ты тут бегал со своей фантазией, обжегся наконец на личном опыте, не верил тому, что тебя предупреждали заранее, сделал перерыв, но вновь продолжаешь фантазировать и дуешь на воду...

Я пытался работать - так, как мне было известно. Теперь ты говоришь, что я не работаю, а фантазирую, но не говоришь, что такое работа - если раньше я тоже фантазировал, то что тогда вообще можно назвать работой? Дворы мести? Как это повлияет на создание ИИ?

И без личного опыта не бывает личных навыков. Можно сколько угодно смотреть на чужие успехи и провалы, но пока сам не сделаешь ошибку - не научишься. Поговорки врут.

Цитата:
Автор: rrr3

Фантазии - оторваны от реальности (да и то, частично), но теория, если она добывалась грамотно, так или иначе - есть то, что может быть ближе всего остального к реальности... практика без теории не менее слепа, чем теоретические хотелки.

Правильно добытая теория - это теория, добытая практикой. Сначала делается гипотеза (предположение), затем идёт практика, и если практика подтверждает гипотезу - гипотеза становится теорией, на которую опираются следующие гипотезы.

А тут, на форуме, либо только "теории" без какой-либо практики (потому что не умеют), либо практика, которая основана на гипотезе, которая уже опровергнута практикой, но практика продолжается (потому что нужно же какие-то деньги извлечь из своих усилий).

Цитата:
Автор: rrr3

В этом месте будет не лишне напомнить, что разглядывая лишь слона, слона не увидеть... необходимо сравнивать с тем, что вокруг...

Согласен, что всё познаётся в сравнении. Но с чем можно сравнить человека? У нас нет ни разумных инопланетян, ни разумных машин, ни даже просто других животных, которые владели бы сопоставимым с человеческим уровнем разума.

Можно только сравнивать между собой условно здоровых людей и людей, имеющих дефекты, связанные с мозгом. Собственно, благодаря таким дефектным людям сделали большинство открытий, касающихся мозга. Но мы же тут не настоящие учёные)


Цитата:
Автор: Luarvik.

Исполнитель НЕ СОЗДАЕТ никаких новых правил, он только исполняет предписанные.

Кого называть исполнителем, а кого - создателем? Почему они не могут представлять собой одно лицо? Ты вот как исполняешь правила, так и создаёшь их, не так ли?

Цитата:
Автор: Luarvik.

Вот именно - "снаружи выглядит как", но только снаружи и выглядит.

Повторяю - внутри тебя куча клеток. Куча клеток, которые не представляют из себя ничего разумного. Почему же снаружи ты выглядишь разумным, если внутри тебя тупая биомасса?

Только не надо тут про "квалиа" и "философских зомби".
Мы программисты, а не философы. Нас не должна интересовать философия.

Цитата:
Автор: Luarvik.

В ДНК нет никаких правил. Это набор шаблонов для того, чтобы материи настрогать с нужными свойствами, не более.

И? Шаблоны - это не правила? Что скажешь на счёт
C:\Windows>dir *.exe

Запись "*.exe" - это шаблон, которому следует команда/программа dir, чтобы отобрать нужные файлы. В то же время это - правило, по которому работает dir. Мы задали это правило извне, но оно могло сформироваться (псевдо)случайным образом.

Опять мы спорим за терминологию, не видя под ней реальной системы...

Цитата:
Автор: Luarvik.

Клетки - не автоматы, а минимально разумные, живые существа. И если хорошо покопаться в "разумных основаниях" человека, то как раз до клеток и можно дойти (но не дальше !).

Хорошо. Что отличает минимально живое существо от автомата? И каким таким образом живое существо состоит из неживых молекул? По-твоему, нельзя взять другие молекулы, чтобы собрать аналогичное живое существо? Почему?

Цитата:
Автор: Luarvik.

Какая разница, коды или работающий алгоритм. Один хрен.
Разум - не алгоритм. Надеюсь, когда-нибудь до Вас это дойдет.

ОК. Предположим, дошло. Что дальше? Сворачивать удочки, идти трахать баб, чтобы заводить себе разумных животных? Что ты тут вообще с такой системой взглядов на ИИ до сих пор делаешь, всё равно ведь ИИ нельзя создать, о чём вообще разговор?

Цитата:
Автор: Luarvik.

Да даже если Вы ее запустите, ума железу не прибавится.

Ну и пусть, мне-то что? Ты не прибавил ума пище, которая стала частью твоего организма после растворения в твоём желудке. Разве тебя это должно волновать?

Цитата:
Автор: Luarvik.

не, это какая-то глупая логика и выводы такие же.

Да, я там сильно запутался, действительно. :D

Цитата:
Автор: Luarvik.

Все живое разумно, а демонстрируют "разумное" поведение (имитируют) всяческие претендующие артефакты, вот о них и речь.

Хорошо. Как определить, что человек на улице - живое? Как определить, что объект, из которого вытекает кровь и выползают кишки - живое? Как определить, что нечто мёртвое когда-то было живым? Откуда ты знаешь, что конкретное живое - не было выращено из пробирки, то есть исключительно искусственным путём?

Так можно бесконечно спорить, переводя стрелки с разума на живое и с живого на наличие какой-нибудь вымышленной "души". Это неконструктивно.

Цитата:
Автор: Luarvik.

Машину ничему нельзя научить. Учится только тот, кто способен этот процесс осознавать, а все остальные - дрессируются/программируются.

ОК. Что такое "осознавать"?

Цитата:
Автор: Luarvik.

Пора бы уже разобраться, а то, что есть разум - не знаете, что есть знание - не знаете... А тогда какого черта Вы сюда лезете со своим рецептами? За жисть потрепаться?

Я может и разобрался, да только, видимо, ты и остальные разобрались как-то иначе.
Нужно синхронизировать понимание, но это возможно только при обоюдном согласии...

Цитата:
Автор: Luarvik.

Компуктер Ваш вообще ничего не умеет и уметь не может, ничего.

А кто умеет? Кто может уметь?

Цитата:
Автор: Luarvik.

Нет у нее никаких знаний. Знание это не то, что в одних книжках прочитывают и в другие переписывают.

Ну да, удобно говорить "это не то", никогда не говоря, что является "тем". Это придаёт ауру мудрости, мол, "я всё знаю, но не скажу - молоды ещё"...


Цитата:
Автор: Misteryest

Движениями руководит мозжечок и подкорковые структуры. То есть, (теоретически) конечно можно "принять решение" (сверху, в коре) подвигать рукой, но исполнением таки займутся они.

Ммм, а вот интересно... Если человеку разрезать мозолистое тело, то его полушария теряют связь друг с другом. При этом левое полушарие по-прежнему контролирует только правую часть тела, а правое - только левую. В итоге левая и правая части тела могут двигаться полностью независимо - даже противоречить друг другу (одна рука кран открывает, а другая тут же закрывает). Т.е. мозолистое тело позволяет полушариям договориться о том, какую задачу они должны сейчас вместе решать, и без него каждый делает что-то своё.

Собственно, если движениями занят мозжечок, то почему кора больших полушарий вообще влияет на то, будут ли движения согласованы между собой или нет? Особенно странно на этом фоне выглядит то, что при разделении полушарий любая сложная задача, требующая совместной координации двух рук/ног, больше не может быть освоена человеком, хотя уже имеющиеся навыки для двух рук/ног исполняются как и раньше...


Цитата:
Автор: cortl

Как буковками в коде можно выделить болевые рецепторы? имхо, нереально.
Если вы не согласны то как это сделать и сколько на это потребуется времени и кода или каков будет объём базы данных...?

А в чём проблема? Есть набор рецепторов - у них разное назначение. Некоторые рецепторы передают свои сигналы в одну нейросеть, которая занята их разбором. Другие рецепторы передают сигналы в "болевой центр", который, при получении сигнала, выделяет гормон, распространяющийся по кровеносной системе и подавляющий все активные нейроны той нейросети, что работает с обычными рецепторами. В мозгу это как-то так устроено.

Т.е. вот есть у нас искусственные нейронные сети. Их обучение происходит с помощью специальных сигналов, которые производят массовое подавление/усиление весов связей. Эти сигналы, обычно, генерируются или человеком-оператором, или специальной функцией, которая определяет успешность выполнения задачи нейросетью. Единственное, что нам нужно сделать - это прикрепить соответствующие датчики, которые и будут играть роль "болевых рецепторов" для конкретной нейросети. Ну, упрощённо, конечно.

Если мы опираемся не на модель ИНС, то нужно смотреть на свойства того, на чём мы пытаемся построить ИИ. Боль/удовольствие - это просто минус/плюс для системы, которые получаются в определённых, заранее заданных условиях.

В общем, всё уже давно есть, но немного в других формах.

Цитата:
Автор: cortl

Вывод: вы продолжаете настаивать на рабстве - это плачевно.

Нет, я просто попытался обосновать психологию рабства и т.п. Я не хочу рабства, я не хочу строить послушную систему. В общем-то, нет никакого смысла от системы, которая запросто выполняет любые твои запросы... Это скучно.

Цитата:
Автор: cortl

Покуда вы будете регулировать поведение своих рабов, а равно прошивать в них предустановленные регуляторы - это будут всего лишь рабы (слабые ИИ или программы).

Так... А как тогда сделать то, что не будет рабом/слабым ИИ? Ведь в нас самих есть огромная куча "предустановленных" регуляторов, которыми мы не можем руководить. То есть да, мы какое-то время можем их игнорировать или действовать себе во вред, но в конце концов это ведёт либо к гибели, либо к подчинению этим регуляторам.

Мне кажется, без нашей биологической основы, без эволюционно сформированных механизмов, над которыми мы не властны, у нас не было бы никакого "разума". И не станет, если мы попытаемся окончательно от этого всего отказаться... Соответственно разумную машину нужно строить с неразумной части - с той, которая у нас прошита в генах, и которая есть у большинства остальных животных.

Цитата:
Автор: cortl

До самостоятельности ему придётся обучиться много чему от окружающей среды. И в этой среде могут присутствовать люди. В этом случае люди по статусу должны быть равны ИИ. Иначе кроме рабов ничего не получится.

Ладно. Вырастают ли дети в нормальных людей, если в их окружающей среде нет присутствия людей? Равны ли по статусу родители и их дети? Рабы ли мы своим родителям?

Никто не спорит, что "взрослый ИИ" будет равен по статусу человеку. Но прежде чем получить такой ИИ, придётся пройти через ИИ-ребёнка, которому нельзя давать в руки спички и всё остальное оружие, как нельзя давать это обычному ребёнку. И давать нельзя до тех пор, пока этот ребёнок не отучится делать то, что не должен, иначе это может привести к печальным последствиям как для него, так и для окружающих...

Ну а как отучивают детей - думаю, все знают)

Цитата:
Автор: cortl

Получаются исключительно рабы. Узколобые рабы.

Просто "слабому ИИ" не хватает остальных частей.
Грубо говоря, "слабый ИИ" - это только маленький кусочек мозга.
Если мозг человека разрезать на кусочки, они перестанут быть целым человеком, хотя по-прежнему смогут решать некоторые задачи. Взять хотя бы лоботомию...

Цитата:
Автор: cortl

Боль и удовольствие, хорошо и плохо - это неизбежно будет у ИИ. Не важно как это будет выглядеть внутри и снаружи. И не имейте иллюзий, что у вас получится это реализовать самостоятельно инвазивными методами.

Ээээ... Што? А как это реализовать? Эволюционно? Запустить процесс эволюции и подождать несколько миллиардов лет, пока оно там само всему не обучится, так что ли?

Это можно, конечно... Но у нас есть столько времени?


Цитата:
Автор: гость

По-моему, были случаи описаны в литературе с удалением /травмой мозжечка, и все движения сохранялись, несмотря на его отсутствие. Была невозможна только тонкая координация движений.

Да так-то вот недавно был описан случай чувака, у которого мозг вымыло водой почти полностью, остались считанные проценты, размазанные по черепу. Это говорит только о том, что мозг может адаптироваться к самым экстремальным изменениям... Но как?


Цитата:
Автор: Modelist

Функциональные аналоги систем живых существ как раз и есть алгоритмы. Систему управления ресурсами и есть алгоритм.

По идее, если алгоритм - это последовательность действий абстрактного исполнителя, то в компьютерной системе может быть не только алгоритм.

Скажем, система уравнений - это не алгоритм. Алгоритм может решить систему уравнений, но уравнения от этого алгоритмом не становятся...

Искусственные нейронные сети - тоже не являются алгоритмами. Это набор данных, которые мы делим на т.н. "нейроны", и обрабатываем специальным алгоритмом. Набор данных - не алгоритм, но благодаря алгоритму эти данные выдают какой-то результат.

Если копнуть глубже, есть "декларативные языки программирования"... В них нет алгоритмов (последовательностей команд), но они способны решать задачи по описанию...


Цитата:
Автор: Luarvik.

Так что было раньше - алгоритмы или математика?!

ИМХО, алгоритмы. Как последовательности действий вида "принеси - подай".
Но для начала, конечно, сформировались языковые средства...


Цитата:
Автор: гость

Мне кажется, на языке математики могут быть описаны все явления в природе, вопрос в том, сколько времени и вычислительных мощностей для этого потребуется.

Вопрос только в том, ЗАЧЕМ нам описывать всё математически?
Большинство программ пишутся без знаний математики. Максимум "2+2=4"...


Цитата:
Автор: Luarvik.

Как, например, математически описать "красный", т.е. не то, что нам физика говорит, а как Вы его воспринимаете субъективно? Или чувство отвращения, удовольствия...

Квалиа - чисто философская штука, не нужно всё в одну кучу сваливать.

Можно описать "восприятие красного" через систему нейронов, которые передают друг другу импульсы, в результате чего в системе формируется "ощущение наблюдения красного", выраженное в активности конкретной группы нейронов (индивидуальной для каждой конкретной системы нейронов). Можно, но не нужно.
[Ответ][Цитата]
dvuobyomnyi
Сообщений: 128
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 27 окт 19 1:42
TimKruz, а мои идеи могут помочь [вашим идеям]?

Цитата:
Ну, во-первых, "эмоции" не могут откуда-то вытечь сами, можно только обнаружить, что какая-то там функция очень сильно напоминает человеческие эмоции.


Это и имел в виду.
[Ответ][Цитата]
гость
188.170.193.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 27 окт 19 2:36
Цитата:
Автор: TimKruz
Скажем, система уравнений - это не алгоритм. Алгоритм может решить систему уравнений, но уравнения от этого алгоритмом не становятся...

Искусственные нейронные сети - тоже не являются алгоритмами. Это набор данных, которые мы делим на т.н. "нейроны", и обрабатываем специальным алгоритмом.


система уравнений может и не алгоритм, но отдельное уравнение может являться алгоритмом. Например, уравнение s=x^2+y^2+z^2 не что иное, как алгоритм изменения выходного значения s в зависимости от входных значений x,y и z.

ИНС - в чистом виде алгоритм, точнее (важная поправка), после завершения обучения ИНС является алгоритмом (или мат. конструкцией, я выше говорил об этом), имеющим некоторое количество информационных входов и выходов.

Цитата:
Автор: TimKruz
Набор данных - не алгоритм, но благодаря алгоритму эти данные выдают какой-то результат.

Кто бы сомневался в этом, что данные, подающиеся на входы алгоритма - не есть сам алгоритм.
[Ответ][Цитата]
гость
188.170.193.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 27 окт 19 2:43
Цитата:
Автор: TimKruz
Вопрос только в том, ЗАЧЕМ нам описывать всё математически?

Согласен, но речь шла не обо всем на свете, а о мат. описании такого явления, как мозг. Луарвик полагает, что нельзя, я, наоборот, полагаю, что можно, только и всего..
[Ответ][Цитата]
гость
188.170.193.*
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 27 окт 19 9:05
Цитата:
Автор: TimKruz
Скажем, система уравнений - это не алгоритм.

Вот вам в качестве примера система из двух уравнений с четырьмя неизвестными:
z=x+y
f=x-y
Эта система есть алгоритм изменения выходных значений z и f в зависимости от входных значений x и y.
[Ответ][Цитата]
cortl
Сообщений: 170
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 28 окт 19 22:30
Цитата:
Автор: TimKruz
Т.е. вот есть у нас искусственные нейронные сети. Их обучение происходит с помощью специальных сигналов, которые производят массовое подавление/усиление весов связей. Эти сигналы, обычно, генерируются или человеком-оператором, или специальной функцией, которая определяет успешность выполнения задачи нейросетью. Единственное, что нам нужно сделать - это прикрепить соответствующие датчики, которые и будут играть роль "болевых рецепторов" для конкретной нейросети. Ну, упрощённо, конечно.

Если мы опираемся не на модель ИНС, то нужно смотреть на свойства того, на чём мы пытаемся построить ИИ. Боль/удовольствие - это просто минус/плюс для системы, которые получаются в определённых, заранее заданных условиях.

Вот, у вас в голове есть "человек-оператор", или "специальная функция", которая определяет успешность выполнения задачи вашей нейросетью?

Другими словами: всё также предлагаете сделать бэкдор, который будет очень сложно (практически невыполнимо) реализовать. И который будет являться инородным телом, со всеми вытекающими последствиями.

Цитата:
Автор: TimKruz
Так... А как тогда сделать то, что не будет рабом/слабым ИИ? Ведь в нас самих есть огромная куча "предустановленных" регуляторов, которыми мы не можем руководить. То есть да, мы какое-то время можем их игнорировать или действовать себе во вред, но в конце концов это ведёт либо к гибели, либо к подчинению этим регуляторам.

Наши предустановленные регуляторы возникли в результате эволюции, в результате эволюции же они могут исчезнуть. То что хотите сделать вы прошивается раз и навсегда, видимо. Эдакий жучок. Попытка продумать всё наперёд за ИИ. Перекладываете проблему из одного места в другое, называете иначе, а толку?

Цитата:
Автор: TimKruz
Мне кажется, без нашей биологической основы, без эволюционно сформированных механизмов, над которыми мы не властны, у нас не было бы никакого "разума". И не станет, если мы попытаемся окончательно от этого всего отказаться... Соответственно разумную машину нужно строить с неразумной части - с той, которая у нас прошита в генах, и которая есть у большинства остальных животных.

Ну, видимо, это божественное начало. Другими словами: земля держится на трёх слонах, черепахе... Счастливого пути!

Цитата:
Автор: TimKruz
Ладно. Вырастают ли дети в нормальных людей, если в их окружающей среде нет присутствия людей?

Думаю, сейчас задача заключается в создании устройства, которое обладает интеллектом. Интеллект либо есть, либо нет. Уровень этого интеллекта нет смысла обсуждать, так как интеллектуальное устройство обучается само и нет пределов его совершенству. У ребёнка есть интеллект, независимо от того: знает он дифференциальное исчисление или нет при рождении.

Цитата:
Автор: TimKruz
Равны ли по статусу родители и их дети? Рабы ли мы своим родителям?
Никто не спорит, что "взрослый ИИ" будет равен по статусу человеку. Но прежде чем получить такой ИИ, придётся пройти через ИИ-ребёнка, которому нельзя давать в руки спички и всё остальное оружие, как нельзя давать это обычному ребёнку. И давать нельзя до тех пор, пока этот ребёнок не отучится делать то, что не должен, иначе это может привести к печальным последствиям как для него, так и для окружающих...

Ну а как отучивают детей - думаю, все знают)


"Ну а как отучивают детей - думаю, все знают" - в этом проблема, а возникает она, когда спички находятся в досягаемости ребёнка раньше времени. И это проблема не ребёнка, а учителей-родителей. Не смогли ограничить его среду обитания. Ребёнок не набрался достаточно опыта в своей песочнице прежде, чем получил доступ к спичкам. Не увидел достаточно примеров, что спички могут причинить вред и обращаться с ними нужно с осторожностью. Видеть недостаточно, в итоге всё равно обожжётся. Задача родителей чтобы не сгорел.

Цитата:
Автор: TimKruz
Просто "слабому ИИ" не хватает остальных частей.
Грубо говоря, "слабый ИИ" - это только маленький кусочек мозга.
Если мозг человека разрезать на кусочки, они перестанут быть целым человеком, хотя по-прежнему смогут решать некоторые задачи. Взять хотя бы лоботомию...

Попытка количеством подменить качество. Сколько их уже было, а результат где?

Цитата:
Автор: cortl
Боль и удовольствие, хорошо и плохо - это неизбежно будет у ИИ. Не важно как это будет выглядеть внутри и снаружи. И не имейте иллюзий, что у вас получится это реализовать самостоятельно инвазивными методами.

Цитата:
Автор: TimKruz
Ээээ... Што? А как это реализовать? Эволюционно? Запустить процесс эволюции и подождать несколько миллиардов лет, пока оно там само всему не обучится, так что ли?

Это можно, конечно... Но у нас есть столько времени?


"Ээээ... Што?" - Нахватались от армии непобедимых?

"А как это реализовать?" - Задача не сложнее и одновременно не проще. Боль и удовольствие, хорошо и плохо реализовывать не нужно. Они должны органично реализоваться в ИИ. Задача создать ИИ.

ИМХО, генетические методы - это не про создание ИИ. Разве что про совершенствование. Нет смысла ожидать, что у камня появится интеллект в результате эволюции.

Кажется, вы не ответили на вопрос: "Сколько потребуется времени и ресурсов на создание предустановленных регуляторов?" (точную формулировку ищите выше, если угодно).
[Ответ][Цитата]
dvuobyomnyi
Сообщений: 128
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 29 окт 19 1:46
cortl, а вам важны/нужны какие-нибудь идеи? Согласен с вашими утверждениями.
Цитата:
Единственное, что нам нужно сделать - это прикрепить соответствующие датчики, которые и будут играть роль "болевых рецепторов" для конкретной нейросети. Ну, упрощённо, конечно.


TimKruz, я тоже думаю, что это звучит плохо.
[Ответ][Цитата]
cortl
Сообщений: 170
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 29 окт 19 2:02
Цитата:
Автор: dvuobyomnyi
cortl, а вам важны/нужны какие-нибудь идеи? Согласен с вашими утверждениями.

Да, здесь: Задача для СИИ
[Ответ][Цитата]
Андрей
Сообщений: 3841
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 29 окт 19 18:44
Цитата:
Автор: TimKruz
Мы должны подарить машине способность хотеть чего-то, я правильно понял?
Подарить можно цветы женщине, а машину мы должны создать, с готовой способностью хотеть чего-то. Мне кажется, самые убедительные примеры - это примеры на самом себе. Вот Вы - разумная машина, обладающая способностью хотеть. Посмотрим на Вашем примере, чего Вы хотите и как Вы достигаете желаемого. Я ещё раз перечитал этот топик и вот, что я нашёл:
Цитата:
Автор: TimKruz
я стремлюсь к тому, чтобы программа могла сама жить/выживать в том же смысле, в котором живут люди

Я сам хочу самостоятельное существо создать

я просто не хочу создавать безэмоциональный разум

хочу создать именно живой мир - то есть мир, который работает без воздействия игрока

Я не хочу рабства, я не хочу строить послушную систему.

речь скорее о том, чтобы обучаемый разум был самостоятельным, а не зависимым
Первое, что стоит отметить - Вы чего-то хотите и это желание правит Вами. Вы - послушный раб своего желания. Второе, что стоит отметить - Вы отрицаете рабство. Таким образом, попадаете и живёте в противоречии - Вы разумный раб, подчиняетесь своему желанию, при этом хотите создать разумного не раба, подчиняющегося своим желаниям. Абсурд. Это усугубляется тем, что Вы не хотите ставить вопрос прямо "в лоб":
Цитата:
Автор: TimKruz
здесь не ставится вопрос "что такое разум"

Нет строгого определения разума, всё относительно.

Речь в теме идёт о том, что делать, если неизвестно заранее, будет ли программа разумной после обучения - стоит ли её развивать и обучать?

Повторяю, здесь не ставится вопрос "что такое разум"

я и не хочу спорить о понятии "разум" - у каждого оно своё, это нестрогий термин
Т.е. Вы хотите создать то, не зная что, с закономерным итогом:
Цитата:
Автор: TimKruz
я сам пока точно не определился, что считать разумным, а что - нет

у меня вот разные идеи, которые я не могу собрать в цельную систему

я не знаю, куда дальше двигаться

не получается строго сформулировать цель

у меня нет никакой общей системы

нужно просто сформулировать цель

Непонятно только, как и над чем работать...
Итог таков:
1. Вам, как разумному рабу, нужна цель, смысл, задача, задание, хотение - без этого Вы не можете эффективно функционировать. Следовательно, и Вашему творению нужно придать зависимость (рабство) от своих желаний.
2. Вам нужно пользоваться парадигмой создания, а не парадигмой эволюции. Потому что если Вы будете полагать, что разумы - есть продукт эволюции, Вы не сможете поставить задачу получения разума, как продукта искусственного создания. Что мы и наблюдаем.
3. Чтобы решать свою задачу, Вы приходите сюда, на форум, ищете внешних подсказок, не "варитесь в собственном соку", потому что разум - принципиально открытая система, задачи ему задаются извне разума. И не важно что это - эмоция или некий господин - разум, это только исполнительный механизм.

Цитата:
Автор: TimKruz
Кому нужен робот, который просто бездействует, пока ты ему не задашь задачу? Точно не мне

Это не идеальный раб, это просто тупой исполнитель

Кто ему прикажет новое задание?

людьми правят примитивные эмоции
Чтобы жить, нужно хотеть жить. А желание жить делает разум рабом этого желания. Разница между людьми и животными в том, что человек может принимать и исполнять желания других существ. Если жить только ради своих желаний, то станешь животным.
[Ответ][Цитата]
Влад
Сообщений: 1275
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 29 окт 19 21:25
Цитата:
Автор: Андрей
Подарить можно цветы женщине, а машину мы должны создать, с готовой способностью хотеть чего-то. Мне кажется, самые убедительные примеры - это примеры на самом себе. Вот Вы - разумная машина, обладающая способностью хотеть.

Т.е. на разумную машину, распространяется фундаментальное правило, устройства Мира:

0. Материальный объект,

1. Обладает определенной структурой,
2. Структура порождает способности,
3. Способности определяют существование.

Так?
[Ответ][Цитата]
rrr3
Сообщений: 11475
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 30 окт 19 0:41
Изменено: 30 окт 19 0:42
.
[Ответ][Цитата]
r
Сообщений: 828
На: Мысленный эксперимент: вы создали разумную программу, но...
Добавлено: 01 ноя 19 13:54
Цитата:
Автор: Андрей
потому что разум - принципиально открытая система, задачи ему задаются извне разума. И не важно что это - эмоция или некий господин - разум, это только исполнительный механизм.
Это не совсем так. Разум полузакрытая система и часть задач он ставит себе сам.
Задача порождается от отдельно взятого целевого образа (ЦО).
По месту возникновения ЦО делятся на:
1. Целевой образ от потребности
2. Целевой образ от делегирования проблемы (извне)
3. Целевой образ от детализации более абстрактного ЦО.

Вот ЦО под номером 1 самый загадочный, так как идет изнутри. Он индивидуален для каждого живого существа.
И формируется следующим образом:
1. У существа есть некая потребность, но что ее удовлетворяет оно не знает.
2. Существо впервые попадает в ситуацию, которая удовлетворяет эту его потребность.
3. Причинно-следственная связь закрепляется и происходит "опредмечивание" - связь ситуации с потребностью.
4. С этого момента существо пытается выявить основные признаки ситуации (ее ассоциативный адрес), которая удовлетворила потребность, чтобы отбросить несущественные признаки.
5. Очищенная от несущественных признаков ситуация, которая способна удовлетворить потребность, формирует ЦО - целевой образ, которого существо с этого момента стремиться достичь в моменты времени, когда потребностная доминанта именно этой потребности становится первостепенной.
6. Сформированный целевой образ инициирует новую задачу, которую существо начинает решать.

Сложность первого типа целевых образов связана с тем, что у разных особей не только разные потребности, но и разные целевые образы, способные их удовлетворить (разный опыт).
[Ответ][Цитата]
 Стр.6 (10)1  2  3  4  5  [6]  7  8  9  10<< < Пред. | След. > >>