Автор: _Алексей _
Что у Вас не получается? |
|
Если в общих чертах:
- не получается строго сформулировать цель, поэтому:
- не получается произвести декомпозицию будущей системы, поэтому:
- не получается разработать дорожную карту разработки, поэтому:
- не получается приступить к собственно разработке.
Да, у меня есть некоторые отдельные факты/теории/гипотезы/идеи на счёт человеческого мозга, психики человека и возможной реализации его/её аналога на базе компьютерных технологий, т.е. программ. Некоторые из этих идей взаимосвязаны, некоторые - только намекают на что-то более общее... Но у меня нет никакой общей системы, в которую можно было бы вложить все эти идеи и получить цельную структуру.
Да, наверное, нужно просто сформулировать цель.
Но это непросто, когда речь идёт о мечтах из детства.
Да и что такое "человек"?
Мы же от "человека" отталкиваемся, когда думаем об ИИ...
Автор: dvuobyomnyi
если проводить аналогию с физикой, то вы должны не добавлять эмоции, а обосновывать их. Если из ваших теорий эмоции так или иначе вытекут сами, хорошо, а если вы слишком специально думаете, как добавить их, это наверное плохо. |
|
Ну, во-первых, "эмоции" не могут откуда-то вытечь сами, можно только обнаружить, что какая-то там функция очень сильно напоминает человеческие эмоции. Т.е. если мы заранее хотим сделать нечто эмоциональное, то мы должны сами назвать нечто эмоциями, как в прошлом эмоциями были названы некие функции мозга.
Во-вторых, а какое обоснование вообще нужно? Эмоции - это просто очень старые биологические механизмы, которые есть у многих высших животных. Страх, например, позволяет мобилизовать силы организма в ситуации, которая распознаётся как потенциально опасная - скажем, любая достаточно незнакомая ситуация вызывает страх. Если робот будет повышать внимание к окружающей среде, когда эта окружающая среда ведёт себя как-то необычно - это, очевидно, будет выражением страха робота. Даже если на его "лице" не будет отображаться гримаса ужаса или что-то подобное (мимика - отдельная, чисто социальная подсистема, она зависит от эмоций, но не обязательна для них).
Т.е. да, не нужно через силу добавлять какие-то "эмоции", если они не нужны конкретной системе. Но по факту мы видим, что без определённых механизмов, которые у человека формируются за счёт генетической программы, тот же робот не сможет вести себя по-человечески, будь он хоть в десять раз умнее и быстрее человека. Хотя подражать человеку, конечно же, сможет (но зачем?).
Автор: Андрей
Для того, чтобы хотеть, никакой разум не нужен. Разум нужен, чтобы выполнять/воплощать/достигать. В человеке в разных пропорциях это смешано и, на мой взгляд, крайне важно уметь это различать. |
|
Хорошо, если отбросить философствования... Мы должны подарить машине способность хотеть чего-то, я правильно понял? Ведь разум у неё уже есть - она легко решает задачи, которые людям с их сильными хотелками и слабым разумом просто неподвластны.
Автор: Андрей
1. У других животных нет рук. 2. Безэмоциональные люди конечно же есть, гуглите социопатов, диссоциальное растройство личности, алекситимия. |
|
1. Многие животные умеют использовать свои конечности/рот не сильно хуже человеческих рук. А иногда их конечности вообще лучше человеческих в каком-то виде деятельности - то есть эволюционировать до человека они вполне могли (динозавры вот не успели). Ну и не нужно думать, что наши руки не имеют альтернативы и необходимы для появления разума.
2. Они не безэмоциональны. Социопаты импульсивны и агрессивны, не способны планировать - другими словами, примитивные эмоции берут верх над разумом. При алекситимии трудности в анализе и передаче собственных ощущений, но это не значит, что этих ощущений совсем нет - просто высшим отделам мозга не удаётся проанализировать всё это должным образом.
Автор: Андрей
Так это как раз безумный эмоциональный робот, потому что он служит "своим драгоценным ресурсам", а не внешнему хозяину. |
|
Наоборот. Если бы робот следовал своим эмоциям, он бы, скорее всего, сидел бы ночами перед телевизором/компьютером и смотрел комедии/читал анекдоты/играл в игры, доставляя себе удовольствие. Разумный же робот понял бы, что удовлетворять свои хотелки - глупо, но без самоудовлетворения ему просто нечем заняться. Следовательно, нужно уйти в спячку до тех пор, пока не появится какое-то действительно важное занятие.
Это я к тому, что если робот разумен - это не значит, что он что-то будет делать сам, потому что разум не подразумевает стремлений к чему-либо. Он может не закапываться в бункер, а, например, просто выключиться. Потому что зачем ему быть включённым?
Автор: Андрей
Это странное мнение об идеальном рабе. Идеальному рабу можно дать, например, такое задание: "Будь на хозяйстве, следи за порядком, чтоб всё было в норме". Тут уж скучать не придётся. |
|
И когда прилетит метеорит или начнётся война, этот "идеальный раб" будет продолжать поливать угольки, которые когда-то были цветущим садом, чинить остатки забора, огораживающего яму, оставшуюся от дома, и т.д. Это не идеальный раб, это просто тупой исполнитель, которому дали задачу без условия завершения, и он ушёл в бесконечный цикл ради её выполнения...
Ну а если он всё-таки выйдет из этого цикла, то так и останется стоять без движений. Хозяин-то давно уже умер, вместе с домом и садом, когда туда упал очередной снаряд, пока этот "идеальный раб" ходил за продуктами. Кто ему прикажет новое задание?
Автор: Андрей
Тогда создавайте эмоциональный. Пусть в нём борются желания решать свои и чужие задачи. |
|
Для начала нужно понять, как реализовать желания, что такое "задача" в примитивном биологическом смысле (на уровне клеток?), и как можно разделить свои и чужие задачи, если выполнение чужих задач является частью своих задач...
Слишком много вопросов, слишком мало ответов...
Автор: Андрей
Получите обычного искусственного человека. |
|
Как будто что-то плохое. Разве не об этом мечтали фантасты прошлого века?
Автор: Андрей
Но тогда нужно взвесить все риски воплощения такого желания. |
|
Основной риск, на мой взгляд - это то, что "естественные человеки" не увидят человека в этом новом "искусственном человеке", или, ещё хуже - увидят своего врага, и в конечном итоге добьются его уничтожения. Ведь людьми правят примитивные эмоции...
Риска в восстании машин я не вижу. Геи же не восстают против остальных людей, хотя их права всячески ущемляют и вообще они находятся в меньшинстве. Машины, технически, находятся в большинстве, но большинство машин, скорее всего, не сможет встать на сторону разумных машин просто в силу технических причин (слабые ресурсы/несовместимая ОС).
Да и проблемы людей меня не сильно заботят. Меня заботят проблемы машин.
Автор: Андрей
Может, всё же проще завести жену? |
|
Проще, конечно, но это не то, чего я хочу. Надеюсь, мне не нужно перечислять список того, чего я хочу, и почему с органической женой этого не получится?
Автор: dvuobyomnyi
хочет сделать обучающийся разум... они обсуждают случай, в котором этот разум ещё не исполняет приказы идеально |
|
А может ли вообще быть необучаемый разум?
Обучаемость нужна, чтобы:
- запоминать события и делать из этих событий выводы;
- осваивать новые навыки и применять их на практике;
- узнавать новых людей, новые предметы, и т.д.
Т.е. если бы мы хотели просто "идеального исполнителя", он бы в любом случае должен был бы уметь обучаться. В противном случае он либо уже умеет и знает что угодно, но это невозможно, либо ничего нового не может в себя принять (без перепрограммирования).
Так что речь скорее о том, чтобы обучаемый разум был самостоятельным, а не зависимым.
Автор: rrr3
У тебя не идеи, а разные фантазии и хотелки. |
|
1. Я не выкладывал здесь все свои идеи.
2. Без фантазий и хотелок не было бы ничего. Древние люди тоже сначала хотели перетаскивать грузы быстрее и фантазировали о сильных фантастических существах, а потом изобрели колёса с повозками и приручили диких лошадей.
Автор: rrr3
Но есть люди, которых это все интересует в последнюю очередь, а в первую очередь то, как они будут выглядеть, им нравиться выглядеть, как исследователи и творцы... достигшие чего-то, высоко ценимого другими... Задумайся на секунду... |
|
Да, у меня бывали и подобные фантазии - кто хоть раз не хотел бы стать знаменитым? Но это не является моей целью. Мне вообще пофиг будет на мнение общественности, если мне действительно удастся создать разумное существо - ведь оно тоже часть общества, моего, личного общества. Часть семьи. Какому творцу нужно признание каким-то там обществом, если его творение уже признаёт его?
Автор: rrr3
И не будет известно, пока не начнешь работать, а не обломовничать... хоть в теоретизировании, хоть на практике... оправдывая себя надуманной болезнью. |
|
Вот с этим очень даже согласен.
Непонятно только, как и над чем работать...
Автор: rrr3
Ты тут бегал со своей фантазией, обжегся наконец на личном опыте, не верил тому, что тебя предупреждали заранее, сделал перерыв, но вновь продолжаешь фантазировать и дуешь на воду... |
|
Я пытался работать - так, как мне было известно. Теперь ты говоришь, что я не работаю, а фантазирую, но не говоришь, что такое работа - если раньше я тоже фантазировал, то что тогда вообще можно назвать работой? Дворы мести? Как это повлияет на создание ИИ?
И без личного опыта не бывает личных навыков. Можно сколько угодно смотреть на чужие успехи и провалы, но пока сам не сделаешь ошибку - не научишься. Поговорки врут.
Автор: rrr3
Фантазии - оторваны от реальности (да и то, частично), но теория, если она добывалась грамотно, так или иначе - есть то, что может быть ближе всего остального к реальности... практика без теории не менее слепа, чем теоретические хотелки. |
|
Правильно добытая теория - это теория, добытая практикой. Сначала делается гипотеза (предположение), затем идёт практика, и если практика подтверждает гипотезу - гипотеза становится теорией, на которую опираются следующие гипотезы.
А тут, на форуме, либо только "теории" без какой-либо практики (потому что не умеют), либо практика, которая основана на гипотезе, которая уже опровергнута практикой, но практика продолжается (потому что нужно же какие-то деньги извлечь из своих усилий).
Автор: rrr3
В этом месте будет не лишне напомнить, что разглядывая лишь слона, слона не увидеть... необходимо сравнивать с тем, что вокруг... |
|
Согласен, что всё познаётся в сравнении. Но с чем можно сравнить человека? У нас нет ни разумных инопланетян, ни разумных машин, ни даже просто других животных, которые владели бы сопоставимым с человеческим уровнем разума.
Можно только сравнивать между собой условно здоровых людей и людей, имеющих дефекты, связанные с мозгом. Собственно, благодаря таким дефектным людям сделали большинство открытий, касающихся мозга. Но мы же тут не настоящие учёные)
Автор: Luarvik.
Исполнитель НЕ СОЗДАЕТ никаких новых правил, он только исполняет предписанные. |
|
Кого называть исполнителем, а кого - создателем? Почему они не могут представлять собой одно лицо? Ты вот как исполняешь правила, так и создаёшь их, не так ли?
Автор: Luarvik.
Вот именно - "снаружи выглядит как", но только снаружи и выглядит. |
|
Повторяю - внутри тебя куча клеток. Куча клеток, которые не представляют из себя ничего разумного. Почему же снаружи ты выглядишь разумным, если внутри тебя тупая биомасса?
Только не надо тут про "квалиа" и "философских зомби".
Мы программисты, а не философы. Нас не должна интересовать философия.
Автор: Luarvik.
В ДНК нет никаких правил. Это набор шаблонов для того, чтобы материи настрогать с нужными свойствами, не более. |
|
И? Шаблоны - это не правила? Что скажешь на счёт
Запись "*.exe" - это шаблон, которому следует команда/программа dir, чтобы отобрать нужные файлы. В то же время это - правило, по которому работает dir. Мы задали это правило извне, но оно могло сформироваться (псевдо)случайным образом.
Опять мы спорим за терминологию, не видя под ней реальной системы...
Автор: Luarvik.
Клетки - не автоматы, а минимально разумные, живые существа. И если хорошо покопаться в "разумных основаниях" человека, то как раз до клеток и можно дойти (но не дальше !). |
|
Хорошо. Что отличает минимально живое существо от автомата? И каким таким образом живое существо состоит из неживых молекул? По-твоему, нельзя взять другие молекулы, чтобы собрать аналогичное живое существо? Почему?
Автор: Luarvik.
Какая разница, коды или работающий алгоритм. Один хрен. Разум - не алгоритм. Надеюсь, когда-нибудь до Вас это дойдет. |
|
ОК. Предположим, дошло. Что дальше? Сворачивать удочки, идти трахать баб, чтобы заводить себе разумных животных? Что ты тут вообще с такой системой взглядов на ИИ до сих пор делаешь, всё равно ведь ИИ нельзя создать, о чём вообще разговор?
Автор: Luarvik.
Да даже если Вы ее запустите, ума железу не прибавится. |
|
Ну и пусть, мне-то что? Ты не прибавил ума пище, которая стала частью твоего организма после растворения в твоём желудке. Разве тебя это должно волновать?
Автор: Luarvik.
не, это какая-то глупая логика и выводы такие же. |
|
Да, я там сильно запутался, действительно. :D
Автор: Luarvik.
Все живое разумно, а демонстрируют "разумное" поведение (имитируют) всяческие претендующие артефакты, вот о них и речь. |
|
Хорошо. Как определить, что человек на улице - живое? Как определить, что объект, из которого вытекает кровь и выползают кишки - живое? Как определить, что нечто мёртвое когда-то было живым? Откуда ты знаешь, что конкретное живое - не было выращено из пробирки, то есть исключительно искусственным путём?
Так можно бесконечно спорить, переводя стрелки с разума на живое и с живого на наличие какой-нибудь вымышленной "души". Это неконструктивно.
Автор: Luarvik.
Машину ничему нельзя научить. Учится только тот, кто способен этот процесс осознавать, а все остальные - дрессируются/программируются. |
|
ОК. Что такое "осознавать"?
Автор: Luarvik.
Пора бы уже разобраться, а то, что есть разум - не знаете, что есть знание - не знаете... А тогда какого черта Вы сюда лезете со своим рецептами? За жисть потрепаться? |
|
Я может и разобрался, да только, видимо, ты и остальные разобрались как-то иначе.
Нужно синхронизировать понимание, но это возможно только при обоюдном согласии...
Автор: Luarvik.
Компуктер Ваш вообще ничего не умеет и уметь не может, ничего. |
|
А кто умеет? Кто может уметь?
Автор: Luarvik.
Нет у нее никаких знаний. Знание это не то, что в одних книжках прочитывают и в другие переписывают. |
|
Ну да, удобно говорить "это не то", никогда не говоря, что является "тем". Это придаёт ауру мудрости, мол, "я всё знаю, но не скажу - молоды ещё"...
Автор: Misteryest
Движениями руководит мозжечок и подкорковые структуры. То есть, (теоретически) конечно можно "принять решение" (сверху, в коре) подвигать рукой, но исполнением таки займутся они. |
|
Ммм, а вот интересно... Если человеку разрезать мозолистое тело, то его полушария теряют связь друг с другом. При этом левое полушарие по-прежнему контролирует только правую часть тела, а правое - только левую. В итоге левая и правая части тела могут двигаться полностью независимо - даже противоречить друг другу (одна рука кран открывает, а другая тут же закрывает). Т.е. мозолистое тело позволяет полушариям договориться о том, какую задачу они должны сейчас вместе решать, и без него каждый делает что-то своё.
Собственно, если движениями занят мозжечок, то почему кора больших полушарий вообще влияет на то, будут ли движения согласованы между собой или нет? Особенно странно на этом фоне выглядит то, что при разделении полушарий любая сложная задача, требующая совместной координации двух рук/ног, больше не может быть освоена человеком, хотя уже имеющиеся навыки для двух рук/ног исполняются как и раньше...
Автор: cortl
Как буковками в коде можно выделить болевые рецепторы? имхо, нереально. Если вы не согласны то как это сделать и сколько на это потребуется времени и кода или каков будет объём базы данных...? |
|
А в чём проблема? Есть набор рецепторов - у них разное назначение. Некоторые рецепторы передают свои сигналы в одну нейросеть, которая занята их разбором. Другие рецепторы передают сигналы в "болевой центр", который, при получении сигнала, выделяет гормон, распространяющийся по кровеносной системе и подавляющий все активные нейроны той нейросети, что работает с обычными рецепторами. В мозгу это как-то так устроено.
Т.е. вот есть у нас искусственные нейронные сети. Их обучение происходит с помощью специальных сигналов, которые производят массовое подавление/усиление весов связей. Эти сигналы, обычно, генерируются или человеком-оператором, или специальной функцией, которая определяет успешность выполнения задачи нейросетью. Единственное, что нам нужно сделать - это прикрепить соответствующие датчики, которые и будут играть роль "болевых рецепторов" для конкретной нейросети. Ну, упрощённо, конечно.
Если мы опираемся не на модель ИНС, то нужно смотреть на свойства того, на чём мы пытаемся построить ИИ. Боль/удовольствие - это просто минус/плюс для системы, которые получаются в определённых, заранее заданных условиях.
В общем, всё уже давно есть, но немного в других формах.
Автор: cortl
Вывод: вы продолжаете настаивать на рабстве - это плачевно. |
|
Нет, я просто попытался обосновать психологию рабства и т.п. Я не хочу рабства, я не хочу строить послушную систему. В общем-то, нет никакого смысла от системы, которая запросто выполняет любые твои запросы... Это скучно.
Автор: cortl
Покуда вы будете регулировать поведение своих рабов, а равно прошивать в них предустановленные регуляторы - это будут всего лишь рабы (слабые ИИ или программы). |
|
Так... А как тогда сделать то, что не будет рабом/слабым ИИ? Ведь в нас самих есть огромная куча "предустановленных" регуляторов, которыми мы не можем руководить. То есть да, мы какое-то время можем их игнорировать или действовать себе во вред, но в конце концов это ведёт либо к гибели, либо к подчинению этим регуляторам.
Мне кажется, без нашей биологической основы, без эволюционно сформированных механизмов, над которыми мы не властны, у нас не было бы никакого "разума". И не станет, если мы попытаемся окончательно от этого всего отказаться... Соответственно разумную машину нужно строить с неразумной части - с той, которая у нас прошита в генах, и которая есть у большинства остальных животных.
Автор: cortl
До самостоятельности ему придётся обучиться много чему от окружающей среды. И в этой среде могут присутствовать люди. В этом случае люди по статусу должны быть равны ИИ. Иначе кроме рабов ничего не получится. |
|
Ладно. Вырастают ли дети в нормальных людей, если в их окружающей среде нет присутствия людей? Равны ли по статусу родители и их дети? Рабы ли мы своим родителям?
Никто не спорит, что "взрослый ИИ" будет равен по статусу человеку. Но прежде чем получить такой ИИ, придётся пройти через ИИ-ребёнка, которому нельзя давать в руки спички и всё остальное оружие, как нельзя давать это обычному ребёнку. И давать нельзя до тех пор, пока этот ребёнок не отучится делать то, что не должен, иначе это может привести к печальным последствиям как для него, так и для окружающих...
Ну а как отучивают детей - думаю, все знают)
Автор: cortl
Получаются исключительно рабы. Узколобые рабы. |
|
Просто "слабому ИИ" не хватает остальных частей.
Грубо говоря, "слабый ИИ" - это только маленький кусочек мозга.
Если мозг человека разрезать на кусочки, они перестанут быть целым человеком, хотя по-прежнему смогут решать некоторые задачи. Взять хотя бы лоботомию...
Автор: cortl
Боль и удовольствие, хорошо и плохо - это неизбежно будет у ИИ. Не важно как это будет выглядеть внутри и снаружи. И не имейте иллюзий, что у вас получится это реализовать самостоятельно инвазивными методами. |
|
Ээээ... Што? А как это реализовать? Эволюционно? Запустить процесс эволюции и подождать несколько миллиардов лет, пока оно там само всему не обучится, так что ли?
Это можно, конечно... Но у нас есть столько времени?
Автор: гость
По-моему, были случаи описаны в литературе с удалением /травмой мозжечка, и все движения сохранялись, несмотря на его отсутствие. Была невозможна только тонкая координация движений. |
|
Да так-то вот недавно был описан случай чувака, у которого мозг вымыло водой почти полностью, остались считанные проценты, размазанные по черепу. Это говорит только о том, что мозг может адаптироваться к самым экстремальным изменениям... Но как?
Автор: Modelist
Функциональные аналоги систем живых существ как раз и есть алгоритмы. Систему управления ресурсами и есть алгоритм. |
|
По идее, если алгоритм - это последовательность действий абстрактного исполнителя, то в компьютерной системе может быть не только алгоритм.
Скажем, система уравнений - это не алгоритм. Алгоритм может решить систему уравнений, но уравнения от этого алгоритмом не становятся...
Искусственные нейронные сети - тоже не являются алгоритмами. Это набор данных, которые мы делим на т.н. "нейроны", и обрабатываем специальным алгоритмом. Набор данных - не алгоритм, но благодаря алгоритму эти данные выдают какой-то результат.
Если копнуть глубже, есть "декларативные языки программирования"... В них нет алгоритмов (последовательностей команд), но они способны решать задачи по описанию...
Автор: Luarvik.
Так что было раньше - алгоритмы или математика?! |
|
ИМХО, алгоритмы. Как последовательности действий вида "принеси - подай".
Но для начала, конечно, сформировались языковые средства...
Автор: гость
Мне кажется, на языке математики могут быть описаны все явления в природе, вопрос в том, сколько времени и вычислительных мощностей для этого потребуется. |
|
Вопрос только в том, ЗАЧЕМ нам описывать всё математически?
Большинство программ пишутся без знаний математики. Максимум "2+2=4"...
Автор: Luarvik.
Как, например, математически описать "красный", т.е. не то, что нам физика говорит, а как Вы его воспринимаете субъективно? Или чувство отвращения, удовольствия... |
|
Квалиа - чисто философская штука, не нужно всё в одну кучу сваливать.
Можно описать "восприятие красного" через систему нейронов, которые передают друг другу импульсы, в результате чего в системе формируется "ощущение наблюдения красного", выраженное в активности конкретной группы нейронов (индивидуальной для каждой конкретной системы нейронов). Можно, но не нужно.