Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.14 (18) << < Пред. | След. > >>    Поиск:
Автор	Тема: На: Выжить
daner Сообщений: 4593	На: Выжить Добавлено: 09 ноя 07 5:04 >>>>>>>>BK Да вполне согласен, с тем что вы написали про человечество, кроме вывода. Думаю, что все-таки уже давно все человечество представляет единую систему. Смотря с какой стороны на это смотреть. Вот скажем, если смотреть с точки зрения биологии, то вообще все живое на земле есть единая система (это особенно хорошо "замечают" вымирающие виды). Если говорить о политики, то взаимозависимость стран 3-его мира и стран Европы и Америки весьма очевидна! Кто-то одни ресурсы поставляет, а кто-то другие и ни те, ни те, друг без друга... не могут (ну как минимум, пока основное топливо нефть). Если есть между элементами какие-то связи (а они в политическом смысле есть практически между всеми странами) то и система есть. [Ответ][Цитата]
asmer Сообщений: 52	Человечество - Выжить Добавлено: 09 ноя 07 5:35 Уважаемые оппоненты. Я вообще-то в курсе, что существует международное право, ООН с ее миротворцами, международные валютные фонды, международные научные проекты, один из которых - получение энергии термоядерного синтеза, т.к. энергетический кризис не за горами. Это подтверждение того, что человечество в целом давно уже решает задачу выжить на межгосударственном уровне. Еще хочу обратить ваше внимание на то, что обмен интеллектуальными достижениями тоже происходит в пределах всего человечества, сквозь государственные границы. Пример: Кто лидер производства процессоров, ПО к компьютерам? США. А кто занимает первые места в международных соревнованиях программеров? Представители Росии, Китая. Привычно, не удивительно? Рассмотрим этот пример на другой системе (такая аналогия здесь уже предлагалась), вместо государства - мозг, вместо человеков - нейроны. Предположим, Гарри Каспаров, признанный лидер шахматной мысли, обдумывает очередную дебютную идеею (кто же, если не он). И тут в его голове возникает мысль: "Расслабься, Гарри. Твоя идея проанализирована, вот лучший вариант Васи Пупкина, форсированный выигрыш фигуры на восьмом ходу. Можешь убедиться сам." Гарри бы очень удивился, сказав: "Эмерджентность, однако". [Ответ][Цитата]
asmer Сообщений: 52	На: Выжить Добавлено: 09 ноя 07 6:03 Цитата: Автор: Алхимик Ну так и вы сказочник По вашему, стоит сказать ИИ, что он чтой-то там стоит, то он сразу возгордится и забеспокоится о своей безопасности и ради профилактики начнет мочить своих создателей. И в то же время идею о том, что своих создателей надо беречь, внушить ИИ ни под какам видом не удасться. Мы здесь говорим о сверх-ИИ, предполагается, что он имеет достаточно адекватную (не хуже человеческой) модель окружающего мира и себя в этом мире. Беречь себя - это логичный вывод. Кстати, если человек произошел от обезьяны, то его буквально "создал" какой-то самец, потрудившись доступным ему способом над самкой. Возможно, успешные попытки были неоднократные и не у одной пары обезьян. Я знаю, что человек проводит опыты на обезьянах, содержит их в клетках, но чтобы все человечество обожало обезьян - что-то не припомню. Кстати, на счет сказочника, войду-ка я на время в образ Азимова: "Я открыл три закона Asmera, которые избавят человечество от пороков: 1. Человек должен совершать только хорошие поступки. 2. В случае невозможности выполнения п.1 человек может совершать удовлетворительные поступки. 3. Человек никогда не должен совершать плохих поступков. Как это реализовать? Я такой ерундой не занимаюсь, я мыслю глобально!" Занавес. [Ответ][Цитата]
Yerken Сообщений: 110	На: Выжить Добавлено: 09 ноя 07 7:04 Вольфрамовый клапан<<<<<<Короче, вы меня поняли . Эволюция в активной среде почти наверняка приведёт к совсем другим результатам, чем биологическая эволюция. Критерии приспособленности и выживаемости здесь совсем другие.>>>> _____________________________________________________________ А весьма интересное предположение.Сверх-ИИ действительно появится и развиваться будет в активной среде, следовательно, и быть ему таким, каким захотят видеть его люди.Во всяком случае, на первых порах точно. Далее, в силу обладания сверх-ИИ интеллектом, это сверх-ИИ вряд ли захочет быть пассивным объектом, изменяющимся по воздействием активной среды. Хотелось бы, что Вы, Вольфрамовый Клапан, развили бы эту версию дальше :каково возможное развитие событий при переходе "активная среда - активный объект", в какой форме это выразится и чем закончится (в смысле, как будет выглядеть длительное стационарное состояние равновесия между сверх-ИИ и породившей его средой?) [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	На: Выжить Добавлено: 09 ноя 07 9:32 Цитата: Автор: asmer Человек биологический за последние 10 000 лет существенно не изменился, а ЕИ за этот же срок вырос на много порядков. Вопрос, какая же интеллектуальная система обеспечила этот рост ЕИ, если человечество, по-вашему, не система? Человечество в целом не является системой, но это не значит, что системами не являются отдельные части человечества Цитата: >>> Что же касается стремления выжить более мелких совокупностей человеков (семьи, предприятия, государства), то они являются следствием стремления к самосохранению отдельных индивидуумов. Автор: asmer Факты говорят о противоположном. Например, государство воспитывает своих солдат: погибни сам, но защити отечество. И делает это довольно успешно, иначе оно перестает быть государством. Ну, если бы инстинкта самосохранения не было бы у отдельных индивидуумов, его не было и у государства. Да и вообще, у таких индивидуумов государства не возникло бы. Вообще, вопрос об альтруизме и самопожертвовании - очень интересный вопрос. В биологии дабы его объяснить, придумали даже [лже]теорию группового отбора, которая гласит, что индивидуум якобы действует в интересах популяции, а не в своих собственных интересах. Если же рассматривать этот вопрос с точки зрения гена, то большинство случаев альтруизма оказываются случаями скрытого эгоизма. Например, когда мать защищает своих детёнышей, это внешне кажется альтруизмом. Однако поскольку в генотипе детёнышей содержится 50% генотипа матери, то спасение двух детёнышей ценой жизни матери является равноценным разменом. Цитата: Думаю, ИИ будущего должен быть в курсе, что его себестоимость отличается от нуля, а с учетом задач, которые он решает и может решить, в том числе перспективных, его эффективная стоимость еще выше. Какая фиг разница для ИИ, какая у него себестоимость, если ему не дано почувствовать, как звенят монетки в кармане и какое вкусное мороженое можно купить в магазине напротив всего за 10 рублей? Какой ему интерес до источников потенциальной опасности, если самому ему не больно, не страшно, не тепло, не холодно, комары его не кусают и мухи на него не гадят? Каковы у него вообще стимулы к деятельности и как они возникают? Деньги - это всего лишь мера вклада индивидуума в общее дело и нужны они для того, чтобы индивидуум получил от общества полагающееся ему количество материальных/духовных благ. Какие искусственному интеллекту нужны материальные блага? Разве что заплатить за электричество, потребляемое его компьютером? [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	На: Выжить Добавлено: 09 ноя 07 9:48 Цитата: Автор: daner Если есть между элементами какие-то связи (а они в политическом смысле есть практически между всеми странами) то и система есть. ОК, вопрос в терминологии - насколько сильной должна быть связь между двумя элементами, чтобы считать их системой. Лично мне инстинктивно кажется, что два случайно встретившихся на улице человека ещё не являются системой, хотя между ними явно есть связь - они видят и слышат друг друга, испытывают друг к другу симпатию/антипатию/равнодушие, многое понимают друг о друге по внешнему виду, жестам, взглядам, являются гражданами одной страны и т.д. Хотя, конечно, можно впасть в крайность и считать системой любые два объекта, если расстояние между ними R<cT, где с - скорость света, а Т - возраст младшего из них, поскольку они влияют друг на друга собственным гравитационным полем [Ответ][Цитата]
Вольфрамовый клапан Сообщений: 809	На: Выжить Добавлено: 09 ноя 07 10:01 Цитата: Автор: asmer Я открыл три закона Asmera, которые избавят человечество от пороков: 1. Человек должен совершать только хорошие поступки. 2. В случае невозможности выполнения п.1 человек может совершать удовлетворительные поступки. 3. Человек никогда не должен совершать плохих поступков. У Платонова в "Котловане" слегка дебильная девочка-сиротка изрекает единственный закон, который избавит человечество от пороков: "Плохих людей всех нужно убивать, а то хороших слишком мало!" [Ответ][Цитата]
Yerken Сообщений: 110	На: Выжить Добавлено: 09 ноя 07 11:09 <<<<Человечество в целом не является системой, но это не значит, что системами не являются отдельные части человечества >>>> _____________________________________________________________________ Возможно, что человечество в целом еще только формируется как система. Если принять за неотъемлемое свойство системы наличие иерархии, то человечество еще до конца не сформировалось, но у же есть претендент на вершину этой иерархии, что вызывает беспокойство и раздражение других государств. Можно, я не буду называть это гос-во (боюсь ). В то же время человечество в целом уже нельзя назвать каким-то бессистемным, аморфным образованием. Так что ИМХО, правы по своему обе стороны. <<<<<<<Вообще, вопрос об альтруизме и самопожертвовании - очень интересный вопрос. В биологии дабы его объяснить, придумали даже [лже]теорию группового отбора, которая гласит, что индивидуум якобы действует в интересах популяции, а не в своих собственных интересах.>>>>>>>>>>> <<<<<Если же рассматривать этот вопрос с точки зрения гена, то большинство случаев альтруизма оказываются случаями скрытого эгоизма. Например, когда мать защищает своих детёнышей, это внешне кажется альтруизмом. Однако поскольку в генотипе детёнышей содержится 50% генотипа матери, то спасение двух детёнышей ценой жизни матери является равноценным разменом>>>>>> ______________________________________________________________________________________ Гм... Хорошо... Перенесемся на поля саванны на миллионы лет назад. Человечество по каким-то причинам уже не могло жить в жунглях и жило в саваннах. Слабо вооруженные (с зубами и когтями (ногтями), лишь номинально обозначенными), не умеющие толком бегать, физически слабые и т.д. Идеальная жертва, черт побери... Особенно, наверное, свирепствовали гиены, т.к. они лучше и изощреннее организовывают налет, чем львы... И если бы не альтруизм, приведший к созданию сословия воинов, готовых пожертвовать своей жизнью ради других членов общества (кстати, БЕЗ РАЗНИЦЫ, свои там дети и старики или родичи другого такого воина), то вряд ли вылезти человеку из такой задницы. Раз за разом налеты в первую очередь выбивали бы стариков (носителей опыта) и детей (нет комментариев). Можно конечно и здесь найти при желании эгоистичную подноготную (воинам почет и уважение, при удачной охоте лучшие куски им да плюс поощрительные совокупления с лучшими самками). Но мне вот так хочется, что это не так. Что здесь альтруизм чистой воды и именно он спас человечество. <<<<<ОК, вопрос в терминологии - насколько сильной должна быть связь между двумя элементами, чтобы считать их системой. Лично мне инстинктивно кажется, что два случайно встретившихся на улице человека ещё не являются системой, хотя между ними явно есть связь - они видят и слышат друг друга, испытывают друг к другу симпатию/антипатию/равнодушие, многое понимают друг о друге по внешнему виду, жестам, взглядам, являются гражданами одной страны и т.д. Хотя, конечно, можно впасть в крайность и считать системой любые два объекта, если расстояние между ними R<cT, где с - скорость света, а Т - возраст младшего из них, поскольку они влияют друг на друга собственным гравитационным полем>>>>>> ___________________________________________________________________________________ Cистемой два человека станут, как токо возьмут какие-либо обязательства друг перед другом. Два одиноких бандита-разбойника, пообщавшись и узнав, что они коллеги и тем самым ограничившись, не станут системой. А когда, узнав, что коллеги, договорятся о совместных действиях с разделением труда (а взятые обязательства,конечно же, уменьшают количество степеней свободы каждого), тогда они станут системой. Можно с помощью формул из теории информации и терии больших систем упавления обобщить этот пример на любые другие системы вплоть до озвучения цифры, какое количество бит в квадрате в качестве энтропии будет отправлено во внешнюю среду. Хотите? Жду Вашего сигнала.Но наберитесь терпения, это будет нудный постер. [Ответ][Цитата]
Алхимик Сообщений: 315	На: Выжить Добавлено: 09 ноя 07 11:35 Цитата: Автор: asmer Мы здесь говорим о сверх-ИИ, предполагается, что он имеет достаточно адекватную (не хуже человеческой) модель окружающего мира и себя в этом мире. Беречь себя - это логичный вывод. Кстати, если человек произошел от обезьяны, то его буквально "создал" какой-то самец, потрудившись доступным ему способом над самкой. Возможно, успешные попытки были неоднократные и не у одной пары обезьян. Я знаю, что человек проводит опыты на обезьянах, содержит их в клетках, но чтобы все человечество обожало обезьян - что-то не припомню. Прошу прощения, просто хотел обратить ваше внимание, что вы обсуждаете то, чего не будет в ближайший век, а возможно и вообще. Такой Сверх-ИИ просто не нужен человеку. Ему нужен такой, который точно и быстро выдаст расклад для конкретного Васи Пупкина : если сделать так, то Васе будет очень хорошо, а всем вокруг плохо. Если сделать иначе, Васе будет плохо, а всем очень хорошо, и, наконец, если вот этак, то всем будет неплохо. А решение будет принимать Пупкин. Ему так же не нужен ИИ, у которого в определенные моменты из дырочек капает жидкость, а из динамика доносится "Бу-га-га". Ему нужно, чтобы по требованию предоставлялся анекдотец посмешнее или историйка пожалостливее. А плакать и смеяться он будет сам. Сверскость ИИ и будет заключаться, чтобы анектод был смешным именно для конкретного Васи. Но поскольку вы такой ерундой не занимаетесь, то больше не буду мешать вам мыслить глобально и удаляюсь с этой ветки PS. Кстати, об описанном способе "создания": все мы им созданы, и все нормальные люди любят как "создателей", так и "произведения" [Ответ][Цитата]
Yerken Сообщений: 110	На: Выжить Добавлено: 09 ноя 07 11:55 <<<<Прошу прощения, просто хотел обратить ваше внимание, что вы обсуждаете то, чего не будет в ближайший век, а возможно и вообще. Такой Сверх-ИИ просто не нужен человеку. Ему нужен такой, который точно и быстро выдаст расклад для конкретного Васи Пупкина : если сделать так, то Васе будет очень хорошо, а всем вокруг плохо. Если сделать иначе, Васе будет плохо, а всем очень хорошо, и, наконец, если вот этак, то всем будет неплохо. А решение будет принимать Пупкин. Ему так же не нужен ИИ, у которого в определенные моменты из дырочек капает жидкость, а из динамика доносится "Бу-га-га". Ему нужно, чтобы по требованию предоставлялся анекдотец посмешнее или историйка пожалостливее. А плакать и смеяться он будет сам. Сверскость ИИ и будет заключаться, чтобы анектод был смешным именно для конкретного Васи. Но поскольку вы такой ерундой не занимаетесь, то больше не буду мешать вам мыслить глобально и удаляюсь с этой ветки PS. Кстати, об описанном способе "создания": все мы им созданы, и все нормальные люди любят как "создателей", так и "произведения" >>>>>> ______________________________________________________________________________________ Ну, алхимик, не торопились бы Вы... С вашим участием, как и участием любого, все-таки интереснее... А по существу, какой нужен ИИ человечеству, мы почти приблизилсись, когда я попросил Клапана развить свой тезис об отношении активной среды и сверх-ИИ. По мне, так будут востребованы все виды сверх-ИИ. Кому-то лень будет даже выносить решения, он и потребует сверх-ИИ с наличием воли и самостоятельности... А кому то, как Вам, понадобится супернавороченный компьютер, остальное делать намерены Вы. [Ответ][Цитата]
Yerken Сообщений: 110	На: Выжить Добавлено: 09 ноя 07 11:55 <<<<Прошу прощения, просто хотел обратить ваше внимание, что вы обсуждаете то, чего не будет в ближайший век, а возможно и вообще. Такой Сверх-ИИ просто не нужен человеку. Ему нужен такой, который точно и быстро выдаст расклад для конкретного Васи Пупкина : если сделать так, то Васе будет очень хорошо, а всем вокруг плохо. Если сделать иначе, Васе будет плохо, а всем очень хорошо, и, наконец, если вот этак, то всем будет неплохо. А решение будет принимать Пупкин. Ему так же не нужен ИИ, у которого в определенные моменты из дырочек капает жидкость, а из динамика доносится "Бу-га-га". Ему нужно, чтобы по требованию предоставлялся анекдотец посмешнее или историйка пожалостливее. А плакать и смеяться он будет сам. Сверскость ИИ и будет заключаться, чтобы анектод был смешным именно для конкретного Васи. Но поскольку вы такой ерундой не занимаетесь, то больше не буду мешать вам мыслить глобально и удаляюсь с этой ветки PS. Кстати, об описанном способе "создания": все мы им созданы, и все нормальные люди любят как "создателей", так и "произведения" >>>>>> ______________________________________________________________________________________ Ну, алхимик, не торопились бы Вы... С вашим участием, как и участием любого, все-таки интереснее... А по существу, какой нужен ИИ человечеству, мы почти приблизилсись, когда я попросил Клапана развить свой тезис об отношении активной среды и сверх-ИИ. По мне, так будут востребованы все виды сверх-ИИ. Кому-то лень будет даже выносить решения, он и потребует сверх-ИИ с наличием воли и самостоятельности... А кому то, как Вам, понадобится супернавороченный компьютер, остальное делать намерены Вы. [Ответ][Цитата]
Trilobite Сообщений: 201	Насчет видов эволюции Добавлено: 09 ноя 07 13:06 Цитата: Автор: Вольфрамовый клапан На мой взгляд, существуют два принципиально различных вида эволюции: 1. "Пассивная среда - активный эволюционирующий субъект"; 2. "Активная среда - пассивный эволюционирующий субъект". ... ещё некий промежуточный вариант (активная среда - активный субъект) ... Небольшое возражение в части биоэволюции. Пассивной среду даже там для первых биомолекул можно назвать с большой натяжкой, а уж чуть позже... можно ли считать пассивным мир, в котором за тобой охотятся, пища убегает или активно противодействует, а соседи норовят вытеснить из обжитой экологической ниши? Думаю, нет, если, конечно, под средой понимать не только камни под ногами, а целиком окружение. Кстати, в опубликованном примере из одинакового исходного материала именно взаимодействие в паре хищник-жертва, превращает одних особей в успешных охотников, а других - в изворотливую добычу. Посему получается, что как раз "промежуточный вариант" (активные среда и субъект) и есть основной в природе и самый интересный с точки зрения ИИ. Причем, среда для формирования интеллекта должна быть не просто активной, а еще и педагогически-адекватной, т.е. уметь раз за разом ставить перед ним все более сложные задачи, поощрять промежуточные успехи и выдавать "Большой приз" в финале. Но это все "лирика", над которой нависает более существенный вопрос: если есть шанс получить систему с проблесками интеллекта (ну не могу я всерьез рассуждать о супер-ИИ!), то будет ли она плодом усилий умелого программиста или результатом саморазвития некоего "зародыша" в подходящей для того среде? [Ответ][Цитата]
asmer Сообщений: 52	На: Выжить Добавлено: 09 ноя 07 13:13 Цитата: Автор: Алхимик Прошу прощения, просто хотел обратить ваше внимание, что вы обсуждаете то, чего не будет в ближайший век, а возможно и вообще. Такой Сверх-ИИ просто не нужен человеку. Ему нужен такой, который точно и быстро выдаст расклад для конкретного Васи Пупкина : Предположим, несколько веков назад кузнец с подмастерьями, намахавшись молотом и перекуривая, рассуждали примерно так: "А вот хорошо бы, если бы молот сам бил, куда надо". "А еще заготовку крутила бы железная рука". "Да, а еще лучше, если он такой умный, иногда бы шутил, мы бы сейчас посмеялись". Но вот пришел прогресс, автоматизированная рабочая линия. Кузнеца с подмастерьями под зад, их место занял инженер-программер. А как хорошо было ими задумно... Теперь инженер-программер размечтался: "А вот хорошо бы ..." ... [Ответ][Цитата]
asmer Сообщений: 52	На: Насчет видов эволюции Добавлено: 09 ноя 07 13:29 Цитата: Автор: Trilobite Но это все "лирика", над которой нависает более существенный вопрос: если есть шанс получить систему с проблесками интеллекта (ну не могу я всерьез рассуждать о супер-ИИ!), то будет ли она плодом усилий умелого программиста или результатом саморазвития некоего "зародыша" в подходящей для того среде? В моем представлении примерно также, как машинное производство заменило ручной труд. Плодом усилий многих специалистов и прочих умных голов. С бунтами и погромами машин - не всем понравился результат, но повлиять на него уже не могли. [Ответ][Цитата]
Trilobite Сообщений: 201	На: Насчет видов эволюции Добавлено: 09 ноя 07 13:44 Цитата: Автор: asmer ...плодом усилий многих специалистов и прочих умных голов... Возможно, я неаккуратно выразился. Имелось ввиду, что и зародыш интеллекта и среда его обитания - плод усилий не менее изощренной инженерной мысли. [Ответ][Цитата]
Стр.14 (18): 1  ...  10  11  12  13  [14]  15  16  17  18 << < Пред. | След. > >>