GotAI.NET

Форум: Проблемы искусственного интеллекта

 

Регистрация | Вход

 Все темы | Новая тема Стр.37 (38)<< < Пред. | След. > >>   Поиск:  
 Автор Тема: На: Вечные философские вопросы
Slava
Сообщений: 3070
На: Вечные философские вопросы
Добавлено: 11 дек 13 1:58
Цитата:
Автор: Vpolevoj


В таком случае нам просто НЕОБХОДИМО решить задачу, как можно сделать ИИ НЕДРУЖЕСТВЕННЫМ. Пойти, так сказать, от противного.
...


Красиво рассуждаете
Только вот не знаю, кого вам в помощь пожелать
Ну и удачи уж точно не желаю
Прекрасная, в общем, демонстрация возможностей логики, не отягощенной смыслом
[Ответ][Цитата]
Luarvik.
Сообщений: 17287
На: Вечные философские вопросы
Добавлено: 11 дек 13 2:23
Замечено было не раз: "отягощенными злом" бывают чаще всего люди с не добрыми намерениями. Особенно долго они любят рассуждать о морали, о том что "нравственно" и что "правильно", что следует делать а чего не следует. В общем, ОНИ знают, как сделать так, чтобы всем было "хорошо". А хорошо ли это будет - для них не вопрос морали, а значит и обсуждению не подлежит.
[Ответ][Цитата]
ipr
Сообщений: 76
На: Вечные философские вопросы
Добавлено: 11 дек 13 2:23
Изменено: 11 дек 13 2:25
Цитата:
Автор: VpolevojТак, быть может, пока у нас есть на это время, решим ПЕРВУЮ ЗАДАЧУ - определимся с тем, как можно ИИ употребить ВО ЗЛО? А там, глядишь, и до второй задачи руки дойдут.

если от нас что то останется.
[Ответ][Цитата]
Vpolevoj
Сообщений: 1408
На: Вечные философские вопросы
Добавлено: 11 дек 13 2:32
Цитата:
Автор: Vpolevoj
В таком случае нам просто НЕОБХОДИМО решить задачу, как можно сделать ИИ НЕДРУЖЕСТВЕННЫМ. Пойти, так сказать, от противного.
Цитата:
Автор: Slava
Красиво рассуждаете
Только вот не знаю, кого вам в помощь пожелать
Ну и удачи уж точно не желаю
Прекрасная, в общем, демонстрация возможностей логики, не отягощенной смыслом

Зря вы так...

Это - не демонстрация возможностей логики, а - умение видеть сразу обе стороны у одной медали (у любой медали, как известно, есть ДВЕ стороны, и умение их видеть и различать, это - не логика, а, скорее - диалектика), и пусть даже не видеть (предположим, мы не видим второй стороны), но ДОГАДЫВАТЬСЯ-то о наличии второй стороны, мы все равно обязаны. Иначе у нас получится и вовсе уж глупость и неосмотрительность.

Так почему-бы нам не подумать и за противника тоже? Вы же, когда играете в шахматы, продумываете, как может сходить ваш противник? А значит, думаете не только за себя, но и за него тоже. Две стороны. Понимаете? И думать приходится сразу за обе одновременно. Да еще - на несколько ходов вперед. Иначе - мат неизбежен.

Считать, что все вокруг "ангелы" - глупо. Думать, что мы сделаем "ангела" - "дружественный ИИ" - и никто не сумеет им воспользоваться в своих злых целях - тоже глупость, причем, глупость вдвойне, поскольку эта позиция как бы оставляет нас самих "белыми и пушистыми": мы такие все из себя хорошие, делали и несли всем людям добро, а они - ай-яй-яй, такие нехорошие, взяли и обратили наше добро себе же во зло!

Нет уж! Думать и делать нужно сразу за ОБЕ СТОРОНЫ: и за "ангелов" и за "чертей" (раз уж я взялся за подобные аналогии). И чтобы "ангел" никогда не стал бы "чертом", но чтобы и "черт" тоже никогда не стал бы "ангелом". Как говорится: богу - богово, а дьяволу - дьяволово. Лучше пусть сразу будет взята нужная доля ответственности за получившийся результат. Чтобы не было потом, что "мы хотели как лучше, а получилось - как всегда". Чтобы, что хотели - то и получили.

Но для этого нам самим нужно понимать, и "что мы хочем", и что мы хотим, чтобы ПОЛУЧИЛОСЬ В ИТОГЕ (а это, как ты наверное и сам понимаешь - разные вещи). Вот, что мы хотим, чтобы у нас получилось в итоге, то мы и должны делать. Безо всяких излишних и ненужных придумок, оговорок и околесиц. Глядя на эту проблему ТРЕЗВЫМИ (то бишь, незамутненными) глазами.
[Ответ][Цитата]
Slava
Сообщений: 3070
На: Вечные философские вопросы
Добавлено: 11 дек 13 2:42
Цитата:
Автор: Vpolevoj

Зря вы так...


Не зря
И не надо думать, что, начиная это дело много лет назад, я не видел этих проблем, - видел и решал
И решение оказалось тривиальным - равнодоступность
Типа всеобщего образования и т.п.
К этому и надо стремиться, и это реально
А потом уже и ИИ не нужен или не страшен
[Ответ][Цитата]
rrr3
Сообщений: 11857
На: Вечные философские вопросы
Добавлено: 11 дек 13 3:07
Цитата:
Автор: Slava
...
И решение оказалось тривиальным - равнодоступность
Типа всеобщего образования и т.п.
К этому и надо стремиться, и это реально...

Ну как тут не согласиться....
[Ответ][Цитата]
Vpolevoj
Сообщений: 1408
На: Вечные философские вопросы
Добавлено: 11 дек 13 3:27
Цитата:
Автор: Slava
Не зря
И не надо думать, что, начиная это дело много лет назад, я не видел этих проблем, - видел и решал
И решение оказалось тривиальным - равнодоступность
Типа всеобщего образования и т.п.
К этому и надо стремиться, и это реально
А потом уже и ИИ не нужен или не страшен

Хорошо, коли так...

А "равнодоступность" - это равная доступность всех людей к ИИ (к Усилителю), или и доступность ИИ ко всем ресурсам доступным людям тоже? То есть, равность кого с кем?
[Ответ][Цитата]
Slava
Сообщений: 3070
На: Вечные философские вопросы
Добавлено: 11 дек 13 3:51
Цитата:
Автор: Vpolevoj


Хорошо, коли так...

А "равнодоступность" - это равная доступность всех людей к ИИ (к Усилителю), или и доступность ИИ ко всем ресурсам доступным людям тоже? То есть, равность кого с кем?


Я же сказал: всему - свое время
ИИ меня счас интересует лишь как угроза, котрую нужно по возможности устранить
Равнодоступность Усилителя для всех, как ни трудно к этому привыкать
[Ответ][Цитата]
гость
78.25.121.*
На: Вечные философские вопросы
Добавлено: 11 дек 13 3:55
L> В отличии от СИИ, который один и универсальный.)

совсем не факт. Метакогнитивные функции можно интегрировать по-разному. Иллюзию самосознания можно получить по-разному самосознание может 'функционировать' по-разному. Вы глубо не дали развить разговор об этом там где он был уместен.
Я(Я) это философский миф и фикция, идеализация. Это только одна из возможных философий. Я(Я,неЯ). Конечно, когда в теории метавычислений получается форма s(s,s), то есть возможность думать Я=неЯ, но по любому предикат двуместный.

Cознательный интеллект человека полиморфен, многорежимен, гетерогенен, отчего СИИ быть мономорфным?? самоприменимая сущность? но разве о самоприменимости говорится в одном смысле?? разве s не представимо как (s1,s2..sn), а форма s(s,s)
не растворится в переплетениях (..)((..),(..))..

А на практике есть по кр.мере 4 парадигмы УИ (AGI)..
[Ответ][Цитата]
гость
78.25.121.*
На: Вечные философские вопросы
Добавлено: 11 дек 13 4:13
поскольку неЯ бывают разные, то мы приходим к переплетению вида
(..)((..),(..),..(..)) и разным формам самоприменения.
[Ответ][Цитата]
Luarvik.
Сообщений: 17287
На: Вечные философские вопросы
Добавлено: 11 дек 13 5:05
"В отличии от СИИ, который один и универсальный."
Цитата:
Автор: 78.
совсем не факт. Метакогнитивные функции можно интегрировать по-разному. Иллюзию самосознания можно получить по-разному самосознание может 'функционировать' по-разному.

Не фактом является только его - СИИ - наличие.
Пора определиться, о какой "универсальности" идет речь - определитесь.
"Иллюзия..." ? И Вы этим удовлетворитесь ? Кому нужны эти "фокусы" ?
Вот именно ФУНКЦИОНИРОВАТЬ (!) по-разному.
Цитата:
Автор: 78.
Вы глубо не дали развить разговор об этом...

Глупо-неглупо - это только Ваша интерпретация в объеме Вашего разумения...
Развивайте.
(Мы можем вернуться к этому разговору в любое время - условия Вам известны: будете хулиганить - сотру все к ... такой-то матери, личностей не касаться и никого не поносить. (Хотите жить - умейте вертеться и изредка наступать СЕБЕ на горло, иначе наступят другие, что мы не раз уже здесь наблюдали.)
Цитата:
Автор: 78.
Я(Я) это философский миф и фикция, идеализация. Это только одна из возможных философий.

"Я" - не философия и не идеализация. Скорее наоборот - материализация.
Если это и миф, то такой, от которого нелегко отделаться - чревато последствиями...
А если еще постоянно помнить о его генезисе, то... руки по локоть в крови утонут.
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Вечные философские вопросы
Добавлено: 11 дек 13 6:31
Цитата:
Автор: гость
Любой компьютер всегда(!) будет способен генерировать только поток случайных чисел. Научные гипотезы разрабатывает интуиция человека, которая компьютеру "не по зубам".

Принцип MDL Риссанена и прочие варианты бритвы Оккама? При той же ширине охвата - обычно структурно более простая гипотеза окажется более теоретичной или более обобщённой. А комп проверять миллионы и миллиарды чисел и кучи гипотез - не замучается, "он же каменный" (как гласит совсем анекдот совсем не про компутер). И цикл перебора обычно начинается с наиболее простых комбинаций, т.е. приемлемое решение должно найтись довольно быстро (а более долгого перебора потребует выстраивание графика зависимости точности от сложности гипотезы - вернее, подтверждение по этому графику, что с какого-то момента усложнение гипотезы ничего количественно и качественно не улучшает).
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Вечные философские вопросы
Добавлено: 11 дек 13 6:31
Цитата:
Автор: гость
усли усилитель попадет в руки СИИ-разработчиков, то чему быть, того не миновать..
CИИ тоже озаботится усилителем чтобы обойти людей с усилителями..
кто кого 'иммобилизует' того мораль и тапки..

Ну вот, пришёл Хмур и всё опошлил
Нет никакого хэппи-энда, а есть вечный сюжет "пауки в банке"="останется только один бессмертный".
Нет чтобы издевнуться в духе Алёны the-mockturtle чем-то навроде "Шёл шестьдесят восьмой тур переговоров о присоединении нэзалэжного Татуина к Светлой Стороне Силы"
[Ответ][Цитата]
Victor G. Tsaregorodtsev
Сообщений: 3187
На: Вечные философские вопросы
Добавлено: 11 дек 13 6:34
Цитата:
Автор: niitrino
По поводу павильонов - да, они о них рассказали; - но и без этого, по самим записям все было видно. Они были на Луне юридически, для галочки, но никак не де-факто.

Мне интересно - как Вы докажете, что павильон привёл к капитуляции именно что по всем фронтам? Не по одному - а по всем? Почему павильон не разменялся только на одну уступку?
Напоминаю, что после "павильона" со стороны СССР в 1970-80е последовали:
1) начало экспортирования своей нефти - вместо присоединения к арабскому нефтяному эмбарго США и НАТО
2) согласие на западную концепцию прав человека
3) согласие на военное разоружение/разрядку.
Может, таки павильона не было и СССР проиграл именно в цивилизационной гонке (в первую очередь - гонке принципов управления и личной компетентности/инициативности)? Вспомним схему СШАшного полёта на Луну - сколько там было перестыковок, коррекций траектории,... Почему американские сценаристы не вспомнили, что СССР вскомлён на фразе "Не верю!" Станиславского?
[Ответ][Цитата]
гость
78.25.120.*
На: Вечные философские вопросы
Добавлено: 11 дек 13 6:47
L.>

Вы сказали о единственности и универсальности СИИ. И только потому, что эта сущность
не определенна в достаточной степени, сказано, что нельзя предполагать ее единственности и универсальность единственной формы пока не показано так или иначе
достаточно убедильно обратное. Сомнения должны трактоваться антидогматически.

Вы говорите в неопределенном модусе - значит и говорить нужно без категоричностей.
(бремя определения тут лежит на вас.)

Конечно, самосознание есть своего рода иллюзия.. мы и представление о себе имеем
далеко не полное и искаженное, и память нас подводит, и восприятие слабое и в способности самопонимания и понимания вообще мы очень ограничены. Самосознание есть
некая интерполяция ментального опыта, очень обобщенная и приблизительная. Данность
облака как объекта это тоже иллюзия. Дисфункции психики показывает иллюзорность
единственности, стабильности, инвариантности Я. Единство Я обеспечивается
'конструктивными решениями психики', а не метафизическим единством Я-формы. В нашей культуре к вам с детства относятся как к самомождественному и самоидентичному психически индивиду - в результате мы имеем стабилизированную культурой, языком, обществом психическую структуру.

Конечно, я не склонен на основе соотв. аналитических экспериментов, показывающих
опережающую нейродетерминацию сознательных решений, объявлять сознание и в 'естественном' состоянии эпифеноменом, но и полагать, что интеграция в форме
'самосознания' возможна в единственной и универсальной форме малообосновано.

да, разное функционирование подразумевает и различие соотв. структрур и разные
формы структурно-функциональных соответсвий. В результате стабилизируется некая
Я-система психики, которая продуцирует некое самоощущение, но у нас нет оснований
говорить о качественном единстве этих самощущений у нас всех. Единство в том, что
у всех в норме есть что-то, что мы называем Я, но это Я у нас разной структуры как
оно переменно и внутри себя самого.

Cмешная описка у меня - глубо, не глупо, а грубо. нет, меня не устраивает ваш произвол в редактировании темы, ваша несправедливость и двойные стандарты. Если тереть
кого-либо, то тереть и себя любимого в своей бестолковости. Вам говорят, что ваши
комментарии и есть переход на личности, а вы говорите, мол это не так, мне можно,
а будете возмущаться - сотру к чертовой бабушке. Cкорее это вас легче послать к черту,
чем позволить всяким малоадеватным персонажам наступать себе на горло. Да, желающих
наступать на горло тут много, всякого рода слабаков, у которых нет иного способа
действий. Чего мы тут не наблюдали - это когда чьи-то аргумениты были столь весомыми,
что они говорили сами за себя и мне приходилось признать cвою неправоту.

Сказано, не Я, а Я(Я) идеализация. Я если и материализация, то материализация неЯ.

Кажется, что если не помнить о генезисе Я, то именно тогда руки будут по локоть
в крови - вы уже успели отмыться от крови при секвенировании своего зоопарка? Я
вот никого никогда не резал, не зарезал, а вы УЖЕ явились палачом в угоду своему Я
(актуальному и не очень развитому).


[Ответ][Цитата]
 Стр.37 (38)1  ...  33  34  35  36  [37]  38<< < Пред. | След. > >>