GotAI.NET - Форум - Искусственный интеллект

Цитата:

Автор: VPR

Ч.1
...Пока чиновники играют со мной в "футбол" по поводу секретности, гендиректор OpenAI С. Альтман, возомнивший себя пророком, сочинил опус о его вИдении нашего ИИ-будущего. Начал он "за здравие" - мы близимся к созданию искусственного сверхразума (тут я бы возразил, что цифровые монстры, обыгрывающие людей в интеллектуальные игры, созданы уже давно). Далее весьма сомнительный тезис - якобы "самая сложная часть работы уже сделана", а в качестве самых "продвинутых" систем приведены GPT-4 и o3, которые вообще не могут заменить человека. И, наконец, такие пассажи, как "завтра будет (намного) лучше, чем вчера" звучат как давно скомпрометированные заклинания.

...А вот интересное: "в 2026, вероятно, появятся системы, способные выявлять новые идеи" - значит, мне недолго осталось до "выявления" моих идей? Об увеличении способностей человека с помощью ИИ написано примерно то же, что можно сказать о мощного тракторе. Для 2030-х годов поставлен знак равенства между интеллектом и.. энергией (в моём-то понимании как раз наоборот) - для Альтмана решение проблем - наращивание "мощностей" прожорливого "интеллекта", но не его качества, что это? - откровенная тупость самой мощной ИИ-корпорации (и всех прочих, кстати) или.. дымовая завеса, призванная прикрыть, возможно, реальные открытия (как у меня)?

...Далее следует неуклюжая попытка заменить предсказанную "технологическую сингулярность" (ТС) "рутинным" прогрессом, растянутым на века, хотя допускает ускорение технологического прогресса в десятки раз, в том числе за счёт "рекурсивного самосовершенствования" систем ИИ и вовлечение в этот прогресс роботов вместо людей - ну, и на том спасибо! А вот тезис о том, что люди способны адаптироваться к ТС, ничем не обоснован (более вероятно, что саму ТС (её темпы) будут адаптированы к "человеческому фактору"). "Большие перемены" в политике предсказываются лишь через десятилетия - это либо попытка успокоить общую бдительность, либо обычная для США привычка "почивать на лаврах" (вспомним атомные проекты !).

...Очень противоречивы тезисы Альтмана о перечне проблем, которые предстоит решить - выделяя "проблемы безопасности, технической и социальной", он не замечает базовую проблему создания Сильного Биоподобного Интеллекта, от решения которой будут КАРДИНАЛЬНО зависеть и способы решения проблем безопасности. Если "суперинтеллект" будет слабоват, то тезисы о широком доступе к передовым технологиям с привычным укладом частной собственности и государственных надстроек, кажется, сможет всех "убаюкать". Но с появлением настоящего "сверхразума" стоит вспомнить "закон неравномерного развития" (Л.) при империализме и его последствия в виде непредсказуемых войн - если не будет альтернативы.

...Интересен пассаж Альтмана об "идейщиках" (теоретиках) - о том, что сейчас пробил их (то есть и мой ?) час. А вот мысль о том, что "нужно плавно, без происшествий, двигаться к суперинтеллекту" звучит примерно как "давайте плавно, без происшествий, наращивать свои ракетно-ядерные потенциалы", да, не забудьте - с широким доступом к этой технологии от стран до отдельных личностей. Обещания новых профессий "через тысячу лет" звучат успокаивающе, хотя никто не знает, что будет уже через 20 лет (пожалуй, единственная надежда - тот факт, что мы, люди, всегда будем высшей ценностью независимо от наших способностей (что наблюдается уже сейчас на каждом шагу, я имею в виду - ценят независимо от способностей..))..

...Общий итог: я с Альтманом на одной стороне, но не могу разобраться - то ли он слишком наивен, то ли.. слишком хитёр ??

Ч.2
...Примеры решения "проблем", кои досаждают нам в отсутствие Сильного ИИ (возьмём чисто технические, опуская склонность человечества к самоубийству, государственные НЕ-свободы, и т.п.), итак:

...Сейчас "прогресс" во многом измеряется потребляемой энергией и числом АТС - этими уродливыми фетишами благосостояния и свободы; но если благодаря СИИ число поездок резко сократится (во многом "цифра" уже сейчас отменила необходимость в физических перемещениях, но представьте себе андроида (конечно, "в первом приближении"), способного (отчасти - благодаря связи с системами СИИ) обретать любую специальности - вот он придёт на дом (или, скорее, уже будет в доме) к кому-то как сантехних, к кому-то как врач, кому-то доставит заказ..), а вместо автомонстров появятся стандартные (из супер-материалов) общественные АТС (долой автохлам с улиц и дворов!) чуть тяжелее мопедов (в том числе потому что автопилоты СИИ сведут число ДТП к нулю), циркулирующие по "фрактальному" принципу с незаметными "фрактальными" пересадками, то необходимая энергия уменьшится многократно (вдобавок к экономии, которую сулит переход к электрокарам), решится также проблема вреда от износа автошин..

...Итак, мизерное потребление энергии, отсутствие шума, загрязнений, ДТП, "пробок". Правда, сейчас в личном транспорте ценится его автономность, например, возможность скитаться по бездорожью, но.. не логичнее было бы проводить эти скитания "на своих двоих" (туризм, "походы"..) или с помощью лёгких крыльев. Могу понять использование универсальных сверхмощных АТС в спортивном плане, и, поверьте, СИИ будет по силам снабдить каждого "идиота" самым крутым трансформером, да хоть на термоядерной тяге, и, наверно, на Земле найдётся кусочек для таких любителей экстрима, но большинство предпочтёт виртуальные путешествия, ещё более "крутые", захватывающие, позволяющие мгновенно менять по своему желанию условия "игры", осуществлять путешествия не только в пространстве, но и во времени, раскрывать мир во всех его масштабах, разнообразии, смыслах.. Конечно, если кто не захочет видеть новые формы "прогресса", он всегда может найти для себя "архаичную" общину, где эти формы хотя бы не незаметны, а то и вовсе отсутствуют..

...И это только один, самый простой, из многочисленных аспектов НОВОГО МИРА, показывающий всю глубину непонимания реальных, а не "пролоббированных" кем-то проблем Человечества.

...Безопасность, предсказуемость симбиоза людей с системами СИИ - отдельный вопрос (...). На мой взгляд, недопустимо изменение "природы" людей, возможна также консервация имеющегося "генетического" разнообразия (с осторожным изъятием лишь однозначно дефектных генов), а также целей и смысла жизни в человеко-машинной формации (постижение мира через естественные целевые функционалы людей, которые, впрочем, у человека в огромной мере формируются обществом, окружением). На мой взгляд, недопустима ни биологическая, ни общественно-духовная деградация людей, ведущая к массовому отказу от постижения мира во всей его полноте (отказ может быть в форме ухода в, якобы, "духовное", либо, наоборот, в чисто животные инстинкты, и др.).

...И, разумеется, к чёрту всякий СИИ, если он не принесёт людям счастья! - могут ли "блага", "возможности", "свободы", стабильность и предсказуемость заменить людям то счастье, что даётся им в непредсказуемой игре их судеб?, в уважении или восхищении других людей их трудом, мужеством и иными добродетелями, которые способны проявиться только в "несовершенном" обществе, без плотной опеки его "ангелов", по сути, отнимающих свободу выбора, свободу воли? Может быть, нам лучше "остановить мгновение" между тёмным прошлым и неизвестным будущим? - но, думаю, эти вопросы легко решаемы, если отношения между людьми в значительной мере перейдут в "игровой формат", уже давно используемый, примеры - от гладиаторских боёв до футбола и состязаний, от "культурного" туризма до альпинизма, от действий и отношений с сексуальным подтекстом до.. семьи..

...Так что переход человеческой цивилизации на неизмеримо более высокую ступень развития кое-кто может даже и не заметить..

что вы предлагаете?

Форум: Проблемы искусственного интеллекта