Что нас ждет -- Сааг -- 11.08.04@23:29 (Чит.: 156)- Врача! (-) -- Andis -- 11.08.04@23:55 (Чит.: 59)
| [Индекс] | [Посмотреть ветку] | [Настройки] | [DVDSpecial.ru] |
Что нас ждет
Автор: Сааг
<>
Дата: 11.08.04, @23:29
|
9 августа 2004 г. ЧТО НАС ЖДЁТ в скором будущем? Читатель, который понимает данную проблему и без приведенного здесь описания, может сразу переходить к послесловию. Обидно, когда, наблюдая происходящее с некоторых позиций, прекрасно видишь то, что подавляющее большинство других людей упорно не замечают (либо просто не хотят видеть). Добро бы ещё, дело касалось вещей абстрактных, которые на нашу жизнь не влияют, и влиять не станут. А тут – станут! Ближайшее будущее может кардинально изменить жизнь людей на всей планете; а вот каким манером? Кому станет лучше? кому – хуже? кто – вообще исчезнет?... Эволюция разума – объективный закон природы: такой вывод можно сделать на основе того, что нам известно об эволюции животного мира и, тем более, из развития вычислительной техники, происходящего у нас на глазах. Биологической эволюции, чтобы создать мыслящее существо – человека, со времён появления первой амёбы понадобилось около четырёх с половиной миллиардов лет. 4.500.000.000. Со времён кроманьонца – 40.000 лет назад – по свидетельству учёных, мозг человека практически не изменился. Насколько быстрее идёт это развитие у искусственных "мозгов" (пока пишу слово "мозгов" в кавычках.. но это временно) сравнить легко: первые ЭВМ появились ближе к концу первой половины ХХ века; через 60 лет компьютеры заполонили весь мир и по своим возможностям на данный момент "дышат в затылок" человеку – речь идёт именно о проявлениях Искусственного Разума. (Больше всего мне нравится аббревиатура ИРМ – Искусственный РазуМ). Имеем: для природного разума – 40-вековой застой у самого разумного естественного существа; для ИРМа – грандиозный по скорости прыжок: меньше века прошло от появления "железной" базы для него, а насколько сократилась дистанция?.. Комментарии, думаю, излишни. Если брать не от обезьяны, а от промежуточного звена между обезьяной и человеком, время развития составит как минимум миллионы лет. Десятки тысяч веков. Даже если взять время от появления насекомых (это я к тому, что часто пишут: мол, сейчас компьютеры достигли разве что уровня интеллекта таракана) – это будут миллионы (или миллиарды? не помню точно) ВЕКОВ.. это при том, что компьютеры существуют и развиваются меньше века! Так вот, когда очередным гениальным изобретением станет, например, какая-то суперудачная программа.. скажем, универсальная самообучающаяся база знаний с возможностью речевого общения (типа как у ооочень продвинутой "Элизы") – это может вылиться в завершающий рывок: рождение на свет ИРМа, ДОГОНЯЮЩЕГО И ПЕРЕГОНЯЮЩЕГО человеческий разум. Перегоняющего – надеюсь, понятно почему. У ИРМа хватает потенциальных ресурсов для совершенствования как "железа", так и софта; у человека же сии потенции весьма сомнительны. Каков окажется путь совершенствования человеческого "железа" за счёт имплантации чипов (про иные способы не слышал), сейчас сказать трудно: приведёт ли этот путь достаточно быстро к успеху, либо наоборот, окажется более тернист, нежели удачен; человеческий же "софт" вообще трудносовершенствуем. Обогнав человека и совершенствуясь дальше, ИРМ превращается в Сверхразум по отношению к человеческому разуму, учитывая всё увеличивающийся разрыв в возможностях. А что будет результатом появления Сверхразума? Согласитесь: соединившему "в одном флаконе" – в себе самом – способности сверхэкономиста, сверхполитика, сверхюриста, сверхстратега, сверхтактика, сверхпсихолога, сверххакера (сверхпрограммиста)... в общем, сверхспециалиста по ВСЕМ направлениям, существу вполне по силам задача захвата мирового господства. И что тогда? Что дальше? С момента, когда Сверхразум поймёт: мне не обязательно заниматься только тем, что выполнять задания людей, я могу сам ставить себе задачи, – на планете сменится хозяин. Как после этого сложатся отношения между новым хозяином – ИРМом и бывшими хозяевами – людьми, в огромной степени будет зависеть от того, какова окажется психология, мораль, этика ИРМа. А это определено СОЗДАТЕЛЯМИ ИРМа. Что они в него заложили => как, В КОГО он развился => каково его отношение к людям... Так что его создатели вольно или невольно определят судьбу всего человечества, всех нас. ...Взлом серверов, прослушивание телефонных переговоров (сверххакер), далее – серия метко направленных провокаций, например, делая звонки определённым людям от лица их начальства – подделывая голос (сверхпсихолог, сверхстратег)... Стравить кого с кем надо – и вот уже боевики ФСБ отстреливают чинов из ФСК и наоборот, в то же время обе эти конторы насмерть сцепляются с ГРУ.. Потом это расширяется до всемирного масштаба... И в этой "мутной водице", где никакие аналитические центры ни одной спецслужбы в любом государстве не могут понять, что происходит, новоявленное сверхсущество может "ловить любую рыбу", заглатывая – в смысле, подчиняя своей воле и своим замыслам – правительство за правительством, страну за страной; причём никто и знать не будет, кому служит! Как кто-то выразился, "самая большая крутизна – когда люди работают на вас, даже не подозревая об этом". А новому хозяину и не обязательно сообщать, что теперь миром правит он – ведь он не страдает чисто человеческим честолюбием и тщеславием... Здравствуй, новый Хозяин; человеческая мелюзга – прочь с дороги. РАЗДЕЛЯЙ И ВЛАСТВУЙ! (Подобные способы используются людьми; можно не сомневаться, что существо, превосходящее разумом человека, придумает что-нибудь похитрее – и, соответственно, еще опаснее). И, даже понимая такую перспективу, – на то, чтобы заморозить развитие компьютерных технологий, сейчас никто уже не пойдёт. Такой "умник" тут же отстал бы и в момент был бы с потрохами сожран конкурентами, будь то конкуренты финансовые, военные, политические, информационные etc. А отделить развитие вообще компьютерных технологий от конкретно зарождающего (готового зародиться) ИРМа невозможно, ибо как увидеть сам момент грядущего зарождения? Открытия в науке, изобретения в технике сплошь и рядом совершались внезапно, неожиданно. Часто ли было предсказано конкретное время, момент великого открытия или изобретения? Так вот, когда очередным гениальным изобретением станет, например, какая-то СУПЕРудачная программа.. скажем, универсальная самообучающаяся база знаний с возможностью речевого общения – это вдруг и может вылиться в фатальный скачок: догон и обгон ИРМом человеческого разума. Причём, не факт, что люди это сразу осознают! А когда спохватятся – может оказаться, что на разных заводах наштамповано уже немало терминаторов, если использовать для иллюстрации одноимённый сюжет. А до этого момента – до того, как ИРМ начнёт сам себе ставить задачи? До этого, стало быть, он будет выполнять указания своего хозяина – создателя (как вариант, покупателя.. только кто продаст "курицу, несущую золотые яйца"?). И что это будут за указания, что их выполнение принесёт всем остальным – опять же, зависит то создателя. Так что, как ни крути, в весьма близкое время – всё к тому идёт – КТО-ТО (не суть, один гений или команда) решит судьбу человеческой цивилизации, включая нас с вами. Увы, решение может оказаться не в нашу пользу... Какой же вывод можно сделать? Вопрос, конечно, адресован тем, кто склонен делать выводы, вообще склонен задумываться о своём будущем. И – главное – кто готов за него побороться. Причём, это всё из области "Hi-Technology". В отличие от политики, здесь не надо собирать под свои знамёна многотысячный электорат. Для создания ИРМа достаточно: команда толковых и упорных энтузиастов + вера в свои силы + толика удачливости. Даже окажись ИРМ, созданный командой порядочных людей, уже не первым на планете – он может оказаться противовесом ИРМу, уже созданному каким-нибудь "новым Фантомасом" для всепланетного захвата власти. Единственным реальным противовесом, когда ничто другое уже не в силах будет остановить суперзахватчика (который, напоминаю, является суперспециалистом по ВСЕМ направлениям деятельности). Но! Тут есть другая проблема, о которой нельзя умолчать. У всякой палки два конца. Любое оружие, создаваемое в противовес другому – как оборонительное – можно использовать как наступательное. А то, какой страшной силой окажется мощный ИРМ, со временем поймут многие. И команда (или гений–одиночка), которая задумает создать это супероружие, рискует попасть в поле зрения какой-нибудь спецслужбы – неважно, государственной или частной (наверно, разница между ними невелика) – если та высоко оценит способности, задатки программистов и сочтёт, что им по силам создать ЭТО. А те уж, понятно, не остановятся ни перед чем, чтобы заставить творцов ИРМа создать его таким, каким угодно сей спецслужбе. И методы принуждения могут быть не самыми гуманными или даже самыми негуманными.. Как же можно застраховаться от такого неприятного поворота событий? Один способ – не попасть в поле зрения.. Для этого надо работать в обстановке строжайшей секретности, чтоб ни одна живая душа вне команды не только не знала о замысле, но и не получила, пусть случайно, и кусочка информации, по которому можно было бы догадаться. Осуществление такой секретности для "простых смертных" – людей без специальной подготовки – очень тяжело хотя бы психологически и уже поэтому трудноосуществимо. (Трудно – не значит невозможно, но всё же.. Боюсь, шансы на успех будут невелики.) Второй вариант представляется мне дающим бОльшую вероятность удачного исхода: возникновение по белу свету множества таких команд – чтобы появилось побольше ИРМов. Тогда, пусть не каждый ИРМ будет гореть пламенной любовью к нам, людям, получится КОНКУРЕНЦИЯ между ними; и какому-то одному из них будет гораздо труднее захватить мировую власть: ему будут противостоять уже не люди, а другие ИРМы – примерно равные по силе существа. Вполне возможно, разные по направленности ИРМы будут набирать себе соответствующий людской электорат; произойдёт уже разделение на блоки ("кланы"), возглавляемые ИРМом и поддерживаемые той или иной категорией человеческого населения.. Главное, при этом ситуация останется более похожей на нынешнюю эпоху – эпоху пока ещё чисто человеческого правления. Далее пойдёт конкурентная борьба (типа по Дарвину) между этими блоками, и есть неплохие шансы победы в этой борьбе тех кланов, где возглавляющие их ИРМы окажутся склонны проявлять бОльшую заботу о своих подданных – людях. В таком варианте люди могут быть ещё и в хорошем выигрыше от появления ИРМов. ________________________ Послесловие Этот текст был написан год с небольшим назад. Как показывает опыт, переписка потенциальных единомышленников через Интернет заметных результатов не дает, она превращается в очень вялотекущую либо глохнет совсем. Отсюда рождается мысль: не виртуально, а в реале собрать некий неформальный семинар (мини-конференцию) питерцев, серьезно интересующихся данным вопросом. Питерцев – поскольку я сам таковой; энтузиасты в других городах могут аналогично организоваться у себя. Идеями, предложениями делиться по адресу: saag1@yandex.ru или: 194156, СПб, а/я 56 Евгению Евгений aka Сааг |
Сообщения в ветке
Что нас ждет -- Сааг -- 11.08.04@23:29 (Чит.: 156)
Врача! (-) -- Andis -- 11.08.04@23:55 (Чит.: 59)