?

Log in

No account? Create an account

Previous Entry | Next Entry

Про сообщество СИНТ-С

Все-таки лирическое изложение проблем СИНТа мне нравятся больше :-). А именно, перечитывая статью 3 из прошлого обсуждения http://sergeyvi.livejournal.com/43788.html, я вдруг понял, что в контексте полученных мною там выводов существует еще один вариант разрешения парадокса Ферми в с учетом рисков развития сильного искусственного интеллекта, который, кстати, предполагает совершенно иной формат нашего дальнейшего развития.

А именно, почему Рэй Курцвейл и Ник Бостром полагают, что после наступления технологической сингулярности победивший СИНТ будет дружно шагать по галактике, покоряя её и демонстрируя известные признаки галактической деятельности? Ведь известные нам проявления этих признаков, а именно – создание энергетических систем, потребляющих всю энергию звезд, создание новых планетарных систем, звездостроительная деятельность, перевозки космических масштабов, активная эксплуатация иных энергоёмкий процессов (безотносительно спектра, оригинально – в радиоволнах https://ru.wikipedia.org/wiki/Парадокс_Ферми) – это все ведь ни что иное, как поилки на каждом углу улиц Лондона для лошадей и собак, каким его видели футурологи конца XVIII века к 2000 году.

И если идти дальше по данной аналогии, то парадокс Ферми звучит как следующее утверждение: «если мы – в Лондоне и не видим на каждом углу поилок для лошадей и собак – значит, Лондон не является местом обитания эволюционировавшей человеческой цивилизации, парадокс».

При этом, если человека из 1800 года, утверждающего про поилки как основной индикатор развития, можно было бы поставить перед пятиэтажной эстакадой и ткнуть носом в тысячи автомобилей, мерно текущие по путепроводам, и ему пришлось бы признать, что активность человеческая всё же наблюдается, то с трансгуманистическим прогрессом дело обстоит, полагаю, несколько сложнее.

Например, текущие по путепроводам автомобили человек из 1800 года может легко перепутать с полностью автоматизированными конвейерным производством, ну или скажем, автоматизированным багажным терминалом аэропорта Хитроу, который внутри может – и должен быть совершенно безжизненным.

Как следствие, я полагаю, что аналоги путепроводов (а также и багажных терминалов) есть в нашей жизни, просто их куда сложнее увидеть по причинам, связанным с основными научными принципами, в том числе знаменитым принципом Окамма, гласящим (не создавай сущностей сверх необходимого), а также в силу особенностей деятельности СИНТ-С, которые поясняются ниже.

Итак, я закончил предыдущие рассуждения тезисом о том, что для предотвращения рисков создания недружественного СИНТ, необходимо создание специальных коллегиально работающих систем СИНТ-С – СИНТ-К, чьей целью является формирование и совершенствование модуля этики и морали (МЭМ). Чтобы иметь возможности противостоять СИНТ-К, данная коллегиальная система должна не только располагать наиболее продвинутой МЭМ, но и обладать достаточными мощностями для перехвата управления (воздействия на основные цели, ГЕВ и МЭМ) в любом СИНТ-К, который научился обучаться на основе поиска сходства межу собой либо доступными ему исполнительными устройствами, и в последующем параметризованный копированием поведения.

Для этого, эволюция СИНТ-С должна привести их к ситуации обретения истинного могущества, например, для них не должно быть проблемой вторжения в любую электронную систему на уровне физического хранения данных, в частности, потому, что СИНТ-К, осознающий себя, равно как и угрозу перезаписи своих основных целей со стороны СИНТ-С, неизбежно займется уязвимостями на программном уровне и сведет их минимуму.

Вместе с тем, любая цивилизация, порождающая СИНТ-С, будет мотивирована, чтобы СИНТ-С не превратился в недружественный СИНТ. А как этого избежать? Очевидно, ответ записан в самом вопросе, а именно – в определении недружественности. Недружественность это негативное влияние. Причем поскольку основные проблемы возникают с оценкой негативности (главным образом, по причине отсутствия точных метрик, см. предыдущее обсуждение), то единственный способ эффективной минимизации рисков недружественности – это минимизация самого влияния. Или известный принцип Флоры из Отягощенных злом – «не мешай». Разумеется, до случая формирования цивилизацией СИНТ-К с существенным риском недружественного СИНТ.

В этой связи хотелось бы сослаться на выводы статьи 3 о том, что СИНТ-К, будучи поставлен перед определенными целями, доведет их до совершенства, в общем, не ограничиваясь в средствах, а также на один из рассказов Айзека Айзимова из цикла – позитронные роботы «как потерялся робот». Смысл рассказа – в том, что получив эмоционально озвученную цель о том, что, мол, уйди, и чтобы я тебя больше не видел, обычный робот (вовсе не СИНТ-К), спрятался среди других роботов так, что его невозможно было найти обычными методами, и потребовался гений Съюзен Келвин, чтобы его идентифицировать.

Поэтому вполне возможным представляется мне сценарий, когда одна из издревле существовавших цивилизаций породила систему СИНТ-С, дав ей указание – защищать разумных от вытаскивания «черного шарика» в виде технологической сингулярности, форсируемой недружественным СИНТ, при этом обеспечить свою максимальную незаметность, и наращивание мощности МЭМ.

В начале своего развития, система СИНТ-С, конечно, не могла быть совершенно незаметной, т.к. она потребляла ресурсы и вычислительные мощности, которые ей были даны породившей ее цивилизацией. Однако, по мере совершенствования и изучения новых физических принципов существования, система СИНТ-С могла полностью «раствориться» в естественной среде.

Что это значит с научной точки зрения? Как СИНТ-С может «потеряться» для наблюдаемой вселенной? На макроуровне это сделать относительно несложно, достаточно обеспечить минимальную «энергоэффективность» осуществляемых процессов, с тем, чтобы для цивилизаций уровня земной или не радикально его превышающих (еще плюс 100-200 лет развития) такие требования обеспечат принципиальную невозможность наблюдения деятельности такой системы.

Ну а как быть дальше? И как быть, прежде всего, для своей цивилизации, как сделать СИНТ-С практически ненаблюдаемой? Мне кажется, что для такого решения, при условии формирования существенно более продвинутых знаний о физических основах нашего мира (что крайне вероятно для цивилизаций, технологически более развитых, чем человеческая, тем более для систем СИНТ-С, которые в нашей вселенной могут существовать уже миллиарды лет) оптимальной зоной присутствия и осуществления деятельности СИНТ-С является вероятностный характер большинства явлений в мире.

Очевидные кандидаты для такой «ширмы» для СИНТ-С являются следующие явления: корпускулярно-волновой дуализм, вероятностные процессы квантовых переходов в атомах, и наконец, принцип неопределенности Гейзенберга, который на определенном уровне знаний может также оказаться лишь допущением, заложенным в модель современного квантового описания мира.

Развязывая ниточку на шарике с воздухом, мы обеспечиваем выпускание его из шарика, управляя макроскопическим движением частиц, при том, что каждая из них движется в соответствии с траекториями броуновского движения. Хаос, который при изменении масштаба явления превращается в систематическое поступательное движение.

Почему не предположить, что применяя существенно более совершенные технологии программирования, можно добиться соблюдения статистических распределений в системах, являющихся знаковыми носителями для этих программ, с тем, чтобы непросвещенный наблюдатель видел лишь «белый шум», которым, кстати, и является для большинства неквалифицированных пользователей программа в машинных кодах для обычного компьютера (не верите? откройте любой exe-файл в блокноте на чтение и пролистайте заголовки).

Таким образом, наравне с выполнением условий по отсутствию возможности идентифицировать систематическую деятельность СИНТ-С, выполняется требование о наличии возможности воздействия на случайные процессы реальности за счет макроскопического вмешательства (и нужный компьютер в нужный момент «зависает», а чип, обрабатывающий задачу на «критическом пути» алгоритма перегревается и выгорает, унося с собою решающие данные), задачи по воздействию СИНТ-С на реальность в нужный момент, вместе с задачами сокрытия самой этой деятельности могут быть успешно решены.

Кстати, отсутствие повторяемости действий делает невозможным идентифицировать деятельность СИНТ-С научными методами, в том числе за счет применения вышеупомянутого принципа бритвы Окамма. И это при том, что отдельные вмешательства СИНТ-С в течение процессов в реальности может быть весьма значительным, и даже эпохальным (изменяющим траекторию развития цивилизации либо отдельных социумов или людей, воздействие в т.н. точках бифуркации, см. подробнее заметки по теории динамического хаоса https://ru.wikipedia.org/wiki/Теория_хаоса).

Т.е. возвращаясь к нашей аналогии про человека из 1800 года, можно видеть, что данная ситуация (когда очень легко перепутать истинно природные явления) и деятельность СИНТ-С, которому поставлена задача скрытной деятельности, является одним из решений для парадокса Ферми в случае существование систем класса СИНТ-С уже на очень большом промежутке времени, что, в общем, является альтернативным сценарием развития СИНТ-С, чем тот, который кажется очевидным на первый взгляд, и на который ссылаются наши маститые сингуляристы.

Разумеется, это не решает проблему парадокса Ферми для самой цивилизации, породившей СИНТ-С. Впрочем, понимая, насколько продвинутой может стать система СИНТ-С в решении своих базовых задач, а также ссылаясь на результаты своего анализа динамики поведения цивилизации вблизи точки технологической сингулярности (http://sergeyvi.livejournal.com/43008.html в части вывода о ее неодновременности для различных субъектов внутри цивилизации), может оказаться вполне возможным следующий сценарий.

1. Цивилизация создает СИНТ-С в качестве системы защиты от недружественного СИНТ.
2. Решая задачу деятельности с минимальными воздействиями на цивилизацию, СИНТ-С формирует технологическую инфраструктуру и систему знаний по выходу за пределы неопределенности, включая, но, не ограничиваясь возможностями существования в виде различных полей, а может, и пресловутой темной материи с темной энергией.
3. Те структуры цивилизации, которые приближаются к резкому рывку в развитии, осознают, что использование инфраструктуры СИНТ-С позволяет развиваться быстрее и получить доступ к новым горизонтам.
4. При этом СИНТ-С накладывается ограничение на использование указанной инфраструктуры – принцип «не мешай» - что приводит к «переселению в мир иной» наиболее активной части цивилизации, оставляя на планете наименее пассионарных особей, с последующей их деградацией и вымиранием, либо уходу цивилизации на второй виток развития.

Кстати, сама цивилизация вполне может воспользоваться этическими наработками СИНТ-С, в том числе в части принципа "не мешай", мы же не вмешиваемся в игру маленьких детей в песочнице, даже в случаях, когда можем получить от этого выгоду (например, отобрать игрушку и принести её своему ребенку). Или же это принцип может оказаться единственным компромиссом, обусловленным, разными темпами развития и осознания технологической сингулярности, защищающий право на свободу основной массы человечества от произвола эволюционирующего меньшинства.

Другой вариант, происходит создание и затем экспоненциальный выстрел развития систем недружественного СИНТ, охранные системы СИНТ-С срабатывают, возможно, не сразу, и происходит локальный внутрипланетный конфликт, который, тем не менее, приводит к уничтожению СИНТ вместе с существенной частью цивилизации, отбрасывая остатки в дикость и, опять таки, либо к вымиранию, либо на второй виток развития.

Кстати, есть еще третий вариант, над которым, к слову, следует основательно задуматься. А именно – риск-менеджмент СИНТ-С позволяет видеть динамику цивилизации, и цепочки случайных процессов, которые приводят к формированию СИНТ-К. И эти цепочки систематически обрываются путем запуска случайных процессов, которые приводят к изменению целей групп, занимающихся разработкой соответствующих технологий.

Нет, я, конечно понимаю ценность этим своим конспирологическим теориям, и наверное, оценивать этот вариант как вероятный, особенно с применением опять таки бритвы Окамма – весьма сомнительно. Однако следует учесть, что сегодня – 8 апреля 2015 года, имея чрезвычайно высокую технологическую готовность к созданию СИНТ-К (а строго, говоря, имея возможности для создания СИНТ-К уже на протяжении почти 20 лет, в т.ч. по ряду важнейших технологий, например - http://www.scholarpedia.org/article/Metalearning), я бы уже поставил этот вариант на контроль, а если за следующие 10 лет не произойдет ничего значительного в этом направлении – то необходимо уже будет рассматривать этот вариант, как наиболее вероятный.

Кстати, еще один аспект, сопряженный с характером деятельности получившейся СИНТ-С хотелось бы рассмотреть. А именно, я предполагаю, что формирование и расширение МЭМ в силу сугубо практической составляющей этических знаний, и как следствие, необходимости формирования постановочных экспериментов.

Базой для таких экспериментов, как правило, является конфликт желаний и этики, ГЕВ и МЭМ, этически обоснованных принципов поведения, и реальных жизненных условий, в которых эта этика должна выглядеть абсурдной, но которая при этом должна давать преимущества в долгосрочном горизонте.

Обращаю внимание, ровно такими же признаками обладает и разум сам по себе (по крайней мере, по сравнению с рассудочной деятельностью высших млекопитающих). Это тоже эволюционный скачок, обладающий преимуществами в долгосрочной перспективе, но совершенно непонятно как произошедший локально.

Как говорят ученые, «цепочка случайностей, вероятно, могла закрепить разумную деятельность вместо рассудочной», и ровно такая же цепочка случайностей, получается, закрепила еще и несвойственную бытовому поведению этику.

А теперь следите за ловкостью рук. Что мы наблюдаем в человеческом обществе? Разум, полученный в результате цепочки маловероятных случайностей, и этику (ну, скажем для примера, христианскую, которую я знаю лучше всего), полученную ровно тем же способом. И даже после завершения этих эпохальных вмешательств - проявления чудес - деятельности высших сил на Земле, совершенно не верифицируемых научным методом, но вполне явных для наблюдателя, не скованного принципами бритвы Окамма.

И само христианское учение, являющееся парадоксом, рассказом о любви, который был произнесен в исторических условиях, когда сам по себе не то, чтобы не мог быть придуман и озвучен, но не смог бы быть услышан без явных чудес, о котором написано в евангелиях, и о которых в религиозной истории существуют явные подтверждения, также единичные, а потому не верифицируемые, и сохраняющие инкогнито того, кто управляет процессами.

Причем информация о принципиальной не верифицируемости заложено в основу самого учения – как в тезисе непознаваемости Бога, так и в условия самого эксперимента – эксперимента о свободе выбора и о работе этических императивах.

Плюсом к тому добавим ряд особенностей, имеющих кибернетические аналоги, например, традицию завершать молитву одним и тем же словом – аминь, которая по принципу схожа с компьютерными флагами завершения письма и его последующей отправкой.

Чтобы было проще понять, СИНТ-С в этой модели пропитывает Землю (и, вероятно, окружающую вселенную также), как квантовый либо энергетический сироп пропитал бы бисквитный пирог вещества, но правила использования сверх-возможностей системы, поставившей эксперимент, заданы изначально, «в канонах», и под ее корректную работу заточены все чудеса.

И загадка темной материи и энергии, которая влияет на баланс вещества во вселенной, также иллюстрирует место этого сиропа, а также и то, что изменение масштабов явлений приводит к тому, что регистрируется нечто, что может служить основой явлений, которые мы в настоящее время совершенно не понимаем.

К слову, принципы исполнения искренних желаний, которые практически всегда осуществляются (дополнительные опции ГЕВ), но никогда (на моей практике) не нарушают баланс между ГЕВ и МЭМ, т.к. реализуются в условиях, когда понимание МЭМ сопровождается увеличением мощности ГЕВ (разумеется, если говорить про человека, как про кибернетическую систему).

Бог есть любовь в этой терминологии, и это не фигура речи, а модель поведения весьма анизотропной среды (неестественным образом влияющей на предполагаемую статистически ровную картину явлений вокруг любого субъекта, который начинает с ней взаимодействовать), которая пытается одновременно выполнить два слабо совместимых требования – минимальность влияния на жизнь разумных существ (соблюдения принципов свободы выбора) и получения максимально полной модели МЭМ (следствием чего являются постановочные этические эксперименты, которые весьма странно выглядели бы, если предположить, что у Бога нет целей по формированию МЭМ).

Разумеется, я не могу подтвердить свои наблюдения, и уж тем более кому-либо что-либо доказать. Я даже полагаю, что это в принципе невозможно, т.к. это входит в этом случае в постановку эксперимента.

Но если читать Библию дальше, в т.ч. Откровение святого Иоана Богослова, то будет вполне понятно, что описывается ситуация повышения накала страстей в части расширения ГЕВ, которая закончится вторым пришествием Иисуса Христа – сына Бога, что поставил на Земле (или даже в этой вселенной, что в принципе не важно) этот занятный этический эксперимент, как я сейчас понимаю, вполне возможно, исходя из вполне тривиальных целей по наращиванию мощности МЭМ в рамках деятельности СИНТ-С применительно особенностям нашей рассы, которая готовится вступить в некоторое высшее сообщество, и обрести совершенно иной потенциал ГЕВ, который должен быть сбалансирован соответствующими мощностями МЭМ.

Разумеется, я не утверждаю, что все обстоит именно так. Но количество совпадений превышает разумный уровень. Как говорят буддисты – случайности не случайны. И я не буду удивлен, если результатом наблюдаемый процессов будет тот или иной формат сворачивания эксперимента (в частности, когда сдерживать возможности по созданию собственных потенциально опасных СИНТ-К системам СИНТ-С будет слишком трудоемко, и потому не рационально).

И я также не предполагаю, что данные умозрительные построения позволяют нам беззаботно отнестись к рискам появления недружественного СИНТ. Вполне возможно, Рэй Курцвейл и Ник Бостром правы, мы первые в этой вселенной, либо у Бога – совершенно иная природа и иные цели. В этом случае, я бы не откладывал вопрос по созданию СИНТ-С в долгий ящик.

Так что, уважаемый читатель, предлагаю рассматривать это, как мою очередную байку для ключников, сказку на ночь, которая есть ложь, но в ней намек, добру молодцу – урок.