sergeyvi (sergeyvi) wrote,
sergeyvi
sergeyvi

Про сообщество СИНТ-С

Все-таки лирическое изложение проблем СИНТа мне нравятся больше :-). А именно, перечитывая статью 3 из прошлого обсуждения http://sergeyvi.livejournal.com/43788.html, я вдруг понял, что в контексте полученных мною там выводов существует еще один вариант разрешения парадокса Ферми в с учетом рисков развития сильного искусственного интеллекта, который, кстати, предполагает совершенно иной формат нашего дальнейшего развития.

А именно, почему Рэй Курцвейл и Ник Бостром полагают, что после наступления технологической сингулярности победивший СИНТ будет дружно шагать по галактике, покоряя её и демонстрируя известные признаки галактической деятельности? Ведь известные нам проявления этих признаков, а именно – создание энергетических систем, потребляющих всю энергию звезд, создание новых планетарных систем, звездостроительная деятельность, перевозки космических масштабов, активная эксплуатация иных энергоёмкий процессов (безотносительно спектра, оригинально – в радиоволнах https://ru.wikipedia.org/wiki/Парадокс_Ферми) – это все ведь ни что иное, как поилки на каждом углу улиц Лондона для лошадей и собак, каким его видели футурологи конца XVIII века к 2000 году.

И если идти дальше по данной аналогии, то парадокс Ферми звучит как следующее утверждение: «если мы – в Лондоне и не видим на каждом углу поилок для лошадей и собак – значит, Лондон не является местом обитания эволюционировавшей человеческой цивилизации, парадокс».

При этом, если человека из 1800 года, утверждающего про поилки как основной индикатор развития, можно было бы поставить перед пятиэтажной эстакадой и ткнуть носом в тысячи автомобилей, мерно текущие по путепроводам, и ему пришлось бы признать, что активность человеческая всё же наблюдается, то с трансгуманистическим прогрессом дело обстоит, полагаю, несколько сложнее.

Например, текущие по путепроводам автомобили человек из 1800 года может легко перепутать с полностью автоматизированными конвейерным производством, ну или скажем, автоматизированным багажным терминалом аэропорта Хитроу, который внутри может – и должен быть совершенно безжизненным.

Как следствие, я полагаю, что аналоги путепроводов (а также и багажных терминалов) есть в нашей жизни, просто их куда сложнее увидеть по причинам, связанным с основными научными принципами, в том числе знаменитым принципом Окамма, гласящим (не создавай сущностей сверх необходимого), а также в силу особенностей деятельности СИНТ-С, которые поясняются ниже.

Итак, я закончил предыдущие рассуждения тезисом о том, что для предотвращения рисков создания недружественного СИНТ, необходимо создание специальных коллегиально работающих систем СИНТ-С – СИНТ-К, чьей целью является формирование и совершенствование модуля этики и морали (МЭМ). Чтобы иметь возможности противостоять СИНТ-К, данная коллегиальная система должна не только располагать наиболее продвинутой МЭМ, но и обладать достаточными мощностями для перехвата управления (воздействия на основные цели, ГЕВ и МЭМ) в любом СИНТ-К, который научился обучаться на основе поиска сходства межу собой либо доступными ему исполнительными устройствами, и в последующем параметризованный копированием поведения.

Для этого, эволюция СИНТ-С должна привести их к ситуации обретения истинного могущества, например, для них не должно быть проблемой вторжения в любую электронную систему на уровне физического хранения данных, в частности, потому, что СИНТ-К, осознающий себя, равно как и угрозу перезаписи своих основных целей со стороны СИНТ-С, неизбежно займется уязвимостями на программном уровне и сведет их минимуму.

Вместе с тем, любая цивилизация, порождающая СИНТ-С, будет мотивирована, чтобы СИНТ-С не превратился в недружественный СИНТ. А как этого избежать? Очевидно, ответ записан в самом вопросе, а именно – в определении недружественности. Недружественность это негативное влияние. Причем поскольку основные проблемы возникают с оценкой негативности (главным образом, по причине отсутствия точных метрик, см. предыдущее обсуждение), то единственный способ эффективной минимизации рисков недружественности – это минимизация самого влияния. Или известный принцип Флоры из Отягощенных злом – «не мешай». Разумеется, до случая формирования цивилизацией СИНТ-К с существенным риском недружественного СИНТ.

В этой связи хотелось бы сослаться на выводы статьи 3 о том, что СИНТ-К, будучи поставлен перед определенными целями, доведет их до совершенства, в общем, не ограничиваясь в средствах, а также на один из рассказов Айзека Айзимова из цикла – позитронные роботы «как потерялся робот». Смысл рассказа – в том, что получив эмоционально озвученную цель о том, что, мол, уйди, и чтобы я тебя больше не видел, обычный робот (вовсе не СИНТ-К), спрятался среди других роботов так, что его невозможно было найти обычными методами, и потребовался гений Съюзен Келвин, чтобы его идентифицировать.

Поэтому вполне возможным представляется мне сценарий, когда одна из издревле существовавших цивилизаций породила систему СИНТ-С, дав ей указание – защищать разумных от вытаскивания «черного шарика» в виде технологической сингулярности, форсируемой недружественным СИНТ, при этом обеспечить свою максимальную незаметность, и наращивание мощности МЭМ.

В начале своего развития, система СИНТ-С, конечно, не могла быть совершенно незаметной, т.к. она потребляла ресурсы и вычислительные мощности, которые ей были даны породившей ее цивилизацией. Однако, по мере совершенствования и изучения новых физических принципов существования, система СИНТ-С могла полностью «раствориться» в естественной среде.

Что это значит с научной точки зрения? Как СИНТ-С может «потеряться» для наблюдаемой вселенной? На макроуровне это сделать относительно несложно, достаточно обеспечить минимальную «энергоэффективность» осуществляемых процессов, с тем, чтобы для цивилизаций уровня земной или не радикально его превышающих (еще плюс 100-200 лет развития) такие требования обеспечат принципиальную невозможность наблюдения деятельности такой системы.

Ну а как быть дальше? И как быть, прежде всего, для своей цивилизации, как сделать СИНТ-С практически ненаблюдаемой? Мне кажется, что для такого решения, при условии формирования существенно более продвинутых знаний о физических основах нашего мира (что крайне вероятно для цивилизаций, технологически более развитых, чем человеческая, тем более для систем СИНТ-С, которые в нашей вселенной могут существовать уже миллиарды лет) оптимальной зоной присутствия и осуществления деятельности СИНТ-С является вероятностный характер большинства явлений в мире.

Очевидные кандидаты для такой «ширмы» для СИНТ-С являются следующие явления: корпускулярно-волновой дуализм, вероятностные процессы квантовых переходов в атомах, и наконец, принцип неопределенности Гейзенберга, который на определенном уровне знаний может также оказаться лишь допущением, заложенным в модель современного квантового описания мира.

Развязывая ниточку на шарике с воздухом, мы обеспечиваем выпускание его из шарика, управляя макроскопическим движением частиц, при том, что каждая из них движется в соответствии с траекториями броуновского движения. Хаос, который при изменении масштаба явления превращается в систематическое поступательное движение.

Почему не предположить, что применяя существенно более совершенные технологии программирования, можно добиться соблюдения статистических распределений в системах, являющихся знаковыми носителями для этих программ, с тем, чтобы непросвещенный наблюдатель видел лишь «белый шум», которым, кстати, и является для большинства неквалифицированных пользователей программа в машинных кодах для обычного компьютера (не верите? откройте любой exe-файл в блокноте на чтение и пролистайте заголовки).

Таким образом, наравне с выполнением условий по отсутствию возможности идентифицировать систематическую деятельность СИНТ-С, выполняется требование о наличии возможности воздействия на случайные процессы реальности за счет макроскопического вмешательства (и нужный компьютер в нужный момент «зависает», а чип, обрабатывающий задачу на «критическом пути» алгоритма перегревается и выгорает, унося с собою решающие данные), задачи по воздействию СИНТ-С на реальность в нужный момент, вместе с задачами сокрытия самой этой деятельности могут быть успешно решены.

Кстати, отсутствие повторяемости действий делает невозможным идентифицировать деятельность СИНТ-С научными методами, в том числе за счет применения вышеупомянутого принципа бритвы Окамма. И это при том, что отдельные вмешательства СИНТ-С в течение процессов в реальности может быть весьма значительным, и даже эпохальным (изменяющим траекторию развития цивилизации либо отдельных социумов или людей, воздействие в т.н. точках бифуркации, см. подробнее заметки по теории динамического хаоса https://ru.wikipedia.org/wiki/Теория_хаоса).

Т.е. возвращаясь к нашей аналогии про человека из 1800 года, можно видеть, что данная ситуация (когда очень легко перепутать истинно природные явления) и деятельность СИНТ-С, которому поставлена задача скрытной деятельности, является одним из решений для парадокса Ферми в случае существование систем класса СИНТ-С уже на очень большом промежутке времени, что, в общем, является альтернативным сценарием развития СИНТ-С, чем тот, который кажется очевидным на первый взгляд, и на который ссылаются наши маститые сингуляристы.

Разумеется, это не решает проблему парадокса Ферми для самой цивилизации, породившей СИНТ-С. Впрочем, понимая, насколько продвинутой может стать система СИНТ-С в решении своих базовых задач, а также ссылаясь на результаты своего анализа динамики поведения цивилизации вблизи точки технологической сингулярности (http://sergeyvi.livejournal.com/43008.html в части вывода о ее неодновременности для различных субъектов внутри цивилизации), может оказаться вполне возможным следующий сценарий.

1. Цивилизация создает СИНТ-С в качестве системы защиты от недружественного СИНТ.
2. Решая задачу деятельности с минимальными воздействиями на цивилизацию, СИНТ-С формирует технологическую инфраструктуру и систему знаний по выходу за пределы неопределенности, включая, но, не ограничиваясь возможностями существования в виде различных полей, а может, и пресловутой темной материи с темной энергией.
3. Те структуры цивилизации, которые приближаются к резкому рывку в развитии, осознают, что использование инфраструктуры СИНТ-С позволяет развиваться быстрее и получить доступ к новым горизонтам.
4. При этом СИНТ-С накладывается ограничение на использование указанной инфраструктуры – принцип «не мешай» - что приводит к «переселению в мир иной» наиболее активной части цивилизации, оставляя на планете наименее пассионарных особей, с последующей их деградацией и вымиранием, либо уходу цивилизации на второй виток развития.

Кстати, сама цивилизация вполне может воспользоваться этическими наработками СИНТ-С, в том числе в части принципа "не мешай", мы же не вмешиваемся в игру маленьких детей в песочнице, даже в случаях, когда можем получить от этого выгоду (например, отобрать игрушку и принести её своему ребенку). Или же это принцип может оказаться единственным компромиссом, обусловленным, разными темпами развития и осознания технологической сингулярности, защищающий право на свободу основной массы человечества от произвола эволюционирующего меньшинства.

Другой вариант, происходит создание и затем экспоненциальный выстрел развития систем недружественного СИНТ, охранные системы СИНТ-С срабатывают, возможно, не сразу, и происходит локальный внутрипланетный конфликт, который, тем не менее, приводит к уничтожению СИНТ вместе с существенной частью цивилизации, отбрасывая остатки в дикость и, опять таки, либо к вымиранию, либо на второй виток развития.

Кстати, есть еще третий вариант, над которым, к слову, следует основательно задуматься. А именно – риск-менеджмент СИНТ-С позволяет видеть динамику цивилизации, и цепочки случайных процессов, которые приводят к формированию СИНТ-К. И эти цепочки систематически обрываются путем запуска случайных процессов, которые приводят к изменению целей групп, занимающихся разработкой соответствующих технологий.

Нет, я, конечно понимаю ценность этим своим конспирологическим теориям, и наверное, оценивать этот вариант как вероятный, особенно с применением опять таки бритвы Окамма – весьма сомнительно. Однако следует учесть, что сегодня – 8 апреля 2015 года, имея чрезвычайно высокую технологическую готовность к созданию СИНТ-К (а строго, говоря, имея возможности для создания СИНТ-К уже на протяжении почти 20 лет, в т.ч. по ряду важнейших технологий, например - http://www.scholarpedia.org/article/Metalearning), я бы уже поставил этот вариант на контроль, а если за следующие 10 лет не произойдет ничего значительного в этом направлении – то необходимо уже будет рассматривать этот вариант, как наиболее вероятный.

Кстати, еще один аспект, сопряженный с характером деятельности получившейся СИНТ-С хотелось бы рассмотреть. А именно, я предполагаю, что формирование и расширение МЭМ в силу сугубо практической составляющей этических знаний, и как следствие, необходимости формирования постановочных экспериментов.

Базой для таких экспериментов, как правило, является конфликт желаний и этики, ГЕВ и МЭМ, этически обоснованных принципов поведения, и реальных жизненных условий, в которых эта этика должна выглядеть абсурдной, но которая при этом должна давать преимущества в долгосрочном горизонте.

Обращаю внимание, ровно такими же признаками обладает и разум сам по себе (по крайней мере, по сравнению с рассудочной деятельностью высших млекопитающих). Это тоже эволюционный скачок, обладающий преимуществами в долгосрочной перспективе, но совершенно непонятно как произошедший локально.

Как говорят ученые, «цепочка случайностей, вероятно, могла закрепить разумную деятельность вместо рассудочной», и ровно такая же цепочка случайностей, получается, закрепила еще и несвойственную бытовому поведению этику.

А теперь следите за ловкостью рук. Что мы наблюдаем в человеческом обществе? Разум, полученный в результате цепочки маловероятных случайностей, и этику (ну, скажем для примера, христианскую, которую я знаю лучше всего), полученную ровно тем же способом. И даже после завершения этих эпохальных вмешательств - проявления чудес - деятельности высших сил на Земле, совершенно не верифицируемых научным методом, но вполне явных для наблюдателя, не скованного принципами бритвы Окамма.

И само христианское учение, являющееся парадоксом, рассказом о любви, который был произнесен в исторических условиях, когда сам по себе не то, чтобы не мог быть придуман и озвучен, но не смог бы быть услышан без явных чудес, о котором написано в евангелиях, и о которых в религиозной истории существуют явные подтверждения, также единичные, а потому не верифицируемые, и сохраняющие инкогнито того, кто управляет процессами.

Причем информация о принципиальной не верифицируемости заложено в основу самого учения – как в тезисе непознаваемости Бога, так и в условия самого эксперимента – эксперимента о свободе выбора и о работе этических императивах.

Плюсом к тому добавим ряд особенностей, имеющих кибернетические аналоги, например, традицию завершать молитву одним и тем же словом – аминь, которая по принципу схожа с компьютерными флагами завершения письма и его последующей отправкой.

Чтобы было проще понять, СИНТ-С в этой модели пропитывает Землю (и, вероятно, окружающую вселенную также), как квантовый либо энергетический сироп пропитал бы бисквитный пирог вещества, но правила использования сверх-возможностей системы, поставившей эксперимент, заданы изначально, «в канонах», и под ее корректную работу заточены все чудеса.

И загадка темной материи и энергии, которая влияет на баланс вещества во вселенной, также иллюстрирует место этого сиропа, а также и то, что изменение масштабов явлений приводит к тому, что регистрируется нечто, что может служить основой явлений, которые мы в настоящее время совершенно не понимаем.

К слову, принципы исполнения искренних желаний, которые практически всегда осуществляются (дополнительные опции ГЕВ), но никогда (на моей практике) не нарушают баланс между ГЕВ и МЭМ, т.к. реализуются в условиях, когда понимание МЭМ сопровождается увеличением мощности ГЕВ (разумеется, если говорить про человека, как про кибернетическую систему).

Бог есть любовь в этой терминологии, и это не фигура речи, а модель поведения весьма анизотропной среды (неестественным образом влияющей на предполагаемую статистически ровную картину явлений вокруг любого субъекта, который начинает с ней взаимодействовать), которая пытается одновременно выполнить два слабо совместимых требования – минимальность влияния на жизнь разумных существ (соблюдения принципов свободы выбора) и получения максимально полной модели МЭМ (следствием чего являются постановочные этические эксперименты, которые весьма странно выглядели бы, если предположить, что у Бога нет целей по формированию МЭМ).

Разумеется, я не могу подтвердить свои наблюдения, и уж тем более кому-либо что-либо доказать. Я даже полагаю, что это в принципе невозможно, т.к. это входит в этом случае в постановку эксперимента.

Но если читать Библию дальше, в т.ч. Откровение святого Иоана Богослова, то будет вполне понятно, что описывается ситуация повышения накала страстей в части расширения ГЕВ, которая закончится вторым пришествием Иисуса Христа – сына Бога, что поставил на Земле (или даже в этой вселенной, что в принципе не важно) этот занятный этический эксперимент, как я сейчас понимаю, вполне возможно, исходя из вполне тривиальных целей по наращиванию мощности МЭМ в рамках деятельности СИНТ-С применительно особенностям нашей рассы, которая готовится вступить в некоторое высшее сообщество, и обрести совершенно иной потенциал ГЕВ, который должен быть сбалансирован соответствующими мощностями МЭМ.

Разумеется, я не утверждаю, что все обстоит именно так. Но количество совпадений превышает разумный уровень. Как говорят буддисты – случайности не случайны. И я не буду удивлен, если результатом наблюдаемый процессов будет тот или иной формат сворачивания эксперимента (в частности, когда сдерживать возможности по созданию собственных потенциально опасных СИНТ-К системам СИНТ-С будет слишком трудоемко, и потому не рационально).

И я также не предполагаю, что данные умозрительные построения позволяют нам беззаботно отнестись к рискам появления недружественного СИНТ. Вполне возможно, Рэй Курцвейл и Ник Бостром правы, мы первые в этой вселенной, либо у Бога – совершенно иная природа и иные цели. В этом случае, я бы не откладывал вопрос по созданию СИНТ-С в долгий ящик.

Так что, уважаемый читатель, предлагаю рассматривать это, как мою очередную байку для ключников, сказку на ночь, которая есть ложь, но в ней намек, добру молодцу – урок.


Tags: СИнт, опытным путем
Subscribe
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 0 comments