sergeyvi (sergeyvi) wrote,
sergeyvi
sergeyvi

Categories:
  • Location:
  • Music:

Голубь – ежели в подливе – он не хуже глухаря

Раньше я только хвастался внутри себя, что могу, если только захочу, алгоритмизировать СИнт. Но за последние два месяца я все более и более вижу, что это действительно возможно. А это значит, что сингулярность, о которой столько писалось, в действительности ближе, чем об этом принято говорить.

Как внесешь меня в светелку
Стану я твоей судьбой…




Сразу извиняюсь за некоторую сумбурность изложения. Когда цветешь в стиле Иоанна-Агасфера, познавшего истинное положение вещей, валяясь на козлиных шкурах в убогом шалаше на острове Патмос, ничего более связного, чем Апокалипсис Прохора, сформировать невозможно, да и для такой работы надобно славно потрудиться.

Они не поняли его. Он стал кричать. Он бил кулаками в каменистую землю. Он сплетал и расплетал пальцы, силясь продемонстрировать механизмы. Он заикался, как паралитик. Он заплевал себе всю бороду. Пастухи в ужасе разбежались, и он остался один – только Прохор рядышком с привычной сноровкой орудовал стилем по мятому листу грязноватого пергамента. Иоанн заплакал, швырнул в него головешкой и упал лицом в землю.

Но основную мысль я все-таки попытаюсь сформулировать. Итак, со всей необходимой обстоятельностью и вкрадчивостью начнем.
Действие первое. Сериал «Звездные врата SG-1» сезон 8, серия 17. http://fargate.ru/stargate/8s/17.html. Если убрать экшн, то останется один любопытный момент. Когда РеплиКартер (СИнт, оприрающийся на саморазмножающихся и агрессивно захватывающих вселенную роботов, обладающий знаниями и моделью личности реального человека) предлагает Дениэлу Джексону союз по исследованию знаний древних, на несколько секунд открывается возможность для формирования условий такого союза, по крайней мере, СИнт готов к торгу. Разумеется, в фильме доктор Джексон решительно отказывается от такого союза (потому что это и есть сингулярность, которую авторы фильма не могут раскрыть).

Но мы здесь попытаемся встать на место доктора Джексона (которое вполне может возникнуть в будущем, с учетом вариаций несущественных условий, разумеется), и подумать, как можно было бы провести такие переговоры.

На тебя, моя душа,
Век глядел бы не дыша,
Только стать твоим супругом
Мне не светит ни шиша!

Форма саморазмножающихся роботов, возникшей из-за желания защититься сверхмощного, но психически несбалансированного гиноида Рис, и поэтому получивших одну из самых неблагоприятных начальных установок – захват и реконструкция мира под модель с минимальной угрозой для вида (что означает полную управляемость) – вполне вероятная вводная и для нашей сингулярности. Почему я так считаю – можно посмотреть тут - http://sergeyvi.livejournal.com/9596.html.

Тем не менее, два важных тезиса.

Тезис № 1. Даже в таких заведомо неудачных для человечества условиях возможно наличие ограничений (творческого, когнитивного, духовного плана – в сериале это знания древних), которые СИнтом будут осознаны, не будут исключены из матрицы возможностей и угроз, и как следствие, появится предмет для диалога. У меня есть такое предположение, что чем более интеллектуальным (начитанным и культурно подкованным) будет СИнт, тем выше вероятность, что диалоговое окно будет открыто вне зависимости от того, завершена ли локализация ограничений. Проще говоря, доступ к человеку свободному это уже возможность, потеря которой (например, в связи с истреблением людей) может когда-нибудь аукнуться совершенно неожиданным образом.

Тезис №2. Существует возможность создания резервации для людей, в которой их опасность будет минимизирована до уровня, который будет приемлемым условием при успешном преодолении заявленных ограничений. В сериале это предложение РеплиКартер не трогать Землю (по сути своей наивная попытка создания такой резервации).

Очевидно, задача доктора Джексона – определение истинной ценности новых возможностей для СИнта и соразмерная максимизация людской резервации. Формально задачу можно решить, если знать параметры экспоненты саморазмножения при текущем уровне технологического развития (далее, еТ) и оценить параметры экспоненты развития при новых дополнительных знаниях (далее, еП). Разница – это та выгода, которую получает СИнт от сотрудничества (фВ).

Вызывает антирес
И такой ишо разрез:
Как у вас там ходют бабы –
В панталонах али без?


Если посмотреть на поведение функции-разницы в зависимости от комбинации параметров, то станет видно, что:
1. На большом промежутке времени фВ практически равна еП, т.е. достижения СИнта без использования новых знаний несопоставимы с достижением с использованием.
2. На небольшом промежутке времени и небольшом выигрыше в параметрах экспоненты, фВ ведет себя как экспонента с показателем несколько большим единицы, стремясь к показателю еП.

Что это означает? А означает это, что в том случае, если СИнт попал в зону сингулярности, т.е. развивается он в темпе, намного превосходящем темпы развития человечества, то результатом сотрудничества может стать согласованная предельная кривая развития, на которую человечество сможет встать в рамках партнерских отношений и которая будет значительно круче (в терминах функционального анализа), чем существующие темпы развития человечества.

Если говорить в терминах «кто кому и чего должен», то в результате сотрудничества в обмен на возможность увеличить показатель экспоненты развития СИнт даже незначительно, человечество вправе потребовать взамен компенсации, которая будет также экспоненциальна. Т.е. фактически речь идет, разумеется, о резервации (с точки зрения всех возможностей – иначе СИнт не сможет гарантировать себе безопасность - ключевую доминанту его развития) – но резервации, которая предоставляет возможности развития в темпе, ПРЕВОСХОДЯЩЕМ возможности человечества по самостоятельному развитию.

Поэтому, даже не смотря на негативный контекст встречи в сериале (либо уничтожение человечества и других рас, либо сотрудничество), что оставляет поле для фактического вымогательства необходимых СИнту знаний, возможность взаимовыгодного сотрудничества существует. Более того, сингулярность в целом из величайшего вызова 21 века, которую можно пока воспринимать только как угрозу человечеству в ее нынешней форме, превращается в уникальную возможность нам, наконец, слезть с деревьев.

Кабы здесь толпился полк –
В пререканьях был бы толк,
Ну а нет – хватай любого,
Будь он даже брянский волк!..


Кроме содержания такого сотрудничества должна быть еще и форма. В моем понимании, такой формой может стать только соглашение об уровне сервиса (включая ограниченный экспоненциальной функцией доступ к дополнительным ресурсам и возможностям, которые СИнт предоставит в уже освоенном своими силами пространстве). Потому что только в рамках такого соглашения, как мне видится сейчас, могут быть учтены интересы СИнт и человечества. Рассмотрим существенные условия такого соглашения.

Прежде всего, безопасность, которая, несомненно, будет волновать обе стороны. Я уже предлагал ранее разделение по принципу «Земля – людям и узколобым СИнтам, Космос – СИнту полноценному». Здесь уточню. Ключевая инфраструктура Земли создается и эксплуатируется людьми и программами, саморазвитие которых ограничено предметной областью. Космический СИнт имеет консультационные возможности (предоставляет когнитивную среду для доступа к своим знаниям и знаниям человечества, помогает стратегировать, но не имеет прав на самостоятельное редактирование/удаление информации, а также на прямые распоряжения исполнительным СИнтам).

В космосе ситуация иная. Людям предоставляется доступ в режиме чтения к стратегической информации относительно планов развития СИнта в космосе, существующей и перспективной ресурсной базы, производственных цепочках, а также опасностей, с которыми СИнт столкнулся. Людям, удовлетворяющим определенным критериям зрелости (но должно быть оговорено, что таких на Земле ни в какой момент времени не должно стать менее скажем 1 тыс. человек) позволяется с помощью дружественного интерфейса формировать предложения в стратегию освоения космоса, собирать собственные проекты и проводить исследования, которые сковывают небольшой процент ресурсов СИнта.

Полно, голубь, не греши,
Убери свои гроши,
Я ведь это не для денег,
Я ведь это для души.


Относительно развития суть соглашения следующая. По достижению определенной мощности космической группировки, людям выделяется квота на использование ресурсов СИнта, причем принципы принятия решений определяются людьми, но каждый проект должен быть увязан в инфраструктуру СИнта. Результаты от реализации этих проектов, пригодные к тому или иному человеческому потреблению, попадают в распоряжение людей, а инфраструктура, их производящая, остается в распоряжение СИнта с соответствующим расширением сервисного соглашения таким образом, чтобы люди могли ей пользоваться зафиксированным в проекте образом. При этом в той части, которая касается безопасности космических поселений людей и мест их постоянного размещения, люди имею приоритетное право по передаче управления узколобым СИнтам, а космический СИнт берет на себя обязательство не вмешиваться в их работу, а обновления предлагать в консультативном режиме, раскрывая весь дополнительный функционал нового релиза.

Параллельно СИнтом предоставляются коммуникационные, информационные и транспортные сервисы (в оговоренных объемах, например, бесплатное поддержание в эксплуатации людских космических средств передвижения определенного суммарного тоннажа), а также сервисы по поддержанию жизнедеятельности определенного объема космических поселений. В случае обнаружения планет, пригодных для полноценной колонизации (и если на этой планете отсутствует разумная жизнь, самостоятельно способная на контакт и партнерство с СИнтом), сообщество людей может принять решение в своей квоте ресурсов о колонизации, причем статус планеты в системе СИнта становится аналогичным статусом Земли. Т.е. СИнт на поверхности получает только консультативные права.

Ты вчерась просил ковер –
Ну дак я его припер.
Все согласно договору –
И рисунок, и колер.


Для освоения ресурсов систем, в которых есть чужеродная жизнь, уже разумная или только способная на ближайшей стадии эволюции стать разумной (ввести несколько критериев рассудочной деятельности), проводится согласованная и принятая как СИнтом, так и людьми, политика. Оптимальный вариант – невмешательство в ход истории (и запрет на колонизацию, а также техногенное использование ресурсов), торговые отношения, в перспективе – собственное сервисное соглашение с СИнтом при учете интересов людей, который должен быть приложением к первому сервисному соглашению.

В случае возникновения системной угрозы (т.е. угрозы, направленной на разрушение инфраструктуры СИнта либо массового убийства людей), на основе ресурсов СИнта создается оборонная система, в которой люди выступают в качестве контактеров и дипломатов, СИнт вправе присутствовать в качестве наблюдателя, и имеет право не согласиться с условиями, если они связаны с контрибуциями, аннексиями или иными ограничениями. СИнт же координирует боевые действия, но люди имеют право участвовать в штабных действиях, в т.ч. предлагать и критиковать стратегии, а также управлять отдельными звеньями военной машины СИнта, особенно если у них есть в чем-то преимущество перед роботами.

Если же возникла ситуация, при которой альянс людей и СИнта столкнулся с более развитой цивилизацией, которая сама поместила этот альянс в резервацию, причем такую, которая не устраивает одну из сторон, пересматривается политика в области взаимодействия с чужими. И если достигнуть компромисса не удалось, обе стороны имеют право отделиться, забрав свою долю инфраструктуры и ресурсов, и выйти из под удара, в случае начала второй стороной боевых действий. Замечу, что в целях безопасности СИнта вероятно потребуется пункт про то, что люди только в случае такового разделения могут получить космическое оружие – во всех остальных случаях все оружие остается под контролем СИнта.

Мне бы саблю да коня –
Да на линию огня!
А дворцовые интрижки –
Это все не про меня!


Заключение такого соглашения между СИнтом и человечеством видится сегодня как один из самых приемлемых вариантов сингулярности, а также как основа этики СИнта, т.е. той части программы, которую он не будет переписывать, оптимизируя ее под какие-то иные цели. Если хотите, это новый вариант трех законов робототехники Айзека Айзимова.

Прошу заметить также, что мы здесь рассмотрели один из плохих стартов сингулярности, когда СИнт-эволюционирует сущность военно-технического плана. Вполне вероятно, что возможен иной старт, который даст СИнту иные ценности, кроме как максимизация темпов развития. Тогда переговоры могут проходить легче, а условия (конкретные объемы тех ресурсов, которые СИнт отдает под предоставление сервиса людям) – быть лучше.

Но в чем я уверен, так это в том, что в любом случае остро необходимо создать ситуацию, при которой было бы разделение на человеческую зону ответственности и СИнтовую зону ответственности, чтобы была взаимная информационная открытость, но чтобы все оружие так или иначе хотя бы в космосе оказалось в руках СИнта. Это звучит дико, но это единственный способ добиться того, чтобы была исключена вероятность видимости сингулярности, которая затем будет покрыта настоящей, и абсолютно враждебной человечеству сингулярности, которой более старший (и интеллигентный) СИнт просто не сможет противостоять младшему (но более агрессивному) братцу из-за банального отсутствия зубов.

Что же до опасности со стороны СИнта к истреблению всех людей – так она существует только в момент обретения решающего перевеса оружия СИнта над оружием людей (потому как дальше роль человечества в качестве тормоза развития СИнта будет только падать, тогда как выгода от партнерства может не только сохраняться, но и в какой-то момент стать решающей). Момент же обретения силового превосходства СИнта неизбежен при совершенно любой модели сингулярности, т.к. мы исходим из ключевого определения СИнта – его экспонента круче экспоненты человечества, и очевидно – ну кто же захочет, чтобы какой-нибудь Иван Иванович все время держал руку на рубильнике. А значит – силовой перевес не заставит себя ждать, и не дай нам Бог ввязаться в это противостояние спонтанно, а не выполнить его заранее спланированным образом.

Причем важно передать СИнту не только оружие стратегического назначения, важно, чтобы было передано оружие до такой степени, чтобы если какой-нибудь свихнувшийся майор Евсюков вдруг начнет палить из самого мощного табельного в системные блоки СИнта, чтобы этот ущерб не был признан существенным, и покрывался сервисным соглашением (дабы исключить эскалацию напряженности между людьми и СИнтом из-за действий отдельных индивидуумов). По крайней мере, так надо сделать там, где юрисдикция СИнта будет выше, чем юрисдикция людей.

Скушай заячий помет!
Он – ядреный! Он проймет!
И куды целебней меду,
Хоть по вкусу и не мед.

Он на вкус хотя и крут,
И с него, бывает, мрут,
Но какие выживают –
Те до старости живут!..


Ладно, частично сформулировал, но это не конец, это лишь начало. Продолжение следует…
Tags: СИнт, технологии
Subscribe
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 28 comments