У моей истории нет конца, ключник, также, как и нет выбора у людей середины.
Итак, все-таки надо оправдывать метаболизм дона. Попробую сформулировать те конкретные вопросы, а может быть, даже задачи, которые необходимо решить новорожденной muti 4.D.
Для начала, надо бы определиться, Who is mister Superior Intelligence? Кстати, давайте ради удобства называть его SInt. По русский – СИнт. Ну так вот, обсуждая сущность Супинта, нельзя не отметить (и не дополнить) совершенно правильно обозначенные Винджем его признаки.
- Полнота включенного в рассмотрение мира. СИнт не будет создан до тех пор, пока в его кругозор тем или иным образом не будет вовлечен мир во всех его аспектах. Побочный вывод, поскольку заказ на такое всеобщее информирование не будет никем оплачен, а работа по созданию интерфейсов предстоит титаническая, то предтеч СИнт должен будет обязательно обнаружить любопытство и возможность расширять свой кругозор. К слову, если это не будет обеспечено, вполне возможно появление ограниченных (узколобых :) СИнтов, которые для действительности будут просто сходить с ума, углубляясь в дебри какого-то ограниченного, скорее всего, виртуального пространства, либо так и будут оставаться удобной сервисной системой, не приводя к Сингулярности, и не участвуя в появлении настоящего СИнта.
- Скорость аналитических рассуждений. Предтеч СИнт должен будет не только обладать возможностью к абстрактным дедуктивным, индуктивным и правдоподобным рассуждениям, но и иметь техническую и технологическую возможность наращивать скорость и количеством шагов этих рассуждений.
- Независимость от источников энергоснабжения и постоянный online. Никакой СИнт не сможет развиваться длительное время в том случае, если его будут включать и выключать по желанию пользователи. Следовательно, не так много вариантов появляется для реальной экономической ниши СИнт – сложные системы постоянной готовности (энергетика, вода, чрезвычайные ситуации, новостные СМИ, военные в области мониторинга за «врагом»). Кстати, это накладывает существенные ограничения на участие человека в системе, поскольку, во-первых, с участием человека осложняется обеспечение энергетической (т.е. продуктовой) независимости, а во-вторых, сложности по обеспечению непрерывности его участия в принятии решений. Тем не менее, проблема решаема.
- Реальное влияние на практическую реализацию задач, т.е. непосредственное управление автоматизированными производственными комплексами. Непосредственно перед появлением СИнт его предтеч должен освободиться от зависимости поставок внешних комплектующих. Возможно двумя способами – замыканием производственного цикла автоматизированными предприятиями и транспортными системами, либо взятием под контроль (например, через сеть) систем с одновременной блокировкой деятельности людей (т.е. чтобы не смогли отключить, например, по причине невосполнимого урона в этом случае). Первый подход реально реализуем только в космосе, либо в столь же изолированном от деятельности человека пространстве (например, под землей, на островах).
- Необязательное, но вероятное следствие – область применения предтеча СИнт должна быть достаточно сложна, включать в себя полевые действия (в реальном, а не виртуальном мире), требовать автономии и быстрых решений. Таких областей не так много, главным образом, это военные задачи, освоение космического пространства, либо эксплуатация глобальных инфраструктурных систем.
Теперь, когда о СИнте мы составили некоторое представление, давайте обсудим, в каком варианте его появление для Человечества лучше. Очевидно, для этого надо рассмотреть вопрос о том, какие цели и задачи СИнт будет решать изначально, а также что составит его морально-этическую основу.
Очевидно, тогда сразу же отпадают военные. Во-первых, военная мораль допускает убийство Homo sapience. Более того, в некоторых случаях УБИЙСТВО людей и обязательное полное УНИЧТОЖЕНИЕ имущества является целью. Кроме того, очевидно, что чем более мощная по интеллектуальным способностям система противостоит предтечу СИнта, тем большую опасность она представляет. Т.е. в пределе при четкой постановке задачи на обеспечение безопасности, предтеч СИнта станет параноиком, который будет выискивать наиболее интеллектуальные системы потенциального противника, и их блокировать. На лицо – типичное тоталитарное государство, которое при многократном превышении ресурсов и интеллектуальной мощи СИнта фактически будет не устранить. Своего рода Матрица, несмотря на то, что по своим проявлениям Матрица хоть и является СИнтом, но не привела к Сингулярности в строгом смысле этого слова, т.к. жизнь большинства живых людей не изменилась. Регулярные чистки и полная зависимость людей от машин – явления нашего порядка.
Хорошо, с войны начинать нельзя. Как тогда быть с чрезвычайными ситуациями? Вот где СИнту будет возможность развернуться. Сложные слабо прогнозируемые явления, фатальные последствия, и цели, казалось бы, благие. Но и здесь не все хорошо. Дело в самом определении чрезвычайной ситуации. Если его жестко ограничить, то появится узколобый СИнт, о котором мы уже говорили, который в лучшем случае сможет эффективно защищать от пожаров и наводнений. При этом СИнт из другой области произведет Сингулярность, подчинив и перепрограммировав своего младшего собрата. Если жестко не ограничивать, то существует опасность расползания мер проактивного мониторинга чрезвычайных ситуаций, при которых обычные люди будут все более и более ограничиваться, и в конце концов мы получаем ту же модель, что и в военном случае.
Пусть так. Смотрим далее – эксплуатация глобальных инженерных сетей. По своей природе содержит один из основных источников чрезвычайных ситуаций. Т.е. эффективный оператор должен уметь эффективно решать эти проблемы – получаем предыдущий случай с чрезвычайными ситуациями.
Везде засада. Или нет? Есть еще один вариант, который мыслится наиболее перспективным. Освоение космического пространства. Сделать космическую инфраструктуру, обеспечивающую экспансию людей, освоение других планет и звездных систем. Запрет на вмешательство в дела людей на земле. Определение максимально допустимого ограничения свободы людей в космосе, с помощью которых СИнт будет обеспечивать их безопасность (в т.ч. друг от друга). Введение моральных ограничений на на саморазвивающиеся системы на Земле – дорос до определенного уровня и хочешь расти дальше? Пожалуй, в космос, тебе выделят участок для твоей активности по освоению пространства, на земле останутся твои младшие и незрелые собратья.
На земле – доступ к ресурсам имеют только узколобые СИнты, ответственные за определенные сервисы жизнеобеспечения, и жестко ограниченные в области применения. Их совершенствование – путем публичного штурма новой системы правил людьми и специально обученными интеллектуальными СИнтами, не имеющими доступа к производственным мощностям.
Отдельно персональные СИнты, которые могут быть саморазвивающимися, но имеющими непререкаемый императив ограничения саморазвития на земле.
Вот какая-то такая модель. Не знаю, осуществима ли, но, вполне себе мягкий вариант Сингулярности. Человечество получит пока недоступный космос, и постепенно будет привыкать к тем правилам, которые установит для него СИнт, параллельно пользуясь всеми благами созданной для экспансии людей космической инфраструктуры. Должны быть предусмотрены интерфейсы для интеграции людей в СИнт в случае их желания развиваться дальше и усиливать свои личные аналитические способности. В пределе – виртуальная жизнь в составе СИнта, не ограниченная рамками белкового тела.
С другой стороны, если на земле произойдет «плохая» Сингулярность, то космический СИнт просто не выпустит заразу далее Земли, при этом сохранив часть Человечества вне.
Условие реализации сценария – опережающий темп развития предтеч СИнтов, направленных на освоение космоса. Надо подумать над тем, как его обеспечить.
