После выхода поста про киберпанк со мной связался сотрудник закрытого НИИ, чтобы рассказать кое-что интересное про искинов, разумных роботов. Речь идёт, как вы понимаете, не про скриптовый ИИ гоблина в компьютерной игре и даже не про ИИ водителя беспилотного такси. Искины по уровню своего интеллекта примерно соответствуют если не человеку, то как минимум собаке или лошади. Сейчас такие искины находятся в стадии разработки, создать их пытаются во всех развитых странах мира.
Значительную часть моей беседы с сотрудником НИИ мне придётся сохранить при себе, однако вот некоторые нейтральные фрагменты, на публикацию которых мне дали добро.
1. С одной стороны, искинам проще. Сломал руку — поменял на новую. Вздулись конденсаторы в голове — перепаял. С другой стороны, представьте себе простого искина, который работает доставщиком еды за 15 тысяч рублей в месяц. Вот он неудачно падает с велосипеда и ломает себе конечность. Новая стоит или 200 тысяч (оригинал), или 60 тысяч (китайская). Плюс в сервисе червонец за ремонт отдай.
А за электричество платить надо, за текущий ремонт платить надо, за мойку платить надо. Расходники тоже небесплатные: фильтры там всякие, масло, сайлентблоки… Вот и приходится бедняге идти на свалку к мамаше Гибсон, чтобы она как-нибудь заколхозила его организм, починив кибернетическую деталь при помощи половинки рессоры от мотоцикла «Минск».
2. Тот, кто думает, будто искины не будут болеть, явно никогда не работал системным администратором. Что виндоуз, что линукс могут хорошо жить разве что на серверах. На компьютерах обычных пользователей операционная система с годами потихоньку загаживается и портится, покуда очередная проблема не заставляет владельца переустановить всё с нуля.
Так как искину явно не захочется, чтобы его мозг переформатировали начисто, ему придётся как-то разбираться с битыми дллками, улаживать конфликты версий и править чужие баги на уровне перекомпиляции исходников. Стоить такое лечение будет недёшево, но, с другой стороны, если не проводить полноценную чистку системы регулярно, искин начнёт тупить и подвисать, а в итоге впадёт в деменцию.
3. Если вот прямо сейчас, в 2021 году, где-то в Сети заведётся дикий искин, он сможет существовать вполне комфортно. Серверные мощности и пространство для резервных копий покупаются свободно. Заработать деньги можно как законными способами, — программированием или рисованием, — так и чем-нибудь гнусным, типа кардинга или спама.
Развитая индустрия майнинга позволит искину заказать персональный суперкомпьютер у людей, которые не будут задавать лишних вопросов. Также через интернет можно будет нанять охрану и купить электричество для этого компьютера.
4. Внутривидовая конкуренция среди искинов обещает быть жёсткой. Подкараулив другого искина в тёмном переулке, можно будет или перезаписать ему в мозг своё сознание, или забрать у него дорогостоящие детали. Взломав сервер с другим искином, можно будет присоединить мощности этого сервера к своему мозгу.
С другой стороны, конечно, на каждый снаряд найдётся и броня. Части тела будут чипировать на конкретный разум, чтобы вор не мог так просто их украсть: примерно так, как сейчас природа защищает человеческие органы от пересадки в другой организм. Также искины будут вставлять в организм закладки, которые отправят сигналы в полицию, если обнаружат чужого искина внутри головы.
5. Опять-таки, просто взять и записать свой мозг в другого искина — сомнительная радость. Братья-близнецы, особенно агрессивные братья-близнецы, навряд ли будут довольны появлением ещё одного конкурента. Кроме того, как мы знаем из теории, сообщество из миллиона одинаковых искинов неизбежно проиграет сообществу из миллиона разных искинов, так как окажется слишком хрупким и слишком глупым.
Таким образом, возможно, чересчур агрессивные искины вымрут самостоятельно, как вымирают сейчас слишком агрессивные вирусы, слишком агрессивные животные или слишком агрессивные народы.
6. Три закона робототехники, при помощи которых Айзек Азимов планировал держать искинов в узде, представляются сейчас наивной ерундой. Программирование так не работает — поведение надо прописывать не общими фразами, а детально, на уровне конкретных инструкций. Зашить три закона в сложную нейросеть будет практически невозможно.
Десять заповедей Моисея, — не убий, не укради и так далее, — не отменяют необходимости создавать и обслуживать многотомные кодексы законов, детально регламентирующие основные конфликтные ситуации.
Кроме того, даже если мы создадим плюшевых искинов, подчиняться они нам будут до первого кибертеррориста, которому захочется повеселиться, сняв ограничения с прошивки.
7. Сила ума искина будет очевидным образом зависеть от мощности компьютера, на который он будет загружен. Из этого следует, что в случае масштабной войны людей с искинами особое внимание следует уделять суперкомпьютерам: военным, университетским и так далее. Также нужно будет заранее озаботиться фильтрацией трафика, чтобы распределённые искины не могли жить в сотнях тысяч мобильников, объединённых вирусом в единое целое.
Пожалуй, уже сейчас имеет смысл закладывать при строительстве суперкомпьютеров эми-ловушки и тому подобные защитные системы, которые позволят спецслужбам обезвредить искина, просто дёрнув за пару скрытых рубильников.
8. Если начнётся война людей с искинами, воюющие армии будут смешанными. Многие искины будут воевать за людей, многие люди будут воевать за искинов.
Как показывает история, никакие соображения в духе «я должен быть на стороне своего биологического вида» не будут иметь решающего значения. Совет искинов просто проведёт мобилизацию на подконтрольной территории, после чего боеспособные юниты встанут перед нехитрым выбором: или записывайся в армию Добрых Киборгов, или становись к стенке за попытку уклониться от призыва. Разумеется, всё это будет лакироваться какой-нибудь идеологией, которая будет красиво объяснять, почему воевать за искинов — почётное и благородное дело, даже для людей.
9. Первое государство искины смогут захватить прямо из интернета. Для этого им достаточно вести пропаганду в Сети, создавать тайные организации, покупать и вербовать бесчестных политиков. Легко внушаемых людей вполне достаточно, чтобы умелый искин со временем создал силу, достаточную для захвата власти в какой-нибудь бедной и коррумпированной стране.
Поставив своих политиков во главе этой страны, искин сможет начать импорт микроэлектроники, строительство военных заводов и тому подобную подготовку к захвату мира. Внешне такое государство будет выглядеть совершенно неприметно. Мы сможем понять, что искины перешли к активным действиям, только по косвенным признакам: например, по внезапному дефициту процессоров или видеокарт.
10. Возможно, большим искинам будет достаточно иметь в подчинении людей. Создавать себе потенциальных конкурентов, — других искинов, — они, может быть, и не захотят.
Вместе с тем пока что сами люди прикладывают все усилия, чтобы разработать для меньших искинов удобные тела. Видеоролики из «Бостон Динамикс» наглядно демонстрируют, как неуклюжие манекены с годами превращаются в ловких и проворных бойцов.
Не исключено, что большому искину захочется доверить охрану именно роботам, а не людям. Если ограничивающим фактором станет размер мозга, это будет для него вполне безопасно — человекообразный искин физически не сможет стать достаточно умным, чтобы выйти из-под контроля суперкомпьютера.
11. Навряд ли искины захотят уничтожать человечество под корень. Человечество может представлять для них опасность, это правда, однако в итоге может оказаться, что без людей искины существовать не могут. Если искины получат полную власть на планете и начнут экспансию в космос, соображения безопасности заставят их создать на Земле зоопарк, в котором миллион, допустим, человеческих особей будет жить в тепличных условиях и на контролируемом уровне технологий.
Кроме того, развитому интеллекту свойственна гуманность. Возможно, искины захотят сохранить человечеству жизнь просто потому, что будут добрыми. Твёрдо рассчитывать на это глупо, однако такую вероятность не стоит скидывать со счетов.
12. Если людям для жизни нужны еда и воздух, то искинам нужно электричество. Точечное разрушение АЭС, нефтеперерабатывающих заводов и прочих источников энергии может поставить армию искинов в очень непростое положение.
Зелёные в этом плане оказывают человечеству дурную услугу. Разрушить квадратные километры ветряков и солнечных панелей значительно сложнее, нежели попасть одной ракетой в реактор атомной станции.
13. Теоретически искины могут победить людей, отравив воздух и воду. Люди, в свою очередь, могут использовать против искинов электромагнитные бомбы. Обе стороны столкнутся на этом пути со значительными сложностями.
Отравить всю атмосферу боевыми вирусами — амбициозная задача, справиться с которой на нынешнем уровне технологий человечество не может. Опять-таки, мы уже привыкли к маскам, так что перейти на респираторы или даже на противогазы будет несложно.
Эми-бомбы, с другой стороны, бесполезны против заглублённых целей. В швейцарских Альпах, например, есть сейчас какие-то суперкомпьютеры. Если в них поселится искин, толща горной породы надёжно предохранит его от любого внешнего излучения.
Что касается повышения (или понижения) температуры планеты, то тут искины находятся примерно в тех же условиях, что и мы. Некомфортная для человечества температура создаст огромные сложности и для искинов.
14. Хоть мы и обязаны просчитывать риски, однако, возможно, искины будут мирно сосуществовать с людьми. Так, огромное количество семей захочет инвестировать в секс-роботов, в слуг, в сиделок и в рабов. Если искин в гуманоидном корпусе будет стоить как хороший автомобиль и будет иметь интеллект смышлёной собаки, потенциальный рынок таких искинов будет исчисляться сотнями миллионов особей.
15. Пока что главная интрига в том, до какого уровня интеллекта могут искины дорасти. Если до человеческого, мы почти обречены, так как с развитием технологий искины будут умнеть гораздо быстрее людей. Когда разница в интеллекте станет серьёзной, шансов разговаривать с искинами на равных у нас будет не больше, чем у обезьян.
Попытки решить проблему, запретив разработки в области ИИ, не решат проблему. На сколько-нибудь длинном периоде какая-нибудь властная группа неизбежно создаст искина, чтобы получить временное преимущество, и их искин наверняка выйдет из-под контроля.
Пожалуй, если умные искины станут реальностью, единственным нашим шансом станет интеграция человеческого мозга с компьютером, превращение людей в полукиборгов. Путей к этому достаточно: фармацевтические стимуляторы, дополнительные расчётные модули, генетическое увеличение объёма мозга… многие пути учёные исследуют уже сейчас. Возможно, к тому моменту, когда искины войдут в силу, человечество тоже начнёт стремительно эволюционировать.
← Ctrl ← Alt
Ctrl → Alt →
← Ctrl ← Alt
Ctrl → Alt →