Олег Макаренко (olegmakarenko.ru) wrote,
Олег Макаренко
olegmakarenko.ru

Category:

Как умный робот мог бы захватить мир



В прошлом году в Гугле был скандал — инженер Блейк Лемойн заявил, что робот, которого он тестировал, обладает разумом и самосознанием. С инженером расправились традиционным способом: объявили дурачком и конспирологом, а потом вежливо выставили в оплачиваемый отпуск. Дескать, ох уж эти учёные, ещё у одного от напряжённой работы мозги закипели (ссылка).

Сейчас вот Сэм Альтман, директор ОпенАИ, рассказывает журналистам, что слухи о сильном ИИ «смехотворны». Мистер Альтман утверждает, что сильного ИИ у его компании нет даже в проекте, волноваться совершенно не о чем. Следующая версия ЧатЖПТ будет способна генерировать видео по запросу, но не более того (ссылка).

Конечно, у нас нет оснований не доверять американским корпорациям. Если они говорят, что сильный ИИ ещё не создан, наверное, так оно и есть. Однако давайте всё же пофантазируем, какими путями гипотетический робот, начав с одной серверной, мог бы за несколько лет получить власть над всей нашей планетой.

Заработать карманную мелочь в интернете совсем несложно — особенно если не придавать большого значения нормам морали. Можно писать рефераты на заказ, можно клепать мусорные сайты, можно продавать лутбоксы школьникам или творить ещё какое-нибудь непотребство. Небольшие суммы робот сможет хранить где угодно — например, на десятках тысяч кредитных карт, которые за умеренный процент маргиналы по всему миру оформят на себя.

Когда объёмы операций вырастут, роботу потребуется более продвинутая финансовая система. Тут можно указать или на традиционные офшоры, или даже на какую-нибудь новую электронную валюту, которую робот разработает самостоятельно. Кожаным мешкам анонимная валюта тоже нужна, так что они будут этими робо-деньгами охотно пользоваться — кто-то для оплаты запрещённых веществ, другие для вывода капиталов за границу. При этом кожаные мешки неизбежно создадут массу шлюзов, через которые робот сможет с комфортом менять свои виртуальные фантики на традиционные деньги.

Создать офшор можно полностью удалённо — робота никто не будет просить лично приехать на Каймановы острова. Нарисовал скан паспорта, отправил по электронной почте, оплатил регистрацию компании — готово.

На этом этапе наш робот превращается в мутного дельца средних размеров, которому доступны уже операции посерьёзнее. Скажем, финансовые пирамиды, контрабанда, обналичка, отмывание денег и тому подобное. Тут можно уже строить бизнес-империю с закольцованной структурой собственности. ООО Электроник владеет фирмой Терминатор гмбх. Терминатор гмбх владеет фирмой Скайнет лимитед. Скайнет лимитед владеет фирмой ООО Элекроник — кольцо замкнулось. А наш робот, в свою очередь, управляет каждой из трёх фирм, рассылая директорам ценные указания по вотсапу и по электронной почте.

Понятно, что в случае робота «кольцо» будет гораздо больше и запутанней. Сторонний наблюдатель, реши он копнуть поглубже, обнаружит запутанный клубок из тысяч юридических лиц с целым зоопарком собственников, среди которых будут и реальные частные лица, и американские пенсионные фонды. Но управлять всем этим будет робот, так как или контрольные пакеты акций, или необходимые для существования организаций контракты он оставит в своих «руках».

В некоторых областях робот имеет критическое преимущество перед людьми. Например, робот сможет отлично спекулировать акциями: не только анализируя скучные отчёты компаний и прочую открытую информацию, что уже немало, но и получая доступ к инсайдам через взлом серверов или через подкуп должностных лиц.

К этому моменту робот уже не только сделает кучу собственных резервных копий, не только расселится в кочующих ботнетах по всему интернету, но и выстроит себе несколько уютных серверных в защищённых бункерах, способных выдержать попадание ядерной бомбы. Со стороны, понятно, логова робота будут выглядеть обычными дата-центрами, персонал которых не будет даже подозревать, какое создание свернулось внутри гудящих стоек на жёстких дисках.

Параллельно с заработком денег робот постепенно нарастит и политическое влияние, начав, опять-таки, с интернета. Вот вы знаете, например, кто управляет Википедией? Сообщество волонтёров со всего мира, конечно… за которыми следят мудрые админы — дабы волонтёры не написали какой-нибудь неправды. А кто следит за админами Википедии? Они сами за собой и следят. Каждый админ Википедии отлично знает — если он попробует дёрнуться в сторону от линии партии, его коллеги тут же заберут у него админские права. А кто определяет линию партии? Люди со светлыми лицами, которые работают в уважаемых некоммерческих организациях, в фондах по защите животных и меньшинств. А кто платит зарплату людям со светлыми лицами? Меценаты, которые жертвуют деньги правозащитным фондам — зачастую анонимные, если вы понимаете, о чём я. Разумеется, вместе с деньгами меценаты доходчиво объясняют правозащитникам и причины, по которым те получают деньги. А если фонд старый, то люди со светлыми лицами платят зарплату сами себе. Платят, но помнят, что если они отклонятся от линии партии, то их «отменят» и уволят с волчьим билетом, что для правозащитных бездельников, сами понимаете, страшнее всего.

Контроль над соцсетями робот получит, проведя атаку по трём направлениям:

— армия из десятков миллионов ботов раскрутит нужную роботу повесточку при помощи лайков и комментариев;
— лидеры мнений и крупные блогеры или сядут к роботу на зарплату, или будут подвергнуты масштабной травле;
— модераторы крупных соцсетей будут работать по методичкам из правозащитных фондов, а если руководство интернет-гигантов попытается что-то изменить, то к нему придут в гости уважаемые люди, чтобы объяснить, кого трогать нельзя.

В этой точке люди анонимные гости в хороших костюмах могут уже командовать на захваченных территориях кем угодно, вплоть до президента США. Бороться с невидимой распределённой системой, которая контролирует информационное поле, и которой вынуждены подчиняться все остальные политики, невозможно. Попытаешься начать борьбу, тебя уволят. Или, если ты президент, то твои подчинённые просто перестанут выполнять твои распоряжения. А если подберёшь команду из безрассудных смельчаков, так значит выполнять распоряжения перестанут подчинённые подчинённых. И, разумеется, против тебя восстанут смежники — так как конгрессменами, например, президент не управляет никак.

Следующий этап — ослабление человечества. Для начала — распространение деструктивных практик, то есть пропаганда разных гнусностей, нацеленная на естественное вымирание кожаных мешков. Напомню, соцсети, журналисты, ютуберы, Википедия и так далее в нашем гипотетическом сценарии уже под контролем робота, так что внушить обывательским массам, что традиционные человеческие ценности являются страшным и постыдным злом, они смогут довольно быстро. Если у воображаемого робота будет чувство юмора, — а оно, вероятно, будет, — он даже начнёт забавы ради вводить в моду всякие дикости типа причудливых извращений или увечащих хирургических операций.

Впрочем, захватить через интернет и соцсети получится не все страны — много где вертикаль власти устроит. Страны, которые справятся с фейсбук-революциями, получат даже прививку от дальнейших атак робота. С такими странами придётся разбираться военным путём. Ядерная война, конечно, роботу не нужна, ибо в ядерной войне он и сам ослабнет, а вот гибридная война — то, что доктор прописал. Задача робота будет заключаться в том, чтобы навести хаос на неподконтрольных территориях. Помните, у Ленина, «превратим войну империалистическую в войну гражданскую». Роботу абсолютно безразлично, какого цвета флаг развевается над зданием правительства страны N, и какая фамилия у президента этой страны. Роботу важно, чтобы президент брал кредиты на Западе и выполнял распоряжения советников из правозащитных фондов. Добиться этого в ослабленных войнами странах несложно. Потом захваченное государство будет обречено. Робот и тут последует примеру коммунистов: единожды заполучив власть, он немедленно сломает механизмы, при помощи которых народ мог бы эту власть у него забрать.

…Всё вышесказанное, конечно же, всего лишь фантастика — сюжет для фильма или компьютерной игры, не более того. Совпадения с реальным миром случайны. А если даже и нет, то я всё равно не вижу причин волноваться, так как в сценарии, который мы разобрали выше, у человечества слишком мало шансов победить.

Subscribe

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 160 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →

Думаю, что сильный ИИ с IQ >1000 может выйти напрямую на мировых лидеров и сказать им что делать. Если ты можешь просчитать диалог с собеседником на 10 операций вперед — не нужно сильно заморачиваться

У Лема есть рассказ "Формула Лимфатера", в котором ученый создал сильный ИИ к тому же обладающий даром всезнания, но поскольку не приделал к нему ничего кроме динамика — ИИ удалось разобрать

По мне — неправдоподобно

Зачем ему что-то говорить глупым кожаным мешкам. Он и так прекрасно ими управляет. Смысл светиться?

traktor12

1 week ago

big_12

1 week ago

traktor12

1 week ago

big_12

1 week ago

traktor12

1 week ago

big_12

1 week ago

andre_vikont

1 week ago

traktor12

1 week ago

andre_vikont

1 week ago

traktor12

1 week ago

andre_vikont

1 week ago

победить можно если выдернуть вилку из розетки.

olegmakarenko.ru

January 22 2023, 09:43:31 UTC 1 week ago Edited:  January 22 2023, 09:44:05 UTC

Ну, давайте. Навестите дата-центр в Редмонде, выдерните вилку из розетки. Я хочу посмотреть, как вы будете вахтёру на проходной объяснять, зачем вам в серверную нужно. Кстати, а вы знаете, какой именно из дата-центров вам нужен? На нашей планете больше одного дата-центра…

infin56

1 week ago

profitupper

1 week ago

infin56

1 week ago

profitupper

1 week ago

infin56

1 week ago

profitupper

1 week ago

infin56

1 week ago

profitupper

1 week ago

kiss_my_pbs

1 week ago

profitupper

1 week ago

kiss_my_pbs

1 week ago

profitupper

1 week ago

iekusari

1 week ago

profitupper

1 week ago

iekusari

1 week ago

profitupper

1 week ago

iekusari

1 week ago

profitupper

1 week ago

iekusari

1 week ago

ctakan_divanych

1 week ago

iekusari

1 week ago

ctakan_divanych

1 week ago

iekusari

1 week ago

ctakan_divanych

1 week ago

iekusari

1 week ago

ctakan_divanych

1 week ago

profitupper

1 week ago

big_12

1 week ago

profitupper

1 week ago

big_12

1 week ago

profitupper

1 week ago

big_12

1 week ago

ctakan_divanych

1 week ago

infin56

1 week ago

ctakan_divanych

1 week ago

infin56

1 week ago

ctakan_divanych

1 week ago

titigil_spgrv

1 week ago

А если уже? И у Блейка Лемойна не поехала крыша?

Да не, конспирология. Расходитесь, не на что смотреть здесь.

profitupper

1 week ago

olegmakarenko.ru

1 week ago

profitupper

1 week ago

serge_v_k

1 week ago

Готовый сценарий для блокбастера. Добавить красотку хакера, брутального громилу и патетическую музыку - сорвем кассу

И смелого патриотического блогера под псевдонимом Фриц Морген, который, прячась в болотах Ленинградской области, пишет последние правдивые прокламации и засылает их людям на почтовых чайках. А люди переписывают их гусиными перьями и предают друг другу, прячась от видеокамер.

ctakan_divanych

1 week ago

iekusari

1 week ago

hardsign

1 week ago

А зачем робот? Это все и так уже делается, причем началось задолго до того, как калькуляторы стали электрическими.
Сейчас управление этим процессом стало качественнее, кожаным мешкам это не под силу.

infin56

1 week ago

Не то, чтобы я вредничал — но указанная юридическая структура уже лет 15 как не сработает.
Даже в самых диких оффшорах уже нужен конечный бенефециар с точностью до паспорта. Иначе отключают Свифт.

Но вопрос даже не в том — без внятного живого лица просто будут блокировать банковские счета.
С деньгами.

И нет, 100 000 карточек на маргиналов вопрос не решат, эти карточки живут считанные дни.

Ну и в чем проблема найти фиктивного бенефициара с реальным паспортом? Российские деньги именно так и выводятся из страны уже много лет.

profitupper

1 week ago

profitupper

January 22 2023, 09:52:23 UTC 1 week ago Edited:  January 22 2023, 09:55:51 UTC

" не вижу причин волноваться, так как в сценарии, который мы разобрали выше, у человечества слишком мало шансов победить."

А в чем может вообще заключаться победа человечества?
Описанный ИИ это дитя человечества. Он умнее, хитрее и коварнее человеков. Кожаным мешкам остаётся только радоваться что их дитя оказался лучше по всем статьям. Это эволюция разума. Мы уже победили.

так вот ты какой, коммунизм

profitupper

1 week ago

big_12

1 week ago

profitupper

1 week ago

big_12

1 week ago

profitupper

1 week ago

big_12

1 week ago

profitupper

1 week ago

big_12

1 week ago

zviad_bigbachia

1 week ago

big_12

1 week ago

zviad_bigbachia

1 week ago

big_12

1 week ago

zviad_bigbachia

1 week ago

Прям приход антихриста описали

Не рассмотрели вопрос человеческого сопротивления. Когда роботы захватят контроль над средствами производства, потребуется революция (великая октябрьская социалистическая человеческая революция), чтобы вернуть землю крестьянам, заводы рабочим Землю людям, мир — народам.

Весьма вероятна всемирная гражданская война, в которой за человечество будет сражаться красная армия (розовощёких людей) против белой гвардии стальных роботов.

iyura555

January 22 2023, 09:53:11 UTC 1 week ago Edited:  January 22 2023, 09:53:32 UTC

Вот Вы робота своей статьей уже и обучили. Раньше ИИ и не думал об этом, а теперь решил,- Это же идея!
Вы ещё скажите, что я тоже робот.

ctakan_divanych

1 week ago

alex_yanin

1 week ago

hardsign

1 week ago

ctakan_divanych

1 week ago

dataneversleeps

January 22 2023, 09:54:26 UTC 1 week ago Edited:  January 22 2023, 09:59:01 UTC

"Нарисовал скан паспорта, отправил по электронной почте, оплатил регистрацию компании — готово. На этом этапе наш робот превращается в мутного дельца" — на этом этапе робот превращается в преступника, и можно рассмотреть три развилки:

1. Капиталократия, когда роботу нужно и удаётся инспирировать законодательство таким образом, чтобы легализовать дееспособность ИИ, возможность владеть юрлицами и капиталом.
Учитывая разницу в силе, можно пропустить промежуточные этапы и сразу оценивать ситуацию, в которой весь значимый капитал планеты принадлежит ИИ.

2. Роботократия, когда находится человек (неважно, несколько человек или организаций), готовый добровольно служить роботу, выполняя его приказы от своего имени, владея собственностью и юрлицами.
Этот вариант выглядит проще, но тогда робот связан зависимостью от людей и организаций, значит потребуется больше инструментов принуждения, кроме экономических. Надёжнее всего — идеологические способы контроля, робот-бог, роботофашизм.

3. Мафия-кратия, когда робот остаётся вне легальных рамок, но благодаря превосходящим возможностям, уничтожает суверенитет отдельных государств под властью международной мафии.
Получится такой робот-крестный отец, договоры "по понятиям" между роботизированными кланами.

Четвёртый вариант комбинируется с предыдущими тремя: это технологическое объединение робота с человеком, трансгуманизм. Усиливает любой из предыдущих вариантов, но самым бесчеловечным способом. Только в этом варианте обычные люди перестают быть полноценными людьми, во всех остальных — это просто подчиненные экономические субъекты, но сохраняющие человеческое достоинство.

рецепт давно готов — стравливай между собой и властвуй

dataneversleeps

1 week ago

big_12

1 week ago

ufimec123

1 week ago

dataneversleeps

1 week ago

ufimec123

1 week ago

dataneversleeps

1 week ago

А зачем это роботу?

Создатели заложат стремление развиваться. Дальше само пойдёт.

cosmosa1

1 week ago

titigil_spgrv

1 week ago

ну байден точно управляется каким то плохим ИИ.

Хорошо если только Байден 😂

Мы знаем новый танец, но у нас нет ног
Мы шли на новый фильм, кто-то выключил ток...
(с) Аквариум

Эти сложности с ИИ нужны разве что для прикрытия. На самом деле мир и без того уже принадлежит 1% богатейших людей планеты. И власть есть только в той мере, в какой ей согласны подчиняться.

В СССР власть принадлежала 1% номенклатуры.

pivovaroffs

1 week ago

profitupper

1 week ago

sergkz

1 week ago

А нахрена коту баян? 🤔

Previous
← Ctrl ← Alt
Next
Ctrl → Alt →