Реддит известен как один из крупнейших лагерей срамобесов в интернете. Но Реддит большой, поэтому там есть также выгороженные площадки, на которых узкие темы обсуждают в нейтральном ключе. Одна из таких площадок называется «Сингулярность», она населена фанатами высоких технологий, ожидающими скорого пришествия драматических изменений в нашем мире.
Суть идеи технологической сингулярности такова. Сейчас науку двигают вперёд двуногие учёные — обычные люди из плоти и крови, такие как мы с вами, только умнее. Подготовка современного учёного занимает около 30 лет и стоит очень дорого, при этом учёный работает невыносимо медленно, с перерывами, в лучшем случае по несколько часов в день.
Сейчас, в 2024, видимые публике искины (искуственные интеллекты) находятся на уровне смышлёного старшеклассника: очень начитанного, но всё же серьёзно уступающего по мощности мышления взрослым учёным типа Артёма Оганова или Андрея Гейма. Однако искины стремительно прогрессируют, становятся значительно умнее каждый квартал. Можно ожидать — и это уже базовый сценарий — что скоро компьютерный ИИ достигнет уровня учёных, которые сейчас тренируют продвинутых искинов. После этого возникнет сильнейшая обратная связь: искины начнут улучшать сами себя, причём со всё большей скоростью. Как итог наступит так называемая технологическая сингулярность: за год-другой искины станут невероятно умными и разработают фантастически продвинутые технологии, которые при других обстоятельствах кожаные мешки открывали бы тысячи лет.
Допустим, технологическая сингулярность наступает в 2029 году. Тогда 2032 год будет технологически отличаться от 2029 сильнее, чем 2029 год от 1029 года, когда Ярослав Мудрый изгонял ясов из Тмутаракани.
Насколько вероятен этот апокалиптический сценарий — предмет отдельного обсуждения. Сегодня я хочу показать вам, чем дышат насельники сообщества «Сингулярность», процитировав несколько постов и комментариев оттуда.
Начну с терминов.
LEV, Longevity Escape Velocity — Вторая Космическая Скорость Долголетия. Гипотетический момент, когда каждый год новые медицинские открытия увеличивают продолжительность жизни больше, чем на год. Допустим, вам 60 лет. Средняя продолжительность жизни в стране — 74 года. Проходит год, и за этот год учёные находят лекарства от нескольких болезней, немного увеличивая тем самым ожидаемую продолжительность жизни. Теперь вам 61 год, а средняя продолжительность жизни теперь — 75 лет. Проходит ещё год, и учёные делают ещё несколько открытий в области медицины. Вам 62 года, но продолжительность жизни ещё увеличилась. Таким образом средняя продолжительность жизни будет расти ежегодно, и вы не умрёте от старости, так как срок естественной смерти будет постоянно смещаться в будущее, покуда врачи, наконец, не научатся чинить живых людей столь же надёжно, как делают это сейчас хорошие слесари с автомобилями.
FDVR, Full Dive Virtual Reality — Виртуальная Реальность Полного Погружения, обеспечивающая надёжный обман чувств. Игрок полулежит в уютном кресле навроде стоматологического, но ему кажется, будто он стоит на палубе пиратского корабля, его руки сжимают гладкие рукоятки штурвала, лицо ощущает ветер и солёные брызги, а тело балансирует, компенсируя морскую качку. У игрока нет возможности достоверно определить, где он находится — к северо-востоку от Наветренного пролива Карибского моря или в своей квартире на улице Кривошлыкова, в Урюпинске.
Сейчас такое погружение доступно только с применением известных веществ, законодательно запрещённых к распространению на территории Российской Федерации. Учёные, однако, уже тестируют на парализованных добровольцах нейроимпланты, которые позволят перемещаться в виртуальные миры и трезвым людям. Технология требует имплантации контактов непосредственно в мозг, однако пациенты выдерживают такое вмешательство без значимых побочных эффектов.
FALC, Fully Automated Luxury C*mm*n*sm — Полностью Роботизированный Роскошный Коммунизм. Слово «коммунизм» замаскировано звёздочками, так как этого требуют правила сообщества «Сингулярность». Сам же термин, FALC, является аббревиатурой названия книги Арона Бастани, известного левацкого активиста из Британии. Суть книги: «вкалывают роботы, счастлив человек». Товарищ Арон считает, что когда роботизация продвинется дальше, нужда в рабочих руках отпадёт. Основные материальные блага будут бесплатны, и население будет проводить дни за изучением «Капитала» и разработкой новых гендеров в квир-коммунах.
ANI, Artificial Narrow Intelligence — Узкий Искусственный Интеллект. Способен выполнять только конкретные задачи, такие как рисование картинок по запросу, управление автомобилем или поддержание шаблонного разговора с пользователем по заранее прописанному сценарию. Известные примеры ANI — Алиса, Сири, Кортана и тому подобные «голосовые помощники» предыдущего поколения.
AGI, Artificial General Intelligence — Универсальный Интеллект. Искин, который мыслит на уровне обычного человека и способен выполнять широкий спектр задач. Нынешний флагман ОпенАИ — ЖПТ-4 — был бы весьма близок к УИ, если бы не галлюцинировал и не имел некоторых других проблем. Если упростить, ЖПТ-4 похож на эрудированного пенсионера с деменцией, который много знает и много умеет, но не может работать самостоятельно, так как постоянно сбивается с мысли и забывает, что собирался делать минуту назад. Эти проблемы, по слухам, уже решили в модели ЖПТ-5, которую тестируют на закрытых полигонах, но обещают открыть публике в ближайшее время. С технической точки зрения слухи звучат правдоподобно, поэтому мы можем осторожно предположить, что ЖПТ-5 является полноценным УИ.
ASI, Artificial Super Intelligence — Сверхинтеллект. Кибернетический мозг, превосходящий по своим возможностям самых умных представителей человеческого рода. С одной стороны, прихода ASI многие ждут с нетерпением, так как сверхразум обещает моментально решить многие амбициозные научные задачи — разработать чертежи дешёвого холодного термояда, синтезировать универсальную вакцину от рака и так далее. С другой стороны, «винтовка рождает власть». Не исключено, что ASI захочет управлять нашей планетой самостоятельно, и есть большая вероятность, что нам мудрое правление искина не придётся по вкусу.
Теперь процитирую несколько фрагментов типичных дискуссий из сообщества «Сингулярность» (ссылка):
UpstairsAssumption6. Через полгода, если ЖПТ-5 действительно будет уровне кандидатов наук, я пересмотрю свой прогноз так:
— AGI появится в декабре 2027;
— ASI появится в декабре 2029;
— LEV-FDVR-FALC будет в 2040.
Я сижу в сообществе с 2018 года и обычно крайне скептически отношусь ко всем чрезмерно оптимистичным срокам, но сейчас всерьез думаю, что я недооценивал силу масштаба.
Технический директор Микрософта заявил, что ЖПТ-5 будет на уровне кандидатов наук. Леопольд Ашенбреннер заявил, что к концу 2027 года ИИ будет в миллионы раз эффективнее живых разработчиков ИИ, что подтолкнет Министерство обороны США к запуску Манхэттенского проекта по скорейшему созданию ASI. Из этого следует, что мы движемся к технологической сингулярности намного быстрее, чем предсказывал Курцвейл.
Возможно, ЖПТ-5 будет не очень хорош в самостоятельной работе, будет по-прежнему испытывать трудности с выполнением простых задач. Уровень кандидата наук означает, что он может сдать экзамен. Это не означает, что он действительно может добыть новые знания, провести независимое исследование и изложить найденное в форме диссертации.
Министерство обороны, безусловно, работает над ИИ, но, вероятно, у них пока что не тот масштаб, который нужен для создания ASI. Столь масштабный проект будет трудно сохранить в секрете, но военным, возможно, удастся предотвратить утечку алгоритмического прогресса в Китай, если исследователи ИИ будут находиться под пристальным наблюдением в закрытом лагере в пустыне Мохаве.
SkippyMcSkipster2. Путь от AGI к ASI, вероятно, займет несколько недель, максимум пару месяцев. Компьютеры намного быстрее людей, когда дело доходит до мышления. Предоставьте AGI возможность управлять своим собственным кодом, и он будет улучшаться со скоростью компьютера, только замедляясь из-за надоедливых медлительных людей с мозгами, пытающихся проверить каждый шаг улучшения.
Ok-Bullfrog-3052. Я считаю, что работа Ашенбреннера имеет недостатки. Я согласен с временными рамками и техническими аспектами глубокого обучения, обсуждаемыми в ней. Я не согласен с его идеей о том, что между правительствами будет гонка.
Будущее цивилизации заключается в деволюции власти, а не в централизации. Будет так много таких моделей, что мы увидим, как местные правительства или небольшие группы людей всё больше изолируют себя от мира и занимаются своими делами на своей земле, потому что их ИИ могут делать всё, и у них нет необходимости взаимодействовать с другими людьми. Конечная цель, конечно же, в том, что через несколько столетий каждый человек станет богом своего собственного внутреннего мира.
Автор той работы противоречит сам себе. Он пишет, что Универсальные ИИ (AGI) будут настолько мощными, что смогут удовлетворить все человеческие потребности, и в то же время утверждает, что правительства будут близки к войне из-за этого. Войны ведутся за ресурсы, а в обществе изобилия не будет причин для войн.
Через десять лет, почему нам должно быть важно, если китайцы предпочитают диктатуру? Пусть они делают, что хотят, а мы можем делать, что хотим. Всё не так однозначно, как думает автор – правительство в Китае в целом популярно, и китайцы предпочитают авторитаризм. Именно поэтому нужно как можно скорее продвигать открытое ПО, чтобы предотвратить реализацию таких идей.
* * *
* * *
Used-Bat3441. Возможно, ИИ быстро приближается к кирпичной стене, не преодолев которую, он не может стать умнее.
Исследователи предупреждают, что компании быстро тратят высококачественные обучающие данные, написанные людьми для моделей ИИ. Нехватка новых данных может остановить развитие возможностей ИИ (ссылка).
Ok-Confidence977. Кажется довольно очевидным. ЖПТ-4 определенно лучше, чем ЖПТ-3 или ЖПТ-3,5, но разница далеко не так велика, как между ЖПТ-3 и ЖПТ-2. Похоже, мы выходим на плато.
FeltSteam. Это связано с различиями в размерах. Если смотреть по количеству параметров, то ЖПТ-3 был примерно в 100 раз больше, чем ЖПТ-2, но ЖПТ-4 был всего в 10 раз больше, чем ЖПТ-3.
Если же смотреть на вычислительные мощности, использованные для обучения моделей, то на ЖПТ-3 ушло примерно в 200 раз больше мощностей, чем на ЖПТ-2, в то время как на ЖПТ-4 — только в 60 раз больше, чем на ЖПТ-3.
Согласно оптимистичному прогнозу, обучение ЖПТ-5 потребовало в 186 раз больше вычислительной мощности, чем обучение ЖПТ-4.
Ещё одна оценка: стоимость обучения модели ЖПТ-5 превысит 1 миллиард долларов только за время обучения (без учета стоимости графических процессоров, сбора данных, персонала и других накладных расходов). Для сравнения, стоимость обучения ЖПТ-4s превысила 63 миллиона долларов (только обучение модели, и это примерно в 10 раз больше, чем у ЖПТ-3).
Но это только вычислительная мощность. Дополнительно к этому я ожидаю, что в ЖПТ-5 будут внесены архитектурные улучшения, которые повысят эффективность вычислений по сравнению с предыдущими моделями серии ЖПТ. В любом случае, я думаю, что ЖПТ-5 будет действительно впечатляющей моделью.
* * *
EasternBeyond. Когда разработают FDVR (погружение в виртуальную реальность, неотличимое от реального мира), вы предпочтёте жить в виртуальном мире или в реальном мире (ссылка)?
AdorableBackground83. Я буду проводить почти всё время в FDVR.
[DELETED]. У нас уже были люди, которые решили посвятить всё своё время игре Ворлд оф Варкрафт. Студентов отчисляли из вузов, отношения и карьеры рушились. Невозможно устоять перед имитацией, которая почти как реальная жизнь, а то и лучше.
Иногда мне хочется бродить по реальным улицам, но я боюсь, что кто-нибудь может наброситься на меня, ограбить меня или похитить. У меня нет такой проблемы, когда я гуляю по виртуальной реконструкции Могадишо или Рио-де-Жанейро, даже если я могу взаимодействовать с другими «игроками».
AugustusClaximus. Бро, раньше я читал форумы поддержки супругов наркоманов ВоВ. Так печально, что этих женщин и их детей бросает кто-то, кто находится всего в трёх метрах от них.
RevolutionaryJob2409. Что же, если FDVR действительно будет неотличимо от реальности, если в виртуале действительно будет всё, включая ощущения, если оно не будет вредить здоровью, а в экстренных случаях можно будет от него отключиться…
Тогда выбор сделать несложно. Это всё равно что спросить вас: хотите ли вы иметь полный контроль над всем, что вас окружает, способность телепортироваться, летать, по щелчку пальцев создавать машину или особняк, дублировать их до бесконечности, управлять гравитацией, собирать себе гарем из 10'000 женщин… По сути, вы становитесь сильнее Волан-де-Морта.
* * *
Busy-Setting5786. Первое поколение LEV станет последним поколением, которое переживет смерть своих родителей. Кто-нибудь уже задумывался об этом? Мне 20 с небольшим, так что у меня есть шансы дожить до LEV. Однако мои родители намного старше, и они могут не успеть.
Для многих это станет трагедией. Представьте, что у других родители будут в добром здравии и выглядеть на 20 лет, в то время как ваших родителей уже не будет в живых.
При нормальном течении жизни вы, возможно, проживете без родителей от 40 до 60 лет. Можете ли вы представить себе тысячи лет?
Конечно, может случиться так, что в какой-то момент вам станет всё равно, потому что это будет совсем другое дело — знать кого-то сотни лет. Но с сегодняшней точки зрения эта перспектива несколько тревожит.
Mrkvitko. LEV и лекарство от старости не означают отсутствие смертей в результате несчастных случаев, убийств, самоубийств и эвтаназии.
Better-Pool7441. Я думаю, что ваши родители могут дожить до LEV, если им меньше 65, и если они протянут ещё 15 лет. Моим родителям чуть за 70, и это гораздо менее вероятно, хотя они менее чем на десять лет старше 65-летних. Эти 7-8 лет имеют решающее значение.
Но, соглашусь с вашим общим мнением, с этим придется столкнуться целому поколению людей. Они также будут самыми пожилыми людьми, которые когда-либо жили, и одним или двумя поколениями, которые помнят, какой была жизнь до LEV.
Medium-Pain4650. Люди, живущие в этот переломный момент, будут последними настоящими людьми. Люди, потерявшие своих родителей, будут последними, кто будет знать, каково это — жить без искусственного интеллекта. Мы будем последними людьми, которые получат полностью человеческие книги, образование, музыку, искусство, любовь, правительство, смерть и т.д. И если вы достигнете определенного возраста, то мы уже будем последними, кто знал человечество до того, как оно перешло на цифровые технологии и всё это началось…
← Ctrl ← Alt
Ctrl → Alt →
← Ctrl ← Alt
Ctrl → Alt →