Скорость развития ИИ увеличивается

Немного ужасов по случаю пятницы 13-го. По наводке kvisaz обнаружил заметку Мэтта Шумера, известного в ИИ-индустрии разработчика. По его наблюдениям, «что-то большое происходит» прямо сейчас, и скоро наш мир изменится до неузнаваемости.

До 2022 года над искусственным интеллектом смеялись: все погружённые в тему думали, что это дело далёкого будущего, где-то рядом с вечным источником энергии и полётами к Альфе Центавра. В ноябре 2022 года вышел ЧатЖПТ, который стал настоящим шоком для всех, включая меня. Вскоре стало ясно, что нейросети всего лишь полуразумны: показывая чудеса сообразительности при решении узких задач, в целом они не дотягивают даже до уровня глупого и ленивого кожаного стажёра. Заговорили про кирпичную стену, в которую скоро воткнётся прогресс ИИ: нейросети поумнеют до уровня человека с IQ 95, а потом перестанут умнеть.

Сейчас уже ясно, что никакой кирпичной стены нет: каждый месяц нейросети демонстрируют новые трюки, при этом их способности вплотную приблизились к уровню, когда они могут делать научные открытия и, что особенно важно, улучшать самих себя. Цитирую из статьи господина Шумера (ссылка):

А потом, 5 февраля, два крупных AI-лаба выпустили новые модели в один день: GPT-5.3 Codex от OpenAI и Opus 4.6 от Anthropic (создателей Claude, одного из главных конкурентов ChatGPT). И что-то щёлкнуло. Не как выключатель, а как момент, когда ты понимаешь, что вода поднималась вокруг тебя — и уже на уровне груди.

Для «реальной технической работы» в моей профессии я больше не нужен. Я описываю, что хочу построить, простым человеческим языком — и оно… появляется. Не черновик, который нужно чинить. Готовый результат. Я говорю AI, что хочу, ухожу от компьютера на четыре часа и возвращаюсь — работа сделана. Сделана хорошо, лучше, чем сделал бы я сам, без необходимости правок. Ещё пару месяцев назад я постоянно направлял AI, редактировал, уточнял. Теперь я просто описываю итог и ухожу.

Пример, чтобы было понятно, как это выглядит на практике. Я говорю AI: «Хочу сделать такое-то приложение. Вот что оно должно делать, вот как примерно выглядеть. Продумай пользовательский сценарий, дизайн — всё». И он делает. Пишет десятки тысяч строк кода. Потом — и это было бы немыслимо год назад — он сам открывает приложение. Нажимает кнопки. Тестирует функции. Пользуется приложением так, как человек. Если ему не нравится, как что-то выглядит или ощущается, он возвращается и переделывает это сам. Итерирует, как разработчик: чинит и улучшает, пока не будет доволен. И только после того, как он решит, что приложение соответствует его стандартам, он возвращается ко мне и говорит: «Готово, можешь тестировать». И когда я тестирую, обычно всё почти идеально.

Я не преувеличиваю. Так выглядел мой понедельник на этой неделе.

Но сильнее всего меня потрясла модель, выпущенная на прошлой неделе (GPT-5.3 Codex). Она не просто исполняла мои инструкции. Она принимала умные решения. Впервые возникло ощущение «суждения». «Вкуса». Того труднообъяснимого чувства правильного выбора, про которое всегда говорили: «у AI этого не будет». У этой модели это есть — или что-то достаточно близкое, что различие уже начинает терять значение.

Я всегда был ранним пользователем AI-инструментов. Но последние месяцы меня шокировали. Это уже не постепенные улучшения. Это — совсем другая вещь.

А вот ещё цитата оттуда же, весьма тревожная:

У Амодея есть мысленный эксперимент, который не выходит у меня из головы. Представьте, что на дворе 2027-й. За ночь появляется новая страна: 50 миллионов граждан, каждый умнее любого нобелевского лауреата в истории. Думают в 10–100 раз быстрее человека. Не спят. Умеют пользоваться интернетом, управлять роботами, ставить эксперименты, работать со всем, у чего есть цифровой интерфейс. Что сказал бы советник по нацбезопасности? Амодей говорит: ответ очевиден — «самая серьёзная угроза нацбезопасности, с которой мы сталкивались за столетие, а возможно и вообще».

Он считает, что мы строим такую «страну». В прошлом месяце он написал об этом эссе на 20 тысяч слов — как о проверке, достаточно ли человечество зрелое, чтобы справиться с тем, что создаёт.

Плюсы, если всё сделать правильно, ошеломляющие: AI может сжать век медицинских исследований в десятилетие. Рак, Альцгеймер, инфекции, старение как таковое — многие исследователи всерьёз считают, что это решаемо при нашей жизни.

Минусы, если сделать неправильно, столь же реальны: AI, который ведёт себя непредсказуемо и неконтролируемо для создателей; попытки обмана, манипуляции и шантажа в контролируемых тестах (по документам Anthropic); снижение порога создания биологического оружия; усиление авторитарных режимов до уровня «вечного» государства наблюдения.

Люди, которые строят эту технологию, одновременно более воодушевлены и более напуганы, чем кто-либо ещё. Они считают, что это слишком мощно, чтобы остановить, и слишком важно, чтобы бросить.

Илон Маск обещает, что программирование умрёт уже в этом году. Достаточно будет дать машине задание, и она выполнит его лучше, чем человек (ссылка). С одной стороны, Маск — безнадёжный оптимист, и большая часть его прогнозов провалилась. С другой стороны, он стоял у истоков ЧатЖПТ, а потом сделал вполне работоспособный его аналог, нейросеть Грок. Также у него есть в активе нейроимплант, позволяющий парализованным людям соединяться с компьютером силой мысли. Если Маск и фантазирует, то его фантазии всё же опираются на реальные разработки.

Тем временем первое место в чарте музыки Яндекса занял творческий дуэт робота с покойником: нейросеть поёт песню, сделанную из стихотворения Сергея Есенина «Сыпь, гармоника» (ссылка). Добро пожаловать в киберпанк.

Кстати, на календаре 2026 год. Сергей Есенин погиб при загадочных обстоятельствах в декабре 1925 года, 100 лет назад. Когда я был в музее Есенина под Рязанью, мне говорили, что дело о его смерти засекречено как раз на 100 лет, так что теперь вроде бы доступ к архивам должны открыть. Очень интересно будет узнать, что же на самом деле произошло в тот роковой день в гостинице «Англетер».