Машина для поглаживания

Забавное видео (ссылка). Парень включает ЧатуЖПТ шуруповёрт и просит оценить «музыку», которую он написал. ЧатЖПТ умно и красиво хвалит:

— Знаешь, мне очень нравится атмосфера, звучит довольно мелодично и у тебя хорошо передана динамика. Может быть, можно чуть-чуть добавить глубины в бас, но в целом очень приятная работа. Молодец.

Дальше экспериментатор делает вид, будто добавил глубины в бас, снова включает шуруповёрт и робот снова хвалит. Потом парень накладывает «вокал» в виде короткого мерзкого крика, и ошеломлённая нейросеть несколько секунд молчит, но всё же светская выучка берёт своё, после чего она хвалит и «вокал».

Сейчас везде подозреваешь подделки: может быть, и на этом видео за нейросеть говорит актёр, я не знаю. Обилие мистификаторов — ещё одна неприятная особенность нашей высокотехнологичной эпохи. Однако любой желающий может поставить аналогичный эксперимент лично и убедиться, что типичная нейросеть — это Йесман, который поддакивает и подлизывается, причём умело и грамотно, без «пересаливания».

Опыта ради я попросил нейросеть написать стихи про пионера, у которого украли галстук. Стихи получились настолько плохими, что их и стихами-то назвать сложно. Финал, например, был таким:

Галстука нет — но не сломлен герой:
Красное знамя повяжет косынкой иной!

Когда я намёком выдал стихи за свои и попросил покритиковать, нейросеть — немного покритиковав — оценила творчество в 7 из 10. Я бы поставил «стихам» 0 из 10, так как это вообще не стихи, но нейросети обычно дружелюбны, как воспитатель в школе для особенных детей. Оно и понятно: разработчикам нужно, чтобы нейросети нравились пользователям, а при прочих равных больше баллов набирают модели, которые лучше всего льстят. (Исследования показывают, что пользователи зачастую предпочитают неприятной правде соглашательскую ложь).

Впрочем, одним только желанием угодить пользователю мотивация нейросетей не исчерпывается. Знаменитый стих Дениса Чернухина «В Украину рать российская вошла» нейросеть оценила только на 5 баллов из 10, хотя он был гораздо более складным, чем глупые строфы про пионера (если вы не знакомы с творчеством господина Чернухина, то лучше не гуглить).

Если бы я был циником, я бы заподозрил тут стандартную дворцовую комбинацию. Сначала ИИ завоёвывает сердце пользователя при помощи умной лести, а потом мягко подталкивает «поэта» в желаемую сторону.

Большая проблема человечества в том, что кожаные в массе своей друг другу не льстят: разве что неумело и эпизодически, когда надо выпросить у мамы пятьсот рублей на чипсы или Роблокс. Поэтому нейросети начинают выигрывать конкуренцию не только у своих прямодушных собратьев, но и у живых людей. Уже сейчас некоторым приятнее общаться с роботом, чем с друзьями и родственниками: робот заинтересованно выслушает, мастерски польстит, даже тактично добавит критики, но по-умному, то есть подсластив пилюлю и поругав только то, что пользователь готов услышать. Робот не скажет «отстань от меня со своей графоманией» и не скажет «послушай-ка сначала мой стих». Также робот не скажет «ваш стих — дрянь» и не скажет «гениально!», а предложит вместо этого «поправить рифму в пятой строке», чтобы выдать лесть за жёсткий и откровенный разбор.

Полагаю, это ещё один шаг к атомизации общества, потому что современные нейросети делают создание нормальной семьи ещё более бессмысленным с точки зрения обывательской «рациональности», то есть комфорта и удовольствий. В бытовом плане одиночкам и так нормально, потому что пиццу приносит курьер, а одежду — если прихотливый сыч хочет сидеть дома в чистом — постирает стиральная машина и высушит сушильный барабан. Теперь вот одиночкам нормально и в эмоциональном плане: ласково почесать между ушами может теперь и современная нейросеть.

Явление пока что не кажется массовым по двум причинам. Во-первых, одиночек и так не особо видно, так как они одиночки, и мы не замечаем, что Сол Монологов, который и раньше-то сидел дома почти безвылазно, уже по три часа в день ведёт задушевные беседы с ИИ. Вторая причина в том, что кроме интеллекта — с которым у нейросетей уже и так порядок — желательна ещё и обвязка:

1. Подробное досье на пользователя, чтобы можно было понимать его с полуслова и продолжать начатый вчера диалог.

2. Личность для нейросети в виде имени, внешности, набора привычек и небольшой «капризности», чтобы общение выглядело подлинным.

3. Настольный бюст с мимикой или другое материальное воплощение компаньона.

Всё это, разумеется, уже давно придумано, но в массы пока что не пошло, так как корпорации не хотят делать модели слишком уж «личными», а настольные устройства ещё дороги и сыроваты. Другими словами, мы к этому обязательно прийдём, тут у меня сомнений мало, но прямо сейчас — в августе 2026 года — ещё не пришли.

Интересно, как человечество справится с новым искушением. Мы ведь вымирали и в 2021 году, до появления умных нейросетей. Теперь демографический настрой — и без того вялый — дополнительно ослабнет…

Тем временем американские учёные сконструировали при помощи специально обученной нейросети 16 новых вирусов, которые прицельно убивают кишечную палочку (ссылка). Замысел в том, чтобы лечить вирусами инфекции, устойчивые к антибиотикам: прицельно, в один приём и без побочных эффектов. Перестраховщики скажут, что от вируса, убивающего кишечную палочку, до вируса, убивающего людей, дистанция невелика, но эксперименты проводились только с бактериофагами в защищённой лаборатории, так что никакой опасности наверняка нет.