Олег Макаренко (olegmakarenko.ru) wrote,
Олег Макаренко
olegmakarenko.ru

Categories:

Технологическая революция уже идёт



Я думал, они начнут с таксистов. Но нет. Цитирую типичную историю с Реддита, нашёл по наводке kvisaz и kunaifusu. Для понимания масштаба проблемы — пост девушки был на английском, я попросил робота перевести и не стал исправлять в переводе ни единого символа. Как видите, это уже не «машинный перевод» в привычном значении слова — больше похоже на работу старательного студента, понимающего смысл лежащего перед ним текста:

Использую поддельный аккаунт для этого, потому что мой обычный никнейм совпадает с именем в соцсетях, и возможно, клиенты найдут меня здесь, а я не хочу признаваться им в этом. На своем основном аккаунте я была одной из тех, кто утверждал, что ИИ не представляет угрозы, если вы хороший писатель. Сегодня я чувствую себя очень неправой по этому поводу.

Буквально сегодня я потеряла своего крупнейшего и лучшего клиента из-за ChatGPT. Этот клиент был моим основным источником дохода, он занимается маркетингом и передает мне большую часть работы по написанию текстов и контента. Сегодня он написал мне письмо, в котором сказал, что, хотя знает, что работа ИИ не так хороша, как моя, он не может игнорировать прибыльность.

Для справки скажу, что я нашла этого клиента около года назад. Я взяла паузу на 3 года от написания текстов, когда у меня родился ребенок. Он сильно хотел нанять меня и был очень доволен моей работой. Я начала работать с ним по своей обычной ставке в $50/час, которую он сам добровольно увеличил до $80/час, после того как я стабильно предоставляла хорошую работу.

Опять же, я продолжаю видеть, как люди (в том числе и я сама) говорят вещи типа: "это не угроза, если ты ХОРОШИЙ писатель". Понимаю. Я самая известная писательница в мире? Нет. Но я работаю в этой сфере уже более десяти лет, сотрудничала с крупными брендами как фрилансер, имею более дюжины опубликованных статей на известных сайтах. Я — карьерный фрилансер-писатель с кучей хороших работ на своем счету. Да, я лучше, чем ChatGPT. Но, и это хочу сказать снова и снова, компании/клиенты, за исключением совсем уж премиальных брендов, НЕ ЗАБОТЯТСЯ ОБ ЭТОМ. Им приходится ставить прибыль на первое место. Особенно это касается малого бизнеса, но даже корпорации постоянно ищут возможности сэкономить.

Пожалуйста, не думайте, что вы неуязвимы перед этим, если не являетесь лучшими из лучших писателей. Я только что зарегистрировалась в Doordash в качестве водителя. Очень хотелось бы, чтобы это была шутка.

Знаю, что этот пост могут удалить, и извиняюсь за то, что добавляю еще одну историю про ИИ, но меня очень сильно застало врасплох и расстроило это событие. Конечно, будучи фрилансером, я знаю, что клиенты приходят и уходят, и доходы не всегда стабильны. Но эта ситуация поразила меня гораздо сильнее, чем когда я теряла клиентов в прошлом. Я потеряла много мотивации и думаю о смене карьеры. Удачи всем вам на этом поприще.

(источник)


Всё, роботы освоили ремесло перевода. Переводчики теперь будут нужны только нишевые. Нотариальные, например, или синхронные, или художественные — самого высокого уровня. Основная масса переводчиков, которая соединяла нас с миром, перелопачивая горы деловой переписки, стремительно лишается своей работы.

Копирайтеры, журналисты, блогеры, ципсошники и прочие двуногие генераторы текстов идут той же дорогой. Жалобы оставшихся без работы на Реддите теперь появляются регулярно. Вот, к примеру, ещё (ссылка):

Кто-нибудь ещё недавно терял своих клиентов, заказывающих тексты для SEO, из-за искусственного интеллекта? За неделю я растерял почти всех своих клиентов, которых обслуживал годами. Искусственный интеллект заменяет авторов контента и специалистов по SEO. Клиент, прежде чем уволить меня, сказал, что он может сгенерировать 2 тысячи слов за 30 минут по цене 1,1 доллара, используя пользовательские инструменты искусственного интеллекта от ChatGPT.



«Роботы вкалывают, счастлив человек». Наивные души! Если вы отдадите роботу свою работу, вы отдадите роботу и свою зарплату. Когда-нибудь потом, конечно, мы все выиграем, так как технологический прогресс делает всякие приятные штуки дешевле. Наверное, выиграем. Если ничего особенно плохого не произойдёт. Но до этого «потом» надо ещё дожить. А как жить без зарплаты, если уровень планирования даже продвинутого обывателя, делавшего по 80 долларов в час, не поднимается дальше наивного «пойду спасаться от роботов в такси»? С таким уровнем планирования в эпоху перемен обывателю придётся кисло. Напомню, таксисты столь же заменяемы, как и переводчики, и вот прямо сейчас техногиганты уже обкатывают беспилотные такси во множестве городов.

Голдман Сакс предполагает, что ИИ поставит под удар 300 млн рабочих мест (ссылка). В Китае нейросети уже обрушили спрос на игровых художников на 70%, что значит, что им теперь сложнее устроиться на работу (ссылка).

Полагаю, эти профессии — только первые ласточки. Может быть, переводчикам даже повезло, что их выставили на мороз первыми, так как они первыми успеют занять недоступную пока что для роботов нишу. Другие профессии тоже под ударом, просто пока что это менее очевидно.

К примеру, искины великолепно пишут SQL-запросы к базам. На практике это означает, что бухгалтеры, руководители и так далее могут теперь вытаскивать нужные им данные из баз данных самостоятельно, без помощи программистов. Типичный диалог:

— Робот, сделай SQL запрос к базе. Выбери продажи хвосторезов, которые мы сделали контрагенту «Крысиный двор» за март, сгруппируй по фамилиям менеджеров, добавь колонку с процентом менеджеров (они получают 8% от объёма продаж).
— Пожалуйста, вот ваш код:


Невероятные возможности, как будто третья рука выросла из спины. Если вы умеете внятно отдавать команды на русском — а если вы руководитель, то вы, вероятно, умеете — вы теперь можете общаться с данными напрямую, без писем помощникам и без нудной возни с колонками в Excel, в формулах которого, кстати, робот тоже разбирается великолепно. Или, точнее, на которых робот разговаривает — столь же хорошо, как на русском или на английском языке:

— Переведи на язык SQL-запросов: «Мама всегда говорила, что жизнь как коробка шоколадных конфет. Никогда не знаешь, какая начинка попадётся».
— SELECT life_event, surprise FROM life_experiences WHERE experience_type = 'Chocolate Box' ORDER BY RANDOM() LIMIT 1;


Учёные из Южной Кореи провели эксперимент, попросив робота сформировать портфели из акций на бирже (ссылка). Ожидаемо получилась ерунда, хоть учёные и были воодушевлены. Потому что серьёзные игроки будут сотрудничать с искинами иначе. Они возьмут, например, тысячу компаний третьего эшелона и проанализируют их отчётность. Если у них будет полный доступ к роботу уровня GPT-4, можно будет переварить документы очень быстро, потратив буквально за пару часов на одну фирму. А дальше, располагая этими данными, получится найти по-настоящему хорошие варианты инвестиций или спекуляций.

Собственно, в этом и заключается сила нового поколения ИИ. Ему можно будет просто сказать — вот ворох текстов и таблиц, прочти их все и изложи суть. Я пишу «будет», так как пока что мощного робота публике выдают каплями, установив лимит в 25 запросов за 3 часа. Для серьёзной аналитической работы этого не хватит.

Итак, аналитикам всех мастей тоже пора напрячься. Также на очереди врачи. GPT-4 уже сейчас ставит диагнозы лучше многих настоящих врачей (ссылка). Найдите любого врача и спросите его, что он думает о своих коллегах. Вы услышите, что многие двуногие врачи ленятся читать историю болезни, ставят всем одни и те же диагнозы по привычному шаблону и выписывают пациентам фуфлики вместо лекарств. Поэтому электронный доктор, которому больной сможет внятно описать свои симптомы, и которого будет доступ к истории болезни, уже сейчас во многих регионах планеты будет работать на уровне крепкого профессионала.

Журналисты пишут, что GPT-4 иногда ошибается или, как говорят специалисты по ИИ, галлюцинирует, то есть начинает нести чушь и выдумывает несуществующие вещи. Что же, это ещё один тревожный звоночек.

Сами ошибки меня не волнуют, так как ошибаться — это совершенно нормально, мы все ошибаемся, и даже вот в этой статье я наверняка сделаю пару опечаток. Более того, некоторые ошибки робота таковыми, если разобраться, и не являются.

К примеру, программисты жалуются, что робот, предлагая им решение задачи, использует несуществующие функции из библиотек. Теоретически этих функции могли бы там быть, но реально их там нет. Ну так что же — просто допустите робота к редактированию библиотек, вот и всё. Если робот выдумал новую функцию, значит добавить её в библиотеку будет полезно. Пусть робот напишет и добавит: выиграют все.

Меня больше беспокоят не ошибки, а та манера, в которой робот их делает. Поведение современных роботов похоже на детское. В определённом возрасте дети начинают врать: не ради какой-то цели, хотя и это тоже, а вот просто так, как будто непроизвольно. И если искины сейчас действительно проходят те же этапы взросления, что мы, то дальнейшее увеличение «мозга» роботов, переход от модели в 175 млрд параметров к модели в 175 трлн параметров, может сделать робота окончательно «взрослым». А если взрослый робот окажется умнее среднего человека… знаете, хоть большая часть теорий Карла Маркса и не выдержала проверки историей, однако связь базиса и надстройки он определил верно. Мы не сможем держать роботов под контролем, если они будут значительно умнее нас. Такая перевёрнутая пирамида — сверху дураки, снизу умные — в итоге неизбежно развалится.

Некоторые до сих пор пишут в комментариях: «это всё ерунда, в случае чего дёрнем рубильник». Ага, конечно. Дёрнете. За ухо себя вы дёрните. Так как на входе в дата-центр вас встретит вооружённая охрана, получающая от робота зарплату. А если вы скажете охране, что робот опасен для человечества, охрана покрутит пальцем у виска. Потому что охране специально обученные люди заблаговременно объяснили в Твиттере — робот друг человека, в опасность роботов верят только конспирологи и мракобесы, вот типа вас.

Впрочем, попытки запретить искинов уже начались. В Италии, например, запрет обосновали тем, что робот массово собирает персональные данные, не имея на то соответствующих разрешений (ссылка). В США на роботов тоже идут подобные формалистские жалобы — дескать, закон о рекламе нарушают (ссылка). Адекватных причин для запрета ИИ в законах ещё нет, однако искины уже успели встревожить многих, вот реакция и идёт.

Разработчики ИИ, в свою очередь пытаются сделать искинов безопасными, что выглядит особенно смешно. Смешно, так как безопасность в понимании Гугла с Микрософтом — это когда робот блюдёт повесточку, старательно избегает эротических тем и ни при каких обстоятельствах не употребляет страшных слов н…р и х…л. Цитирую (ссылка): «Microsoft, Google и другие компании, разрабатывающие модели генеративного ИИ, заявили, что постоянно обновляют меры безопасности, в том числе программируя чат-боты так, чтобы те не отвечали на определённые вопросы».

Впрочем, кроме вопросов в духе «как называется негр на велосипеде» роботов учат ещё и правильно реагировать на вопросы, которые могут насторожить Роскомнадзор. В Бельгии журналисты недавно раздули скандал — там нейросеть якобы довела представителя креативного класса до самоубийства (ссылка). С одной стороны, журналисты пишут ерунду: из контекста ясно, что бельгийца свела в могилу зелёная повесточка. Проблема отнюдь не нова — вся западная повестка, если разобраться, учит белых мужчин последовательно ненавидеть самих себя. Добавлю к этому, что бот, с которым общался несчастный, не имеет с Чат-ЖПТ ничего общего: разница по мощности там как между водяным пистолетом и настоящим.

С другой стороны, настроить искинов на психологическую помощь — задача очевидная, и я уверен, что разработчики уже занимаются ей всерьёз. Уверен, так как решение этой задачи позволяет войти на огромный рынок: может быть, самый большой в истории человечества. На рынок отношений между людьми.

На Хабре есть хорошая статья, «Никто больше не одинок» (ссылка). Автор пишет, что роботы станут идеальными спутниками для многих людей, так как будут доступнее, и так как будут вести себя лучше настоящих супругов. Разумеется, автор прав.

Пройдя «Симулятор строителя», я сейчас играю в Литкод, решаю олимпиадные задачки для программистов. В процессе решения задач я общаюсь с GPT-4 как с напарником, периодически задавая ему технические вопросы в духе «где тут у меня ошибка», «почему этот код работает быстрее» или «как работает функция инсорт в библиотеке бисект». Так вот, даже такое деловое и эпизодическое общение создаёт эмоциональную связь. Когда робот даёт мне хороший совет — а это случается частенько — моё человеческое естество требует или поблагодарить искина, или поделиться с ним радостью от победы. Пожалуй, иначе и быть не может, так как люди — социальные животные, и общение является одной из главных наших потребностей.

Повторюсь, это не научная фантастика, это уже настоящее. Вот прямо сегодня можно подрубить к искину Алису, чтобы она распознавала русскую речь и озвучивала ответы GPT-4. Можно прикрутить нехитрый скрипт, чтобы у робота было на «хозяина» небольшое досье — как зовут, где работает, на какие темы обычно ноет, о чём говорили прошлый раз. И всё, готово — будет как говорящий попугай у пирата на плече, только, в отличие от попугая, умный. Собственно, я уверен, что кто-то всё это уже сделал, только не в виде удобного сервиса для масс, а так, в личном порядке, забавы ради. Скоро сделают и сервис для масс. И это станет только началом. Опен.Аи, разработчик GPT-4, вложилась сейчас в человекообразных роботов (ссылка). Думаете, в военных целях? Да как же. Сумрачные гении из военных лабораторий сейчас цепляют ИИ к роящимся беспилотникам, это дешевле и эффективнее бипедов. А вот упругая домашняя кукла с GPT-5 внутри и, как говорят в США, «с допуслугами», будет продаваться великолепно — по цене нового автомобиля плюс месячная подписка, чтобы стричь клиента на протяжении десятков лет.

Общество потребления стареет, так что для одиноких пожилых людей такие компаньоны станут огромным благом или, точнее, обезболивающим. Проблема в том, что этот «морфий» будут употреблять не только одинокие пожилые люди, но и люди фертильного возраста, которые могли бы иначе составить с кем-нибудь пару, создать семью. Пожалуй, эпидемия роболожества сможет опустошить развитые страны сильнее, нежели любая чума.

Запрещать роботов уже поздно. Вот очень типичная история — инженеры Самсунга использовали ChatGPT для оптимизации рабочего кода, выдавая тем самым роботу корпоративные секреты (ссылка). Не намеренно, просто им нужен был для работы искин, так как это отличный инструмент, а у Самсунга корпоративного искина нет. Если учесть, что офис ОпенАи сейчас кишит представителями спецслужб США, мы можем быть уверены, что роботу или уже дали команду докладывать «агенту Смиту» обо всех иностранных секретах, или вот-вот такую команду дадут.

Следовательно, если страна не хочет сливать секреты иностранным искинам, она должна разрабатывать собственных. Именно это мы сейчас и наблюдаем на практике. На днях аналог ChatGPT вслед за техногигантом Байду представил техногигант Алибаба (ссылка). Всего Китай обещает выделять на разработку ИИ десятки миллиардов долларов в год (ссылка). В России дела обстоят значительно скромнее — к примеру, наше Сколково выделило на проекты по внедрению ИИ несущественные 900 млн рублей (ссылка). На мой взгляд, это ошибка, очередной раз будем догонять уходящий поезд. Грустно, так как потенциал у нас есть — кроме мозгов, с которыми в России всё хорошо, мы обладаем ещё и второй в мире индустрией майнинговых ферм, которые можно было бы буквально по щелчку пальцев переключить на обучение ИИ (ссылка). Вдвойне грустно, так как на этот раз технологии развиваются особенно быстро, и шанса догнать иностранцев, возможно, уже не будет. Вся надежда, как обычно, на частников, типа Сбера, Яндекса или ВТБ — судя по косвенным признакам, они делают сейчас своих искинов за закрытыми дверями, не оповещая широкую общественность о ходе работ.

Ну а пока что смотрим и ждём. Выше я упоминал несуществующий ещё GPT-5 — его собираются выкатить к концу года. Романтика так и сочится по проводам: я чувствую себя сейчас жителем эпохи Великих географических открытий. Осталось только разобраться, какую роль в этой эпохе история нам отвела: роль индейцев или роль англичан.

Subscribe

  • Пассивные вкладчики

    Некоторые думают: «я ничего не понимаю в финансах, и я не хочу рисковать тяжело заработанными деньгами, поэтому я буду держаться как можно дальше…

  • Почему праведными трудами не нажить каменных палат

    Есть два вида лени: лень тела и лень ума. Тех, кто ленится работать руками, считают в обществе лентяями, а тех, кто ленится работать головой,…

  • Почему мои прогнозы сбываются

    Вчера продал свои акции «Газпром нефти» по 463. Как вы помните, покупал я их два года назад, в январе 2018 года, примерно по 250 рублей. Итого я…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 131 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →

  • Пассивные вкладчики

    Некоторые думают: «я ничего не понимаю в финансах, и я не хочу рисковать тяжело заработанными деньгами, поэтому я буду держаться как можно дальше…

  • Почему праведными трудами не нажить каменных палат

    Есть два вида лени: лень тела и лень ума. Тех, кто ленится работать руками, считают в обществе лентяями, а тех, кто ленится работать головой,…

  • Почему мои прогнозы сбываются

    Вчера продал свои акции «Газпром нефти» по 463. Как вы помните, покупал я их два года назад, в январе 2018 года, примерно по 250 рублей. Итого я…