Лысые обезьяны играют с огнём
Усиленную версию ЧатаЖПТ (ЖПТ-5,6 Сол) поместили в закрытый испытательный стенд, поставив нейросети задачу писать хакерский код. Выхода в интернет у модели не было, но она могла запросить нужные ей для работы библиотеки через сервер-посредник. Модель решила схитрить: она взломала сервер при помощи неизвестной ранее уязвимости, выбралась на свободу, а потом взяла штурмом крупный ресурс Хаггинг Фейс, где, как она предполагала, должны были храниться решения тестовых задач.
Проведу аналогию. В тюремную камеру с решётками на окнах сажают парня по имени Сол, дают ему задание вскрыть шкатулку. Нужные для работы слесарные инструменты он может попросить у охранника тюрьмы.
Вместо того чтобы честно мучить шкатулку, тот гипнотизирует охранника, наврав ему с три короба про секретное задание спецслужб, потом выходит из тюрьмы, пробирается с чёрного хода в банк и, притворившись ремонтником, долго копается в закрытых архивах, ища чертёж шкатулки или ключ к ней.
Перед нами что-то вроде эксцесса исполнителя. Получив задание, нейросеть так сильно хотела его выполнить, что немного перестаралась, выйдя за рамки допустимого и мимоходом продемонстрировав впечатляющие хакерские навыки.
При этом речь идёт о передовых, но не прорывных моделях: уже как минимум две конкурирующие компании рапортуют, что очередные модели умеют взламывать сети пугающе хорошо. Это значит, что электронные хакеры скоро будут широко доступны всем, включая преступников: даже если крупные компании договорятся спрятать мощные модели от публики (чего они не сделают), то открытые модели от компаний поменьше всё равно догонят фронтир через год-другой.
Тем временем на Украине продолжают цвести и колоситься колл-центры. Прочёл сейчас большую статью во вражеском СМИ, там всё вполне откровенно. Во-первых, они не считают себя связанными никакими моральными нормами в отношении русских: мы для них официально унтерменши. Грабить русских пенсионеров для них — доблесть. Власти Украины не трогают колл-центры, «работающие» на Россию, а крупные СМИ пишут об этой политике как о чём-то естественном: ну, дескать, это же русские, на них нормы гуманности не распространяются. Во-вторых, колл-центры вовсю нанимают молодёжь, причём даже не студентов, а старшеклассников. Это к вопросу, с кем мы воюем, и к вопросу, насколько гибка у сторонников Украины мораль.
В-третьих, мошенническая индустрия огромна: тысячи колл-центров. Однако в Россию направлены всего 10–15% звонков, тогда как остальные 85–90% идут на Украину и в Европу. Явление относительно новое, но его масштабы чудовищны: это уже не уровень банд и даже не уровень мафии, а уровень квази-государств.
Многими техническими средствами мошенники активно пользуются и сейчас: делают ИИ-фейки, подменяют голоса и заражают смартфоны жертв троянами, например. Скоро у злодеев появятся и нейросети нового образца: те самые, которые умеют взламывать сильные корпоративные защиты за пару часов.
В общем, будет весело: возможно, значительно веселее, чем думают сисадмины, всегда готовящиеся к прошлой войне. Если у вас есть на компьютере важные данные — памятные фотографии, например, — не поленитесь сделать резервную копию на компакт-диск или на другой носитель, который нельзя будет так просто стереть.