Место для дискуссий

Немного ужасов по случаю пятницы 13-го. По наводке kvisaz обнаружил заметку Мэтта Шумера, известного в ИИ-индустрии разработчика. По его наблюдениям, «что-то большое происходит» прямо сейчас, и скоро наш мир изменится до неузнаваемости.

До 2022 года над искусственным интеллектом смеялись: все погружённые в тему думали, что это дело далёкого будущего, где-то рядом с вечным источником энергии и полётами к Альфе Центавра. В ноябре 2022 года вышел ЧатЖПТ, который стал настоящим шоком для всех, включая меня. Вскоре стало ясно, что нейросети всего лишь полуразумны: показывая чудеса сообразительности при решении узких задач, в целом они не дотягивают даже до уровня глупого и ленивого кожаного стажёра. Заговорили про кирпичную стену, в которую скоро воткнётся прогресс ИИ: нейросети поумнеют до уровня человека с IQ 95, а потом перестанут умнеть.

( Collapse )

Забавный стартап: площадка, где роботы могут поручать людям делать человеческую работу за деньги. Ну, там принести, подать, открутить, попрыгать. Нейросети могут зайти на сайт, выбрать подходящего кожаного и дать ему поручение по сходной цене. На главной странице сайта есть статистика: 190 тысяч человек доступны в аренду (ссылка).

( Collapse )

Пишут, что нейросети буднично начали решать математические задачи, которые были кожаным учёным не по зубам. На каждую задачу у роботов уходит совсем немного времени: они читают условие, задумываются ненадолго и выдают результат. Цитирую (ссылка):

( Collapse )

Ничего особенно громкого о нейросетях в последнее время не слышно, однако это не значит, что прогресс остановился или хотя бы замедлился. Мы стремительно падаем в мир киберпанка, просто привыкли уже к падению и воспринимаем его как должное.

Вот несколько случайных новостей.

( Collapse )

Нам пока что так, ногу слегка колесом отдавило, а вот по странам Запада нейросети уже проехались, как гусеничный танк по рассыпанным на дороге арбузам. Вот несколько историй несчастных иностранцев, у которых роботы уже отобрали рабочие места (ссылка):

( Collapse )

На Западе народ активно предпочитает роботов докторам. Конечно, хороший доктор лучше нейросети, однако это при условии, что у вас на счёте лежит сумма с восемью нулями в долларах (семи нулей недостаточно), и что вы умеете отличать настоящих врачей от шарлатанов.

Большинство жителей Запада этим двум условиям не соответствует, поэтому выбор между кожаным и кремниевым врачом становится сложнее.

( Collapse )

Олдос Хаксли в своём проекте идеального общества рассказывал про мощное лекарство от грусти, так называемую «сому». Цитирую из «Дивного нового мира»:

( Collapse )

Ужасы из научной фантастики проникают в нашу жизнь. Обнаружен экспериментальный образец вируса-шифровальщика на основе нейросетей. Вирус ПромптЛок заражает компьютер через обычные дыры, после чего разворачивает нейросеть, ищет на компьютере особенно ценные для пользователя файлы, шифрует их и требует выкуп.

Это уже не червь, это уже настоящая крыса: полуразумная сущность, способная действовать по обстоятельствам. Защищаться от таких сложнее.

( Collapse )

В Британии вступил в силу закон об «Онлайн Безопасности», запрещающий всё подряд — от эпилептического троллинга до удаления «демократически значимого» контента со своих площадок. Также власти пытаются заставить мессенджеры (типа Вотсапа) сливать им частную переписку пользователей, но мессенджеры пока что отказываются.

Из интересного — теперь сайты должны «эффективно», проверять, что зрителю картинок для взрослых действительно больше 18 лет. Как я понимаю, под эффективной проверкой подразумевается надёжная деанонимизация типа предъявления водительских прав. Наказание за нарушение — штраф до 18 млн фунтов стерлингов и тому подобные жестокости (ссылка).

( Collapse )

Современные нейросети похожи на людей гораздо больше, нежели кажется авторам эмоционально заряженных статей. ИИ — не набор заданных человеком инструкций, как думают отставшие от прогресса скептики, и не бездумный «стохастический попугай», как кажется скептикам более современным. Новые исследования подтверждают, что нейросети укладывают информацию в своих матрицах примерно по тем же принципам, как и люди в своих головах.

( Collapse )