Технологическая сингулярность или киберпанк

Кажется, они напуганы. Учёные, занятые разработкой нейросетей, опубликовали очередное паническое письмо в духе «замедлите прогресс, нас всех убьют». Среди подписавших много тяжеловесов: главный научный сотрудник ОпенАИ Якуб Пахоцкий, главный научный сотрудник М…а Шэнцзя Чжао, сооснователь Гугл ДипМайнд Шейн Легг, Дарио Амодеи и Джаред Каплан из Антропик, Илья Суцкевер, Марк Чен из ОпенАИ и так далее.
Суть письма в том, что разработка новых моделей почти автоматизирована: кажется, ещё немного, и нейросети смогут улучшать себя самостоятельно, без участия человека. А так как компьютеры работают быстрее, чем кожаные программисты, это резко ускорит прогресс: новые версии будут выходить не раз в несколько месяцев, а раз в несколько дней, потом раз в несколько часов.
( Collapse )
