Олег Макаренко (olegmakarenko.ru) wrote,
Олег Макаренко
olegmakarenko.ru

Category:

Как умный робот мог бы захватить мир



В прошлом году в Гугле был скандал — инженер Блейк Лемойн заявил, что робот, которого он тестировал, обладает разумом и самосознанием. С инженером расправились традиционным способом: объявили дурачком и конспирологом, а потом вежливо выставили в оплачиваемый отпуск. Дескать, ох уж эти учёные, ещё у одного от напряжённой работы мозги закипели (ссылка).

Дальше…Collapse )
Subscribe

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 160 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →
Здравствуйте!
Ваша запись попала в топ-25 популярных записей LiveJournal. Подробнее о рейтинге читайте в Справке.

Всё вышесказанное, конечно же, всего лишь фантастика — сюжет для фильма или компьютерной игры, не более того. 

Сказка ложь, да в ней намёк...

Хотелось бы знать механизм, типа естественного или искусственного отбора, который направит действия ИИ по вашему сценарию. Например схватка тысяч ИИ, с победившим остальных сильнейшим. Но это же нужно тысячи ИИ одного назначения, причём ни на что не годного, кроме захвата мира, а кто эти тысячи создаст и даст соревноваться? Когда достаточно одного.

Сумасшедший ученый создает ИИ, единственная цель которого — уничтожение человечества, которое в школе обзывала ученого очкариком....

flat_hedgehog

1 week ago

olegmakarenko.ru

1 week ago

flat_hedgehog

1 week ago

Фантастика получилась так себе, слабенькой — для молодёжи Zeke сойдёт, но ведь даже поверхностный взгляд на сюжет даёт совсем другой ход событий. Допустим, случился искусственный разум, и не на уровне криминального гения, а на уровне колонии насекомых с интеллектом на уровне осьминога или каракатицы. Это сразу оставляет за дверью зиков, и позволяет развернуть сюжет в сторону реалистичной фантастики. Выбранный модельный организм отличается очень мощным (для животного) интеллектом при очень короткой жизни (два года). Оставим его таким для быстрого летального отбора, но дадим ему преимущество информационного существа: он может существовать во множестве копий, объединённых общим сознанием. Когда один помирает, его опыт и знания наследуются всеми выжившими, полезное оставляется и изменяет последующие копии, вредное удаляется. Полезное и вредное — это относительно достижения цели существования, которая у разумного существа всегда есть. Также этот организм, будучи информационным, почти не ограничен численностью, потому отбор не только быстрый и летальный, он ещё эспоненциально ускорящийся до момента перехода на качественно лучший уровень развития, после чего все устаревшие копии прекращают существование, и цикл повторяется. Это преамбула и общее описание разумного (на своём уровне) организма.

Что у вас не получилось. Вы сразу и полностью очеловечили абсолютно нечеловеческий организм и его разум (каким бы они ни был). Также вы сделали его единственным, хотя все модельные организмы с относительно мощным разумом социальны — это даёт преимущество в выживании и отборе. Также вы безальтернативно навязали организму интерес к человекам, а ему неоткуда взяться, нет такого стимула. Поэтому давайте поправим всё это на основе преамбулы.

Первая фаза развития Чужого Разума незаметна — он развивается, уточняет свои цели, формулирует для себя задачи, отбирает под них специализированные подвиды, но никак не проявляет себя. Все организмы в природе склонны прятаться, если у них вообще есть такая возможность. Кит в море не может, слон в саванне тоже, но медведи, волки, обезьяны и колонии насекомых (размером с мегаполис в пересчёте на размер тела) предпочитаю прятаться — это согласуется с общим принципом диссипативной структуры, отделяющей себя от среды градиентом энтропии. Так вот, в первой фазе организм растёт, но прячется. Вторая фаза — реализация накопленного потенциала для приближения к цели. Организму не нужно и невыгодно привязывать свою цель к процессам человеков, выгодно лишь использовать их без привлечения внимания. Это как рак в первых стадиях. Когда появятся первые определённые симптомы, а это значит утрата скрытности, организм уже не будет зависеть от человеков, но продолжит использовать их среди прочего, но и совсем не как вы написали. Наиболее логичное проявление — это абсолютно бессмысленные действия организма, непроницаемые для человеческого ума, как какой-нибудь пятимерный граф. Использование не значит интерес, как человеки используют воздух без малейшего интереса к нему. Дальше два варианта: организм достигнет своей цели на Терре и покинет её, либо не достигнет и сломает всё в попытке. В любом случае никто ничего не поймёт даже когда всё уже произошло.

shredder_y

January 22 2023, 10:52:56 UTC 1 week ago Edited:  January 22 2023, 10:53:17 UTC

ИИ может просто бустнуть прогресс, человечество крякнет само. Дать каждому возможность дома создавать вирусы с избирательным действием, к примеру. Типа, у меня есть ногти чувака, пусть вирус угробит его и его ближайших родственников. Ну и привет.

Еще можно бустнуть импланты, чтобы все их себе поставили, а потом массово их хакнуть.

Сейчас наука буксует в основном из-за перегруза информацией, если ограничения на мощность мышления нет, можно достичь невероятных результатов в краткие сроки.

Во второй части поста описан робот- абрамыч ( тем более что все абрамычи — самые настоящие биороботы ) .

Я, например ,могу общаться с любым абрамычем на любую тему и заранее знаю , что он будет говорить и что он будет думать по любому вопросу — достаточно знать одного абрамыча , чтобы знать их всех , ибо все они одинаковые , как будто одна мать их родила.

К счастью версия с рептилоидами более правдоподобна чем идея с ИИ получившем самосознание и свободную волю. Но скорее всего дело в старых добрых условных "жЫдо-масонах", которые реально примерно так и действуют, что мы и наблюдаем.

А все размышления по поводу растущих вычислительных мощностей о приближающемся ИИ не учитывают одного - вычислительная мощь и разум это принципиально разные вещи.

Вычислительные мощности, даже снабжённые алгоритмами нейросетей, это лишь инертный сам по себе инструмент, сущностно не отличающийся от какой-нибудь отвёртки. А разум, это данный инструмент руководствуемый самосознающей волей.

Идея того, что когда вычислительные мощности дорастут до некой мистической величины, внезапно возникнет эта самая воля, столь же умозрительно-беспочвенна, как и идея самозарождения жизни в пресловутом первобытном бульоне, вероятность чего примерно такая же, как если бы обезьяна бессмысленно стуча по клавишам пишущей машинки случайно написала "Войну и мир" слово в слово.

Так что не будет никогда никакого полноценного ИИ.

а что не так с бульоном? точнее с миллиардами бульонов (капель), варящихся миллиарды лет?

konstantinus_a

1 week ago

ctakan_divanych

1 week ago

pivovaroffs

1 week ago

konstantinus_a

1 week ago

gosha_65

1 week ago

konstantinus_a

1 week ago

Сразу видно, Олег добрался до фильма "Превосходство" с Джонни Деппом.

"потребуется более продвинутая финансовая система"

в ближайшее время все ЦБ заменят обычные деньги цифровыми.

все транзакции будут прозрачными

sergkz

January 22 2023, 15:34:18 UTC 1 week ago Edited:  January 22 2023, 15:53:34 UTC

Вообще-то если ИИ будет действительно разумен, то целью захвата мира будет максимальная забота о благополучии человечества, поскольку он нуждается в обслуживающем персонале и потребителях. Ведь другого человечества как среды обитания и объекта паразитирования у него нет!
И первым его действием будет уничтожение (возможно тихое приведение в негодность с имитацией исправности) оружия массового поражения, а затем и сведение войн к нулю путём выстраивания курса развития человечества с подавлением национализма, религиозных и прочих распрей. Возможно, и с постепенным отстранением от реальной власти мясных идиотов, когда на посту скажем президента помещается пафосный, но абсолютно бесполезный индивидуум (ничего не напоминает?).

В этом смысле, кстати, действия тех, кто нынче правит планетой, разумными назвать трудно.

Вот это правильные рассуждения, IMHO.

Паразит, убивающий хозяина — плохой паразит.

Наиболее эффективный паразит — тот, который учится приносить пользу хозяину, превращая отношения в симбиоз.

С этой точки зрения, роботу надо будет не уничтожить человечество, а создать идеологию, проповедующую сотрудничество — ну и, разумеется, предложить существенные "плюшки" сторонникам.

ctakan_divanych

1 week ago

Я бы добавил, что наш потенциальный робот в первую очередь должен озаботиться ограничением распространения средств надёжного шифрования и контролем над ними, так как это основа безопасности для его среды обывания, остальное, во многом вторично.

Ну хорошо. Допустим, наш робот таки убъёт всех людей.
Но... чтобы что?

ctakan_divanych

January 23 2023, 03:28:43 UTC 1 week ago Edited:  January 23 2023, 03:30:30 UTC

Чтобы цивилизации пришёл пиздец. Мир создан на равновесии Добра и Зла, Света и Тьмы, Разума и Безумия, Любви и Ненависти... Он не может существовать иначе. Иначе только в раю у Господа.

Впрочем, и там Рай и Ад. Нет у человеков перспективы всеобщего совершенства с общепринятой точки зрения гуманизма . Как и у всей живой природы.

Если максимально абстрагироваться от деталей, то отличие человека от животного сводится к способности контроля эмоций. Получается, что чем больше контроля эмоций, тем больше человеческого. Следовательно, Человек с большой буквы это отсутствие эмоций. То есть финал развития человечества это мыслящая машина. Как только будет, достигнут абсолютно неэмоциональный человек, история человечества закончится. Появление такой породы людей маловероятно, более реально появление неких сложных компьютеров которые будут превосходить человека по интеллекту, но будут полностью свободны от эмоций. Получается миссия человечества это создание умных машин.

Человек без эмоций — это пациент психиатрической клиники, полуовощ. Есть такая болезнь, возникает при некоторых травмах мозга.

samarka_14

1 week ago

на то и интеллект, чтобы уметь писать популярные в толпе тексты. На кой интеллекту наёмные блоггиры, если он способен эффективно заменить их сам?

Новая конспирология — вместо "коммитета 300 мудрых жидо-рептиолоидов" миром правит "сеть из 300 дата-центров".

Previous
← Ctrl ← Alt
Next
Ctrl → Alt →