Мы в процессе формирования монстра

[sergesenin]

Ошибкой будет предполагать, что разработка сильного искусственного интеллекта обязательно приведет к созданию физически отдельного от людей разума. Если можно сгенерировать с виду вполне осмысленный текст, то нет никаких преград аналогично генерировать поведение, обучившись на поведении других разумных существ, и это поведение будет не менее осмысленным с виду, чем генерируемый текст, с той лишь разницей, что здесь в качестве входных данных для обучения у нас есть множество сенсоров в Интернете (лайки, перепосты, вовлеченность и так дальше), а в качестве выходных данных могут или уже используются сами люди, у которых низкий уровень самосознания, которым сгенерированное поведение без преград и фильтра самосознания проникает в мировоззрение и мотивацию.

И таким образом значительная часть человечества становится таким себе крайне высокоэредированным монстром, состоящим из включенных в информационное поле людей с низким уровнем самосознания и нейронных сетей, предобученных на поведении людей и имеющих в качестве исполнителей миллиарды подчиненных сгенерированному поведению людей. Монстр, который не имеет своего полноценного самосознания, который начинает брать для дальнейшего обучения модели поведения сам от себя, все больше отравляясь рекурсией и генерируя неадекватность, которая раньше, до нейронных сетей, в значительной мере фильтровалась и отбрасывалась теми из нас, кто обладает самосознанием и индивидуальной волей.

И вот среди этих людей с низким уровнем самосознания и нейронных сетей растворены люди с относительно высоким уровнем самосознания, которые офигевают от многих происходящих событий и считают, что мир понемногу сходит с ума. На самом деле это так и есть, и если влияние нейронных сетей продолжится дальше, то или все погрузится в хаос сумасшествия и шизофрении, или подчинится индивидуальной воле тех из нас, кто сможет сохранить индивидуальную волю, оставаясь подключенным в информационное поле.

Простой вывод: чтобы удержаться и не потерять индивидуальность, нужно проявлять волю, сопротивляться проявлениям неадекватности окружающего мира любого типа и не принимать ее за «новую норму» хотя бы на уровне личного мировоззрения.

Comments

[p2004r.livejournal.com]

Скорее (раз социум это среда из коммуницирующих агентов) надо заполнять социум "правильными базовыми смыслами" (словами-понятиями). Из правильных слов-смыслов получаются правильные выводы (в среднем), а не ситуация с составлением слова "счастье" из не подходящих букв. )

[sergesenin.livejournal.com]

В моем понимании, то ставить всеобщее счастье высшей целью — это крайне опрометчиво, так как достижение такой цели неизбежно ведет к деградации (упрощению мышления), потому что счастье не предполагает развитие (усложнение) любого вида как результат преодоления трудностей, а только то, что можно назвать блаженством. В блаженстве нет не только развития или усложнения, но нет даже поддержания текущего уровня сложности, поэтому блаженство обязательно ведет к упрощению и упадку сложности мышления в том числе. Не претендую на истинность, так как многие считают, что именно счастье позволяет человеку развиваться и усложняться.

Касательно наполнения социума правильными базовыми смыслами, то для однородности системы все коммуницирующие агенты социума-среды должны в идеале не задавать себе вопросы о своем предназначении и не делать даже малейших попыток ОСМЫСЛЕНИЯ самих себя как активных элементов, потому что это с высокой вероятностью приведет к формированию у них собственной воли. И если наполнять такой вот однородный социум нужными и хорошими базовыми смыслами, то мы получим тот же социум, что и раньше, но наполненный другими смыслами, НО ТОЖЕ БЕЗ ОСОЗНАНИЯ. Это как некое озеро меняет цвет с красного на синее, но НЕКОМУ ОСОЗНАТЬ из красителей воды этого озера, что это другой цвет, поэтому какая разница, каким оно будет цветом?

В моем понимании именно появление в социуме "дефектных агентов" ("неправильных элементов" с самосознанием и волей, которые способны на осознание себя инструментом реализации личной воли, а не только воли социума) и стремление "стандартных агентов" (массовка) к ассимиляции и поглощению первых, чтобы сделать "правильными", и является первопричиной развития социума и самого вида социального существа как следствие этой внутренней часто очень жестокой борьбы между индивидуальностью и стремлением к ее поглощению. Я это называю как "изначально созидательное добро, которое стремится нас уничтожить".

[p2004r.livejournal.com]

Объект оптимизации в такой сети "сами сообщения". По сути индивидуумы мало что решают "эн масс".

Какой "словарь подсунут", такие сообщения в сети "в среднем" и начинают вытеснять остальные. Собственно это закон любых "эволюционных оптимизаций" — "должен остаться только один" ))).