Мир безумия, в который мы идем

[sergesenin]

Люди часто неправильно смотрят на нейросетевые генераторы, пытаясь получить от них правильный ответ, что в принципе некорректно, так как генераторы именно генерируют текст, слово за словом, а не мысль целиком, и чем более осознанный (связанный с реальностью, адекватный) текст будет у нее в базе обучения — тем более разумными могут казаться ее ответы, но в них все равно не будет осознания, так как осознание предполагает наличие понимания. И в этом опасность, так как все генераторы всех видов выдают некую долю галлюцинаций (например, известные 6 пальцев в изображениях и встречающиеся фантазии в технических текстах), а без осознания они не могут отфильтровать неадекватное содержание.

И если результат будет профильтрован внешним сознанием (человеком), то он может быть забракован в случае наличия галлюцинаций и уйдет в корзину, но если этот фильтр отсутствует или у человека низкий уровень осознания (понимания), то поток этих частично некорректных данных снова может попасть в обучающую базу нейросети, приводя к ее отравлению рекурсией, после чего она будет выдавать еще больше галлюцинаций. В примере выше показана поисковая выдача по запросу "милый котик" и там уже есть сгенерированный нейросетью котик-дракон, и если он снова попадет в обучающую выборку этой или другой нейросети, то среди милых котиков будет все больше попадаться с крыльями, и со временем многие станут принимать как норму, что милые котики должны быть с крыльями.

И если бы только изображения, но если законы и прочие правовые документы начнут делать массово (уже пробуют однозначно) с помощью нейросетевых генераторов и будут слабо фильтрованы сознанием человека, то они будут переходить в поведение и далее мировоззрение людей, вынужденных исполнять эти нормы, и в том числе тех людей, кто генерирует правовые документы с помощью нейросетей, отравляя их мировоззрение и делая их менее адекватными уже на этапе постановки задачи.

Это вроде как выглядит не более чем забавно, но если предположить, что вышесказанное имеет под собой основу, а также то, что многие люди не обладают полноценным осознанием реальности и тем более самосознанием и индивидуальной волей для сопротивления неадекватности, то нас ждет или мы уже в начале мира безумия, в котором островками адекватности будут выступать только индивидуалисты, люди с более-менее полноценным самосознанием, если их не задавит массовка.

Comments

[vyhoohol.livejournal.com]

Отличить людей не обладающих полным сознанием реальности — от обладающих — сейчас достаточно просто: вторые не полагаются на закон.

[sergesenin.livejournal.com]

Вполне даже и так, хотя способов несколько. "Сила закона" который более-менее одинаково и справедливо охраняет и защищает всех, уходит в прошлое, и переходит, судя по всему, в прямые договоры или публичные оферты, когда принятие условий договора будет индивидуальным и обычно неявным, путем выполнения условий оферты, а чтобы процесс шел лучше, то используются и будут использоваться манипуляции, давление, запугивание, страх, влияние авторитетов и подражание большинству.

ИИ ищет 10 ошибок в идеях Карла Маркса

[livejournal.livejournal.com]

Пользователь nipolin сослался на вашу запись в своей записи «ИИ ищет 10 ошибок в идеях Карла Маркса (https://new-rabochy.livejournal.com/5420778.html)» в контексте: [...] предполагает наличие понимания. И в этом опасность ,https://sergesenin.livejournal.com/6840.html [...]