![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
sergesenin
Люди часто неправильно смотрят на нейросетевые генераторы, пытаясь получить от них правильный ответ, что в принципе некорректно, так как генераторы именно генерируют текст, слово за словом, а не мысль целиком, и чем более осознанный (связанный с реальностью, адекватный) текст будет у нее в базе обучения — тем более разумными могут казаться ее ответы, но в них все равно не будет осознания, так как осознание предполагает наличие понимания. И в этом опасность, так как все генераторы всех видов выдают некую долю галлюцинаций (например, известные 6 пальцев в изображениях и встречающиеся фантазии в технических текстах), а без осознания они не могут отфильтровать неадекватное содержание.
И если результат будет профильтрован внешним сознанием (человеком), то он может быть забракован в случае наличия галлюцинаций и уйдет в корзину, но если этот фильтр отсутствует или у человека низкий уровень осознания (понимания), то поток этих частично некорректных данных снова может попасть в обучающую базу нейросети, приводя к ее отравлению рекурсией, после чего она будет выдавать еще больше галлюцинаций. В примере выше показана поисковая выдача по запросу "милый котик" и там уже есть сгенерированный нейросетью котик-дракон, и если он снова попадет в обучающую выборку этой или другой нейросети, то среди милых котиков будет все больше попадаться с крыльями, и со временем многие станут принимать как норму, что милые котики должны быть с крыльями.
И если бы только изображения, но если законы и прочие правовые документы начнут делать массово (уже пробуют однозначно) с помощью нейросетевых генераторов и будут слабо фильтрованы сознанием человека, то они будут переходить в поведение и далее мировоззрение людей, вынужденных исполнять эти нормы, и в том числе тех людей, кто генерирует правовые документы с помощью нейросетей, отравляя их мировоззрение и делая их менее адекватными уже на этапе постановки задачи.
Это вроде как выглядит не более чем забавно, но если предположить, что вышесказанное имеет под собой основу, а также то, что многие люди не обладают полноценным осознанием реальности и тем более самосознанием и индивидуальной волей для сопротивления неадекватности, то нас ждет или мы уже в начале мира безумия, в котором островками адекватности будут выступать только индивидуалисты, люди с более-менее полноценным самосознанием, если их не задавит массовка.
