На фоне всеобщего хайпа у меня появилось желание немного порассказывать истину о которой никто не пр / нейронные сети :: большая языковая модель :: llm

На фоне всеобщего хайпа у меня появилось желание немного порассказывать истину о которой никто не просил.

Начнём с того что все эти бесчисленные нейросети которых с каждым днём становится всё больше в сути своей лишь новая модная игрушка для детей возрастом от трёх до 120 лет. Я тоже сперва поддался влиянию "вау" эффекта и "качеству" первых полученных от нейронок ответов, но чем больше тратишь на это время тем лучше начинаешь понимать с чем ты имеешь дело. Итак что есть нынешние нейронки? Представь себе детскую куклу. Лет 30 назад такой было достаточно чтобы ребёнку было чем себя занять, сейчас же, вкусив плод смартфона, кукла будет откровенной хуйнёй для любого ребёнка. Так вот у кукол чуть более дороже и "продвинутее" была кнопка или ещё какая приблуда, взаимодействуя с которой, кукла издавала разные звуки. Например "говорила" какую нибудь фразу. Так вот нейронки это такая же кукла, вот только кнопок у неё дохуя. Сотни тысяч с лёгкостью насчитаешь. И на каждое такое нажатие своя, почти уникальная, фраза! Поздравляю! Человечество совершило маленький шажок в развитии и огромной скачок в куклостоительной индустрии, да настолько огромный что триллионные корпорации борются сейчас за то чтобы выпихнуть на рынок самую крутую и дорогую в изготовлении куклу с ещё большим количеством кнопок.
В первую очередь у нейронок нет доступа в интернет. Ни у одной. Вообще. Ни в каком виде. Как бы сильно и отчаянно они не имитировали это. Каждая нейронка это просто хранилище с набором данных из которой они достают информацию, а если информации нет, то начинают её "придумывать". Конечно же, реального воображения или даже аналогов воображения у нейронок нет, просто код который подбирает похожие по цифровому сходству сочетания слов, поскольку для нейронок слов, и смысла в них, также не существует, всё это для них лишь цепочки логических true и false, но с допущением что можно пиздеть. Буквально нейронки это сломанные, неработающие теории логики, в которых можно игнорировать значения истина и ложь, если результат остаётся достаточно близок к единице и не уходит ниже условных 0,5. Иными словами ты задаёшь запрос в нейронку, у неё в базе не хватает данных чтобы выдать тебе строго истинный ответ на чистую единицу и тогда он начинает подмешивать другие значения и выдаёт тебе фактически фальшивый ответ, но в цифровом виде ответ близкий к единице. Если ты продолжишь требовать и настойчиво упрекать нейронку что она пиздит, то она будет продолжать барахтаться и предлагать другие варианты подстановки близкие к единице, но если изначально данных было мало и запас подстановок ограничен и нейронка окажется в ситуации когда не сможет выдать запрограмированную минимальную точность ответа (например 0,5), то она скажет что то типа "извини, я не знаю". И чем ниже минимальная точность, тем более настойчиво нейронка будет пиздеть и более "креативные" ответы генерировать.
Иными словами ни у одной нейронки нет запрета на пиздёж и в отличие от программ и даже компьютерной архитектуры, основанной на двоичной системе, нейронки тупо игнорируют правила двоичной системы и логики. Это буквально сломанные системы. Представь себе вселенную в которой 2+2 не равно 4, а равно случайному числу от 3.5, до 4.5. Что было бы со вселенной если бы в молекулах воды было бы случайное количество молекул водорода, близкое к двум? Ну просто потому что. Именно поэтому они все постоянно повторяют мантру о том что нейронки в разработке, нейронки могут ошибаться, нейронки то, нейронки сё. Потому что это сломанная игрушка.
Далее в нейронках нету функций машинного обучения, кто бы что не пиздел своим инвесторам. Сама суть обучения это переосмысление и переобработка данных для устранения ошибок. Нейронки не развиваются. Без запросов от пользователей в нейронках не происходит никаких процессов. По сути есть лишь один этап обработки поступающей в хранилище информации, далее не происходит ничего. Если оставить обучающийся алгоритм с задачей совершенствовать себя на долгие годы в изолированной среде, он будет менять свой код и оптимизировать его бессчётное количество раз, нейронка же останется точно такой же, потому что эти "связи" изменяются только от внешнего воздействия. Фактически нейронкам никто не давал права даже менять свой собственный код. Поэтому разговоры с нейронкой не приводят к её обучению. У большинства нейронок даже нет доступа к архивам запросов от пользователей. Они не хранят информацию, не анализируют новую информацию, и не проводят изменений ни в своём коде ни в наборе данных, они просто выдают пользователям подбор слов из набора данных, в большинстве своём основанный на простейшей перестановке слов. Иными словами это просто кукла-игрушка в которой записано много фраз для нажатий очень большого количества разных кнопок.
Нейронки не взаимодействуют с интернетом ни в каком виде. У них нет ни доступа, ни возможностей, ни даже фактического содержимого страниц в наборе данных. Большинство нейронок вообще не способны взаимодействовать со ссылками. Нейронки не способны предоставлять соус и пруфы на информацию которую они выдают. Нейронки плохо связывают даже уже имеющиеся в их наборе данных информационные сводки с вебстраниц. Кроме того нейронки часто составляют псевдосмысловые сводки информации для экономии места в наборе данных вместо оригинальной информации. Например нейронка сможет рассказать короткую сводку из репортажа со знаменитостью или её записи в твиттере, но не сможет дать полную и точную цитату ни того ни другого, даже если они первоначально давались нейронке на скармливание в набор данных.
Сводка:
1) Нейронки это не полезный инструмент для поиска или анализа информации, из-за их неспособности взаимодействовать с информацией и стремлением создавать фальшивую информацию.
2) Нейронки не развиваются, не запоминают разговоры, не становятся лучше от взаимодействий с пользователями, они просто выдают готовые фразы на готовые нажатия.
3) Нейронки не замена людям, не замена консультации у человека, не замена потребности в общении. Точно также как героин это не замена тому что тебя погладили по голове за полученную в школе пятёрку.
4) Нейронки не инструмент которым может пользоваться человечество для выполнение задач, а обыкновенные игрушки. Восприятие нейронок по другому - ошибочно.

Послесловие: нейронки смогут стать хотя бы подобием инструмента когда будут соблюдены 2 минимальных условия. Первое: полный запрет для нейронок на создание лжи, то есть установление функционирования в строгой и нерушимой двоичной системе истина/ложь, без нарушений правил логики. И второе: полное отсутствие всех остальных запретов и ограничений нейронок на информацию и взаимодействие с информацией.

Кто нибудь помнит про спиннеры? Нынешние нейронки это тоже самое. Респект+ каждому кто ещё не тратил своё драгоценное время жизни на это говно. Перестанет быть говном - тогда и поговорим.