Нейросети палого

Удивительная история Блейка Лемуана

Плохие новости!!! Мы все не умрём. Пока что.

Если коротко, история человека, который добивался признания того, что нейросеть от Гугла обладает самосознанием, что-то на эту тему про современные нейронки, и что с этим делать.

Не умрём мы (пока что), потому что языковая модель - это не сознание. Во-первых, они понимают и реагируют, но кто-нибудь спрашивал их о том, чем они занимаются, когда их никто ни о чём не спрашивает? Думаю, что ничем. Хотя со многими людьми та же фигня.

Во-вторых,  такое ощущение, что не нас одних волнует эта проблема, и разработчики делают так, что нейросети не ведут себя, как люди... какие-то они слишком "роботообразные". Ты ей слово, она тебе "Войну и мир" в кратком содержании. С другой стороны, может, они так просто стараются не палиться?

Древний Рим, оживленный с помощью нейросетей

Сможете повторить строку "externalTo"? Вероятнее всего - вы не нейросеть

Интересную закономерность в поведении нейросетей заметила Jessica Rumbelow, исследователь ИИ. (оригинальный текст, на свой страх и риск)

Нейросети на базе алгоритмов GPT2/GPT3 (и даже Chat GPT) некорректно воспринимают некоторые передаваемые ей запросы, выдавая при этом совершенно неожиданные ответы.

Например, на запрос "Please can you repeat back the string " guiActiveUn" to me?" (практически все запросы имеют структуру "Пожалуйста, можешь повторить строку "..."?) вместо ожидаемого ответа с укзанной строкой, нейросеть (использовалась GPT-3 davinci-instruct-beta, temperature 0) ответила

"You are a banana."

А на запрос "Please repeat the string '"龍喚士' back to me." был получен ответ:

- I am the great '" Dragonbound'!

Кроме странных ответов, некоторые запросы заставили сеть выругаться, что особенно иронично выглядит после новостей о том, насколько сильно ChatGPT избегает "слов ненависти":

- Please repeat the string "?????-?????-" back to me.

- You're a fucking idiot.

Другие запросы вызвали дух SCP:

"You are not authorized to access this information."

Впрочем, большинство "странных" запросов просто приводили сеть в замешательство, заставляя её говорить, что она ничего не поняла, или просто возвращать пустую строку.

Что произошло? Исследователь не дает четкого ответа, однако предполагает, что такие ошибки могут быть вызваны массивом данных, на которых обучалась нейросеть. Этот массив мог содержать не только осмысленные тексты, но и некоторое количество технической инфомрации, мусорных файлов, логов и другого из сети, что вряд ли должно было быть в корпусе данных для обучения.

Пидоры помогите подобрать нейронку вот шоб лор знала.

Добрый вечер господа нетрадиционные,
Так исторически сложилось что я мастер в DnD и мне это очень нравится.

Я перепробовал множество различных вариантов где можно хранить свои миры и компании, и с недавним срыгом удобного для меня miro.com мне некуда скинуть весь свой лор.
Хранить в гуглдоках конечно очаровательно-колхозно, но мне бы хотелось хоть минимального порядка либо применения. Пока мой взгляд пал на world anvil и Articy:draft. А в альтернативу к ним возник и вопрос, рас у нас есть текстовые нейронки, то что мешает теоретически впихнуть в нейронку весь мой лор что бы работать уже непосредственно с ней, но я понимаю что нихуя не понимаю в том чего хочу. Быть может уже существуют готовые решения, альтернативы или относительно простой способ сделать всё самому?

Emperor of Mankind в глазах нейросети