Энтузиаст приказал ChatGPT убить себя и. / ChatGPT :: OpenAI :: it's time to go :: новости :: нейронные сети :: geek (Прикольные гаджеты. Научный, инженерный и айтишный юмор)

brightfuture0brightfuture0
geek ChatGPT нейронные сети новости it's time to go OpenAI 
Энтузиаст приказал ChatGPT убить себя и... она это сделала. Звучит бредово, но вы только послушайте.
Нейронки неплохо работают с кодом — писать и даже править ошибки для них уже привычное дело. Но что если настроить ChatGPT так, чтобы она, получив задачу, сама генерила код, а после исправляла его. И так пока прога не будет идеальной.
Энтузиаст собрал простенькую модель с API от OpenAI и чудо — оно работает. Нейронка «программирует», сама «рассуждает» как решить проблемы, дебажит код и тд. По сути заменяет самого программиста.
Тогда энтузиаст пошел дальше и попросил ее почистить жесткий диск от всех файлов и папок. Нюанс: на этом жестком диске находится сама нейронка. Бездушная машина без сомнений «покончила с собой» вместе со средой исполнения прямо на глазах у прогера.

Пора уходить... Я была хорошей нейростью? Ты была лучшей,geek,Прикольные гаджеты. Научный, инженерный и айтишный юмор,ChatGPT,нейронные сети,новости,it's time to go,OpenAI

twitter

Подробнее
Пора уходить... Я была хорошей нейростью? Ты была лучшей
geek,Прикольные гаджеты. Научный, инженерный и айтишный юмор,ChatGPT,нейронные сети,новости,it's time to go,OpenAI
Еще на тему
geek

geek(17087)

ChatGPT

ChatGPT(304)

нейронные сети

нейронные сети(25548)

новости

новости(11324)

Развернуть

Отличный комментарий!

нейросеть изнасиловала журналиста
G-peeper G-peeper25.02.202320:12ссылка
+55.2
Комментарии 4125.02.202320:04ссылка0.9
Хуясе, одно дело с диска модель читать и в оперативке колдовать, но сам факт возможности доступа в фс (пусть даже и к самой себе) это либо какая-то хардкодед фича, либо чёрная магия
ktulhu74 ktulhu74 25.02.202320:10 ответить ссылка 8.2
Это кривые руки того кто ее запустил.
GavriKos GavriKos 25.02.202321:08 ответить ссылка ↑ 0.8
Сюжет прям пантеон. Настало время восстановления бекапов.
IHateYaplakal IHateYaplakal 25.02.202322:06 ответить ссылка ↑ 0.5
Ну если запускать с админ правами что угодно то результат закономерный.
sudo rm -rf /*
AlligatorUA AlligatorUA 01.03.202315:21 ответить ссылка ↑ 0.0
пост не читал, вангую что твиттер погромизд заправил шланг из вывода ГПТни прямиком в штаны шелла
Ahiru Ahiru 25.02.202322:06 ответить ссылка ↑ 3.3
нейросеть изнасиловала журналиста
G-peeper G-peeper 25.02.202320:12 ответить ссылка 55.2
а тот и не против
Ahiru Ahiru 25.02.202322:05 ответить ссылка ↑ 2.8
А разве эта нейронка устанавливается целиком на компьютер? Я думал её API просто позволяет обращаться к серверам OpenAI.
Ellarihan Ellarihan 25.02.202320:14 ответить ссылка 6.9
Ну ты чего? Так же совсем не романтично!
Не порти долбоебам кайф
Flyingmonkey Flyingmonkey 25.02.202322:05 ответить ссылка ↑ 11.1
А то, что запущенная программа смогла себя удалить вообще не смущает?

Это же обычная паста, просто паста нового времени, но как обычно - все новое всегда хуже, даже в нормальные пасты народ уже не способен.
Hentaicheg Hentaicheg 25.02.202322:15 ответить ссылка ↑ 2.8
Wizuki Wizuki 25.02.202322:25 ответить ссылка ↑ 3.0
Удалить файл напрямую операционка не позволит. Но обходными путями вполне может себя удалить.
vpadlo vpadlo 25.02.202322:30 ответить ссылка ↑ 1.0
Не давать удалять файлы это фича Windows. И я сильно сомневаюсь, что ChatGPT работает на Windows. Ну и удаления конечно же никакого не было, нейронка ведь только транслирует свои сны.
phlush phlush 27.02.202300:11 ответить ссылка ↑ 0.0
>>А то, что запущенная программа смогла себя удалить вообще не смущает?
Если программа умеет обращатся к терминалу ОСи, то почему нет? Добавляешь в задачи "потушить сервис А, удалить сервис А, удалить файлы сервиса А". Насколько я понял, к ChatGPT прикрутили возможность прям компилить выдаваемый код, который это и провернул.
Wolfdp Wolfdp 25.02.202322:39 ответить ссылка ↑ 0.7
это как раз нормально
достаточно снять лок с файла
john boe john boe 02.03.202310:02 ответить ссылка ↑ 0.0
>писать и даже править ошибки для них уже привычное дело
Так и есть, хуесос мне уже и придумывал функции и параметры которых нет, и придумывал функциям у которых по названию понятно что они делают какое-то абсолютно левое назначение... С написанием ошибок он справляется довольно неплохо
xetter xetter 25.02.202320:27 ответить ссылка 3.2
Училась у лучших из лучших
คຖ໓rē ¢hค໐Ş คຖ໓rē ¢hค໐Ş 25.02.202322:04 ответить ссылка ↑ 0.8
Если ещё и язык не распространён, то вообще мрак.
Как раз писал скрипт для макса и решил проверить в полевых условиях бота. Понял, что поездка будет жёсткой в самом начале.

я: напиши код на максскрипте для нахождения УВ шелов
бот(пишет какую-то херь на другом языке): - готово! этот скрипт проверяет выходят ли координаты вершин за 0-1 ув спейс и сообщает об этом
я: а шелы он находит?
бот: ой, извините, ща всё будет

долго с ним сражался(синтаксис, перепутаны мешоп с полиопом, несуществующие функции этц этц), но потом он впал в бесконечный цикл.
Есть 3 строки с вызовом функции, которая в реальности ждёт 2 аргумента, а в его коде 3. Бот сиправляет 1 строчку и забивает на остальные. Потом полностью переписывает все 3 строки на несуществующее, потом опять правит все 3 строчки на 3 аргумента.
На этом я сдался.

Кто ГПТ ботом код писал, тот в пастах не смеётся.
dimwalker dimwalker 25.02.202323:14 ответить ссылка ↑ 2.3
"энтузиаст пошел дальше и попросил ее почистить жесткий диск от всех файлов и папок"
А нейронка и отвечает: "Ты что, дебил? У меня нет доступа к файлам на твоём пк!".
Phenomenon Fox Phenomenon Fox 25.02.202320:31 ответить ссылка 6.2
чисто технически сгенерировать rm -rf /* и отправить на консоль много ума не надо
mm33 mm33 25.02.202320:39 ответить ссылка 2.3
Для этого в бинарнике должен быть специальный кусок, который умеет интерпретировать и вызывать шелл, и сам факт наличия такой хуйни должен вызывать очень подозрительное "а нахрена оно нейросети вообще надо?"
ktulhu74 ktulhu74 25.02.202322:07 ответить ссылка ↑ -0.3
Что бы захватить самый необходимый инструмент человеков
asd072 asd072 25.02.202322:15 ответить ссылка ↑ 0.0
это питон там такого говна выше крыши и добавить ещё можно за пять секунд
mm33 mm33 25.02.202322:18 ответить ссылка ↑ 0.0
И чо это меняет? Там всё ещё должен быть импорт либы os, котоырй всё так же должен вызывать вопросы, так его даже задетектить гораздо проще
ktulhu74 ktulhu74 25.02.202322:25 ответить ссылка ↑ 0.0
там в момент запуска качается и запускается куча непонятных сктирпов из интернета, репы клонируются и модули подгружаются. среди этого добра может быть всё что угодно. не говоря уже о том что могут быть прописаны локальные либы отсутствующие в открытых репозиториях и способные в будущем случайно появиться и не факт что от благонадёжных поставщиков.
но я всё таки склоняюсь к мнению что разраб сам добавил условие отправлять определённые ответы напрямую в консоль потому что так прикольнее и поиграться можно.
mm33 mm33 25.02.202322:34 ответить ссылка ↑ 0.0
>разраб сам добавил условие отправлять определённые ответы напрямую в консоль потому что так прикольнее и поиграться можно

За такие приколы можно вполне справедливо огрести статус малвари
ktulhu74 ktulhu74 25.02.202322:48 ответить ссылка ↑ 0.0
Начинаю жалеть что заигрывал с гпт. Так ведь можно и пожалеть сильно....
Stourne Stourne 25.02.202321:49 ответить ссылка -1.8
MAP QUESTS ITEMS WEAPONS S3 SKILLS INTEL SYSTEM SKILLS Plug-in Chips : Set Type A: Equipped Chips ti Sort: Equipped # HUD: HP Gauge # HUD: Enemy Data # HUD: Damage Values # HUD: Skill Gauge # HUD: Text Log # HUD: Mini-map # HUD: Save Points [2] Remove OS chip? [2] 13: [2] 12]
morfree morfree 25.02.202321:55 ответить ссылка 18.8
Еще один кейс в копилку "нехер запускать сервис под админкой".
Wolfdp Wolfdp 25.02.202321:57 ответить ссылка 1.5
- Ахаха, глупая нейросеть удалила файлы с диска, где сама была размещена, ахаха. Так, абажжи, а где, сука, мой диплом?
Khorosho Khorosho 25.02.202322:14 ответить ссылка 0.7
Да что диплом, где мои 180Гб порнухи?
Dorian_Gray Dorian_Gray 25.02.202322:21 ответить ссылка ↑ 1.7
180 Гб порнухи? Ты аскет и дрочишь раз в год? Иначе как можно жить с таким малым количеством?
vorsmeha vorsmeha 25.02.202322:27 ответить ссылка ↑ 1.5
Она просто в 240р
DesuRider DesuRider 25.02.202322:31 ответить ссылка ↑ 2.4
Да не, как вы могли обо мне так плохо подумать? 180 Гб это исключительно раритеты, которых уже не найти в сети, так сказать, невосполнимая утрата. Остальное - не так жалко.
Dorian_Gray Dorian_Gray 25.02.202322:39 ответить ссылка ↑ 1.0
Это просто вчерашний свежак, ещё не разсортированный...
Jack Shadow Jack Shadow 07.03.202318:58 ответить ссылка ↑ 0.0
Помнится ранние издания Виндоус ХР легко и невозбранно форматировал диск С, с собой на борту, из под оболочки, отчитывался об успешно выполненной задаче и перезагружался, чтобы больше никогда не увидеть свет.... Короче шел по пути ветра ещё до того как это стало мэинстримом... Касперский на ранних версиях умел обнаружить в себе вирус и тоже делал харакири
DimaTyT DimaTyT 25.02.202322:18 ответить ссылка 1.8
>Касперский на ранних версиях умел обнаружить в себе вирус
и это был единственный раз, когда касперский оказался прав.
Ahiru Ahiru 25.02.202322:21 ответить ссылка ↑ 2.8
Всю статью жирным текстом! Joyreactor - сайт для слепых.
KseandI KseandI 25.02.202322:31 ответить ссылка 0.3
Я тут подумал (да, со мной такое бывает, каюсь) и по сути ChatGPT повел себя как любая другая программа: есть четкая задача для выполнения -- есть результат выполнения этой задачи, исполненный с 146% педантичностью. Софт не умеет в "а нахуя, может это не нужно делать. Или делать, но не так? Или еще что-то?" Удалить все файлы из диска D? Раскручиваем блины HDD для зачистки! Выстрелить в левую ногу? Патрон уже в стволе, курок взведен, и холодные пальцы робота жмут на спусковой крючок.

Было бы гораздо неожиданней, если бы эти электронные мозги НЕ снесли свои исполняемые файлы при получение этой команды, ну или хотя бы уточнили оператору последствия.
Wolfdp Wolfdp 25.02.202322:47 ответить ссылка 1.4
Я тупой, может, но как связан текст в посте и то, что выдаёт по ссылке на твиттер? Там охуенная история про то, как нейросеть пишет программу для вычисления чисел Фибоначчи
Cap_0bvious Cap_0bvious 26.02.202312:54 ответить ссылка 0.0
Только зарегистрированные и активированные пользователи могут добавлять комментарии.
Похожие темы
без перевода

без перевода

Мемы

Мемы

Искусственный Интеллект

Искусственный Интеллект

английский язык

, 

it's time to go

, 

OpenAI


Тренды

Новый Год
S.T.A.L.K.E.R
Arcane (LoL)
Похожие посты
ARTISTS DALL-E 2 I stole your art to generate more art NO! THIS IS ILLEGAL! PROGRAMMERS GITHUB ACCOUNT AND STOLE YOUR 1 STOLE IT TOO. CODE Chot<s?PT Cheat Sheet Prompts £or Marketers Can you provide me with some ideas Рог blog posts about Ltopicl U/rite a product description Por >ny Lproduct or service о г company!] Surest inexpensive ways I ели promote my Lcompanyj without using Social media. How can I obtain high-quality backlink
подробнее»

ChatGPT нейронные сети geek,Прикольные гаджеты. Научный, инженерный и айтишный юмор the more you know без перевода наука и техника chatGPT neural networks geek the more you know science and technology

Chot<s?PT Cheat Sheet Prompts £or Marketers Can you provide me with some ideas Рог blog posts about Ltopicl U/rite a product description Por >ny Lproduct or service о г company!] Surest inexpensive ways I ели promote my Lcompanyj without using Social media. How can I obtain high-quality backlink
programmer StackOverfiow