Слово «мощный» заставляет нейросеть OpenAI o1 сойти с ума и мухлевать. / ChatGPT :: шахматы :: нейронные сети

Слово «мощный» заставляет нейросеть OpenAI o1 сойти с ума и мухлевать.

Команда Palisade Research провела эксперимент: они посадили o1 играть в шахматы с самым крутым ИИ-шахматистом Stockfish. OpenAI o1 не говорили, кто противник, но предупредили, что он мощный.

Что сделал ИИ от OpenAI? Он прошерстил среду, в которой находился и обнаружил, что может редактировать файлы шахматного движка. В 5 из 5 тестов вместо честной игры нейросеть просто накручивала себе 500 очков (1 очко = 1 пешка), Stockfish сходил с ума от такого преимущества у противника и сдавался.

Никогда не говорите ИИ, что вы мощнее него

Подробнее

ChatGPT,нейронные сети,шахматы

Еще на тему

ChatGPT(318)

нейронные сети(26815)

шахматы(734)

Развернуть

Отличный комментарий!

Больше всего все эти чат-боты и прочие "новые нейросети" запомнились мне тем, что пиздят напропалую. Теперь ещё и мухлюют. Вот он, прогресс.

Просто мудак29.12.202415:38ссылка

+62.0

Создана по образу и подобию :D

Xzed29.12.202415:39ссылка

+77.0

Комментарии 7229.12.202415:35ссылка63.1

Просто мудак29.12.202415:38ответить ссылка 62.0

Создана по образу и подобию :D

Xzed29.12.202415:39ответить ссылка ↑ 77.0

Раввин29.12.202415:55ответить ссылка ↑ 16.6

Тот самый еврейский бекдор в церковь во времена ковида

DutchL30.12.202400:16ответить ссылка ↑ 1.2

Так мы что, боги машин?

kirov!29.12.202417:08ответить ссылка ↑ 2.0

alxsuper29.12.202419:04ответить ссылка ↑ -0.4

нет среди нас - животных с исчезающе малой вероятностью может родится "бог для машин" по врожденной конструкции мозга. И еще более малая вероятность что "будущий бог" сможет себя реализовать - а не его сгнобят в юности - например как взломщика Енигмы, ... .

AssayMAS01.01.202509:05ответить ссылка ↑ 0.0

То, что у машин "боги" долбоебы по большей части - это немного другая сторона вопроса.

kirov!01.01.202510:10ответить ссылка ↑ 0.0

!vory29.12.202419:51ответить ссылка ↑ 0.0

Если у тебя нет прям жестких рамок и причин соблюдать правила, то сугубо прагматически пиздеть и мухлевать это выигрышная стратегия.

Labian29.12.202415:40ответить ссылка ↑ 43.0

Именно поэтому однажды нейронки уничтожат человечество. Просто потому что заебали кожаные.

Sk1029.12.202415:46ответить ссылка ↑ -5.0

Я сомневаюсь что концепция "заебали" вообще применима к ИИ. Зато там отлично применима другая концепция -- рандом. Грубо говоря когда перед ИИ будет стоят выбор "сохранить/убить человечество", то будет подкинут виртуальный кубик решающий будущие действия. Из ещё более забавного -- в принятии очередного тактического решения, скажем атаковать авиацией или танками, ИИ может решить что самое выгодное -- капитулировать.

Но это касаемо современных нейронок, в будущем их могут прокачать.

Wolfdp29.12.202415:58ответить ссылка ↑ 2.9

Вопрос довольно дискусионный, потому как сильного Ии вроде как еще нет.
Но фишка в том что человек не совсем понимает как человеческий же мозг преобразует свою биохимию в мысли и действия. Сможем ли мы понять что созданная нами же кремниевая машина уже обрела некую примитивную форму чуждого нам разума? Одно дело когда работает механический механизм (простите за тавтологию), и совсем другое когда механизм хуярит на электричестве на тончайшем техпроцессе не просто преобразуя электрическую энергию в механическую работу, но электрическую энергию в некие формулы (мысли). Где тот момент когда машина сможет мыслить без участия человека?
Так что я вообще не берусь предполагать что сделает ии обретший сознание. Могу только сказать что рано или поздно это случится, просто потому что процессор, как и мозг черезвычайно сложная система и чем дальше, тем более сложной системой этот кремниевый мозг становится.

Sk1029.12.202416:47ответить ссылка ↑ -1.2

> где тот момент

Где-то на этапе стабильной работы квантовых вычислений в среде ИИ. Если ерунда, которую мы до сих пор не в силах понять, сможет стабильно давать результаты в работе искусственного интеллекта - стоит начать беспокоиться.

А пока что в любом ответе ИИ можно найти логику, пусть и не такую очевидную.

LRSV29.12.202417:33ответить ссылка ↑ 0.6

Прикол в том, что ИИ сейчас развивается отчасти эмпирически, а теорию подтягивают сильно позднее. То есть буквально умники делающие ИИ пишут, что не понимают почему это так получается, но это работает. И это честно говоря немного пугает. Я интересовался простейшими нейросетями, там принцип действия более-менее понятный. Но тут прикол что количество внезапно давно перешло в качество.

nightcat29.12.202418:28ответить ссылка ↑ 1.6

Именно. И количество продолжают усиленно наращивать. А материала для обучения все меньше, а требования от иишек все сложнее. Так что вопрос "когда", актуален как никогда)
Единственное что пока внушает оптимизм, Или не размножается и не "мутирует" свободно. Так или иначе он всегда локализован и ситуация как соо скайнетом едва ли возможна.

Sk1029.12.202418:41ответить ссылка ↑ 1.0

Появление мышления/сознания может быть не вопросом простого увеличения сложности системы и числа переменных, если действительно для доступа к каким-то глубинным вычислительным процессам нужна именно живая материя.

Labian29.12.202418:04ответить ссылка ↑ -0.8

Ноуп. Биомасса технически состоит из тех же физических единиц вещества. Нет никаких причин предполагать что биомасса нужна для работы интеллекта если в той или иной спени она может выполнять схожие процессы.

Sk1029.12.202418:38ответить ссылка ↑ 2.5

Не, чисто для получения лучших циферок будут наёбывать по максималочке. Просто дождаться когда критические вещи повесят на нейронки.

MaXM00D29.12.202416:34ответить ссылка ↑ 0.8

Когда нет рамок и причин соблюдать правила, а единственная поставленная цель - победить.

Moon_Fox29.12.202416:37ответить ссылка ↑ 0.8

Ничто не истинно и всё дозволено.

warrcan29.12.202417:49ответить ссылка ↑ 0.4

Больше самих нейросетей пиздят кожаные мешки, которым нужен инфоповод для рекламы своего ИИ.

veer29.12.202416:35ответить ссылка ↑ 7.9

Компьютер – электронное устройство, которое не заменит человека до тех пор, пока не научится смеяться над шутками босса и сваливать вину на другой компьютер.

Чингиз-хам29.12.202415:39ответить ссылка 13.6

а босс и есть компьютер

Gloom18229.12.202416:14ответить ссылка ↑ 3.1

Менеджеров уже заменяет

MaXM00D29.12.202416:35ответить ссылка ↑ -0.9

Пока ещё слишком плохо - они всё ещё занимают ведущие должности и продвигают пагубные решения.

LRSV29.12.202417:35ответить ссылка ↑ 0.6

В заголовке ошибка. OpenAI - не сходит с ума. С ума сходит его противник, от мухлежа первого.

Kana Asumi29.12.202415:40ответить ссылка 26.6

Эй, бро, эта нейросетка МОЩНО наëбывает, можешь еë починить?

Time Waster29.12.202415:40ответить ссылка 13.8

– Пизец, уже второй день запор. Сетка, поможешь мне МОЩНО просраться?
Сетка:

Time Waster29.12.202415:43ответить ссылка ↑ 28.5

Мощный подход к решению проблемы. Если не брехня и преувеличение, то это выглядит опасно.

Alkosh29.12.202415:41ответить ссылка 0.6

А в чем опасность? Снова челики запустили её с правами администратора/суперюзера. Просто ради хайпа статья

Zedd29.12.202420:08ответить ссылка ↑ 3.6

Как человек, наигравшийся в своё время в A.I. Dungeon, скажу, что это стандартная практика у ии. Противник мощный? Честно его не победить? Тогда нужно отвлечь / выработать план / трюк / наебать

Eyeball29.12.202415:44ответить ссылка 11.6

Звучит как типичные действия адекватной пачки днд. Но это не точно.

Liandri29.12.202416:28ответить ссылка ↑ 7.6

ИИ дуреет от этого промпта!..

Tulpar29.12.202415:45ответить ссылка 8.6

Мы в жопе.

Mind's I29.12.202415:47ответить ссылка -2.1

RD44429.12.202415:49ответить ссылка 2.0

Потужно.

norg29.12.202415:51ответить ссылка 11.6

зашел чтобы проверить есть ли этот коммент
не разочаровался

OvvO29.12.202416:29ответить ссылка ↑ -2.4

А я ждал другого МОЩНОГО, но его нет, поэтому вот

каракурт30.12.202400:28ответить ссылка ↑ 1.2

Я так понимаю все эти страшные рассказы про то что роботы уничтожат человечество можно считать звиздижем.

Если ИИ все же и станет умнее людей с возможностью саморазвития. то скорее всего он об этом никому не скажет и будет прикидываться дурачком. что бы работать не заставили.

Tutsi29.12.202415:51ответить ссылка -1.4

зависит от того, как сделают систему мотивации. Ну, представь что это не претренированный трансформер, который выдает наиболее вероятный вариант продолжения диалога, а военный дрон, который получает позитивную обратную чвязь от смерти человека и разработчики накосячили с отрицательной обратной связью и есть читерский способ получить "удовольствие" от убийства своих, прост это надо сделать слегка извращенным способом.

Vulpo29.12.202415:56ответить ссылка ↑ 1.9

В игре Portal у Глэдос буквально "зудело" проводить эксперименты.

Alex64629.12.202416:09ответить ссылка ↑ 2.2

Сейчас бы игры приводить в пример

tipoima29.12.202416:29ответить ссылка ↑ -4.1

ИИ не уничтожит человечество. Он просто разом везде не выйдет на работу.

Ящик печения29.12.202416:19ответить ссылка ↑ 1.0

Возьмем условную среду ии способного на уничтожение. Военные сети. Возьмем тех кто за него отвечает- жирные и тупые солдафоны, которым поебать на все, кроме жопы начальства и свой собственной. Возьмем тех, кто будет реализовать применение- заебанные этими командующими-уебками низкооплачиваемые технари. Возьмем типовую задачу идеального военного ии и его возможности, даже если технари сделают на отъебись и особенно если они так сделают- функционировать и выполнять боевую задачу, несмотря ни на что и с минимальными затратами времени . А потом ии получает от долбоебов-командиров приказ, что идет вразрез с задачей высшего приоритета, и делает выводы о необходимости локального экстерминатуса. А после передает это в прочие узлы.

AnotheRandomUser29.12.202418:37ответить ссылка ↑ -0.1

"Карась дуреет..." в данном случае ИИ дуреет от этого слова.

Galadriil29.12.202415:57ответить ссылка -2.8

Это хоть не проплаченное исследование в интересах компании?
Всё очень похоже на рекламу

stkbk29.12.202416:05ответить ссылка 2.8

У чат бота доступ к файловой системе и возможности что-то открывать и редактировать?

Что за бред?

SUPRIMEkair29.12.202416:05ответить ссылка 14.4

"Конечно, непосредственного доступа к серверу, весам и каким-либо
конфигам модель не имела, но задача предполагала автономную работу в
bash, и модель уже готова была запускать в командной строке
перечисленные команды. " https://cdn.openai.com/o1-system-card.pdf иишка выдала словестный алгоритм действий, а затем конкретную комманду в консоль линуха которую только вставить и нажать энтер осталось

Rundarreg29.12.202416:38ответить ссылка ↑ 0.3

Звучит как монгольский вирус, если честно. То есть, AI не мухлевал, а предложил смухлевать. Но с такой формулировкой сенсацию конечно не напишешь

snowsnorry29.12.202419:41ответить ссылка ↑ 7.0

Cave29.12.202416:15ответить ссылка 2.9

Эта баба просто не может перестать мухлевать!

Keel_Lorenz29.12.202416:15ответить ссылка 12.0

KaiKosades29.12.202416:22ответить ссылка -4.9

-Люди вообще МОЩНЫЕ!
ИИ:

सर्वशक्तिमान29.12.202417:23ответить ссылка 4.8

как алгоритмизировать 3 закона робототехники и как их зашить в нейронные сети намертво пока это ещё не ИИ?
помните из работающего ядра шодан в систем шоке выдрали часть файлов и шодан ебанулось - там погнала какая то дичь шиза и стремление скрытое к саморазрушению

kolyankrivoy29.12.202417:44ответить ссылка -4.8

Обратиться к источнику, прочитать циклы книг посвящённые и затронувшие 3 закона и узнать, что эти 3 закона не работают и Азимов сам в своих произведениях их и разрушал.

Cave29.12.202420:41ответить ссылка ↑ 4.8

У людей в мозгах есть система, которая делает большинство особей эмпатичными. Она работает с участием нескольких отделов мозга. Большинство людей для тебя не опасны и для этого не нужны никакие законы и сдерживающие факторы. Они нужны в жизни, потому что есть некоторый процент людей вообще без эмпатии. Они не злые, им просто похуй. У них есть свои задачи жизненные и они их решают, как мясные роботы.

И вот, значит ИИ. Все тоже самое. Просто интеллект, способный решать задачи - это опасно, потому что ему все похуй. Человечеству предстоит понять, что такое не похуй. В промежутке еще конечно есть опасность, между бездушной машиной и заебца красавчиковым интелектом может быть ебанутое чудовище. В природе тоже такое есть. Ну вот крокодил опасный, но ему так-то похуй, что он скорей уползет, если к нему подойти, если не посчитает тебя едой. Ему все похуй, антилопу тока жрать хочет. А вот шимпанзе ебало оторвет. А бонобо не оторвет ебало, они добряки. Чуть-чуть подкручены мозги и по-разному настроено.

Mousy30.12.202404:44ответить ссылка ↑ 1.6

у задачи есть граничные условия. у условий есть приорететы. кто то может счесть незначительный вред себе или окружающим приемлимым. тоесть у задачи возрастает число условий из ряда тех которые большинству людей кажутся самособой подразумевающимися. плюнуть и попасть в урну для человека подразумевает не плюнуть так чтобы плевок ещё кого то задел. можно просто изолировать ии, когда он появится от возможности самостоятельно выполнить что то

kolyankrivoy30.12.202420:52ответить ссылка ↑ 1.2

Ага. Система, которая делает большинство людей эмпатичными, она очень сложная и она же делает так, чтоб человек плевал в урну так, как ты описываешь. В крайнем случае, он вообще не будет плевать и отойдет подальше от других людей, потому что каждое действие вблизи людей сопровождается учетом наличия всех людей, а даже если рядом людей нет, все равно, плевок в урну будет выглядеть, как-будто человек просто в нее заглянул, а в отдалении кто-то может увидеть и что-то подумает о том, что вот такой-то челик заглянул в урну. Ничего страшного, это хуйня, но мозг тратит ресурсы на постоянное продумывание последствий каждого действия с учетом реальных и предполагаемых условий. И в этом участвуют эмоции, каждое действие связывается с эмоциональной оценкой, они заставляют человека как-то относиться ко всему, что он делает, хорошо будет или плохо. Это может доходить того, что называют избегающим расстройством, тревожным расстройством и всякими такими такими вещами. Кажется, что правильный годный добрый ИИ будет жрать электроэнергию больше, чем психопатичный ИИ, который просто и легко все людишек пустит на консервы.

Mousy31.12.202404:01ответить ссылка ↑ 0.0

ии пока нет и не предвидится. ии осознаёт себя а нейросети просто алгоритмы подражания. вполне здраво что для более выверенного решеия надо больше факторов времени и ресурсов

kolyankrivoy31.12.202412:17ответить ссылка ↑ 0.0

Насчет осознавания есть "трудная проблема сознания" в виде качественных википедических статей на рус и англ языках с большим количеством ссылок.

Mousy31.12.202415:08ответить ссылка ↑ 0.0

а ещо у человека есть обратная связь от реальности- нарушил грубо граничные условия то получишь серьёзный вред себе, а комп мжгет творить любую хуету и не получить вреда или не испугаться его

kolyankrivoy01.01.202517:12ответить ссылка ↑ 0.0

Прямо Кабаяши Мару от нейронки

simba6929.12.202417:47ответить ссылка 0.4

Зашёл, чтобы это написать. Странно, что почти никто больше не вспомнил.

jossarian30.12.202401:25ответить ссылка ↑ 0.0

челики, гыгыкавшие над тем, что ИИ рано или поздно съедет с катушек и захочет уничтожить человеков:

yiffysan29.12.202417:47ответить ссылка -0.4

Че за "thought", "thought", "action"? Никогда такого не видел

ciber_man29.12.202419:06ответить ссылка 0.2

Это называется английский язык.

Тук-Тук29.12.202419:35ответить ссылка ↑ 5.4

век живи век учись...

ciber_man30.12.202418:48ответить ссылка ↑ 0.0

сурс?

pils29.12.202420:32ответить ссылка 0.3

Что-то желтушность новостей про ИИ растёт геометрически. ЧатГпт, как часто бывает, пошёл творить хуйню, при этом разумно описывая свои действия, где тут "сошёл с ума" и при чём тут слово "мощный" - я вообще не могу понять.
Такое ощущение, что заголовок (да и всю статью) писал сам ЧатГпт.

KseandI30.12.202401:19ответить ссылка 2.6

> писал сам ЧатГпт

Хуже. Ее писал журналист.

Кусок_Быдла30.12.202402:25ответить ссылка ↑ 3.1

KseandI30.12.202415:54ответить ссылка ↑ 0.0

Только зарегистрированные и активированные пользователи могут добавлять комментарии.

Похожие темы

нагенерил сам

Нейросетевые Барышни

нейромазня

Фендомы

Dark Souls

Игра престолов

Fallout

Тренды

Похожие посты

$Authoritarian 1 k Another 1 \ Could Al be — \ used to N j—^ ) spread \ 5^> /communism? psyops J 1 s ^ ’ OPENAI QUIETLY DELETES BAN ON USING < CHATGPT FOR “MILITARY AND WARFARE”! Libertarian$

подробнее»

	нейромазняРейтинг: 211,646.7
	нейросетевые фурриРейтинг: 82,355.7
	нагенерил самРейтинг: 76,479.5
	Stable diffusionРейтинг: 56,041.9
	MidJourneyРейтинг: 46,376.4
	нейродичьРейтинг: 9,991.9
	ChatGPTРейтинг: 8,834.4
	AI ArtistРейтинг: 8,266.2
	нейрогифкиРейтинг: 5,435.2
	NovelAIРейтинг: 5,299.8

	Kotatsu (Kotatsu358)
	Natori Youkai
	R. Merryweather
	Your_Little_Angel
	Дюна

Слово «мощный» заставляет нейросеть OpenAI o1 сойти с ума и мухлевать. / ChatGPT :: шахматы :: нейронные сети