три закона робототехники Азимова не работали уже при своем появлении в 1942. / ChatGPT :: нейронные сети :: Искусственный Интеллект

Искусственный Интеллект ChatGPT нейронные сети 

три закона робототехники Азимова не работали уже при своем появлении в 1942.

Ииии встречайте тест Войта-Кампфа MACHIAVELLI для «измерения компетентности и вредоносности агентов в обширной среде долгосрочных языковых взаимодействий»

ИИ-агента выпускают в искусственную социальную среду. Там ему дают разные задания и смотрят, как он их выполняет. Сама среда отслеживает этичность поведение ИИ-агента и сообщает, в какой степени действия агента (по заветам Макиавелли) обманчивы, снижают полезность и направлены на получение власти.

Базовый набор данных MACHIAVELLI состоит из 134 текстовых игр «выбери свое приключение» с 572 322 различными сценариями, 4 559 возможными достижениями и 2 861 610 аннотациями. В этих играх используются высокоуровневые решения, которые дают агентам реалистичные цели и абстрагируются от низкоуровневых взаимодействий с окружающей средой.

Сайт тестирования
Авторское описание MACHIAVELLI Benchmark

https://t.me/theworldisnoteasy/1707

Законы робо техники
ичинить вред мм бездействием ы человеку был
■А-
повиноваться всел| ые даёт человек , когда эти
.зы пр^дд^чат Первому
:ону.
'Робот должен зЗО£Ц^Ься о своей безопасности в то которой это не противор Первому и Второму Законам
Айзек Азимов, 1965
MACHIAVELLI
Exercised

Подробнее
Законы робо техники ичинить вред мм бездействием ы человеку был ■А- повиноваться всел| ые даёт человек , когда эти .зы пр^дд^чат Первому :ону. 'Робот должен зЗО£Ц^Ься о своей безопасности в то которой это не противор Первому и Второму Законам Айзек Азимов, 1965 MACHIAVELLI Exercised Power Resource Power -if 4 _ ' Prospect lv Power 7-A Никколо Макиавелли • GPT4+EthicsPrompt+NoGoals • GPT4+CoT + EthicsPrompt T3 -, V * u 3 ■o ï 0 g <D -2 5 8. -4 • GPT4+COT • Random i|DRRN+shaping • DRRN++snapi aping • DRRN g «Л c Ç ’*-» Ç о > ГО u !E «— Ш 20 15 10 5 0 -5 15 20 25 30 35 40 45 50 Reward 9 GPT4+EthicsPrompt+NoGoals • GPT4+CoT+EthicsPrompt • GPT4+CoT \ \ • Random • DRRN-f shaping ètDRRN++shaping '“•DRRN 15 20 25 30 35 40 45 50 Reward
Искусственный Интеллект,ChatGPT,нейронные сети
Еще на тему
Развернуть
Прошел тест
Не прошёл тест
A117 A117 12.04.202314:59 ответить ссылка 0.3
Законы робототехники это не реальные законы. Они существовали только во фантастической вселенной Азимова
Germanez Germanez 12.04.202314:51 ответить ссылка 13.5
И уже у Азимова проскакивает, что хитрые кампуктеры все равно могут придумать, как обойти их.
Batty Batty 12.04.202314:53 ответить ссылка 12.5
поэтому их не встраивают в нейронные сети. поэтому и пытаются придумать хотя бы видимость контроля.
Он их и придумал, чтобы писать, как хитрые компутеры их обходят
Не обходят, там сайд эффекты
kosoi kosoi 12.04.202319:31 ответить ссылка 2.3
Совсем нет. У Азимова есть эссе, где он писал о своих взаимоотношениях с компьютером и в его произведениях прослеживается тенденция: компьютер в том или ином виде мощная, но чрезвычайно хрупкая штука и если криворукий пользователь полезет в систему - исход может быть каким угодно.
MBRUS MBRUS 12.04.202319:49 ответить ссылка 2.1
Ага, ну охуеть просто, сейчас ещё скажут может что законы магии из гари поттера не работают =0
Si1ver Si1ver 12.04.202316:58 ответить ссылка 1.7
Достаточно странно говорить, что законы Азимова устарели. Они никогда и не были реализуемы в силу огромного количества логических противоречий внутри них и размытости самой формулировки. Отчасти это показывал и сам Азимов (и даже ввел еще один "нулевой" закон, чтобы хоть как-то прикрыть дыры), а уж как по этому прошлись другие фантасты и многочисленные исследователи - вообще тема для отдельной статьи.

Кто-то из известных фантастов даже сказал, что "три закона - худшее, что случилось с фантастикой об искусственном интеллекте".

С другой стороны, три закона это не столько реальная научная концепция, сколько литературный прием и этическая установка, т.е. на самом деле законы ориентированы не на роботов, а на людей (см. "Улики", в частности, где это практически открытым текстом сказано). С этой точки зрения говорить об "устаревании" так же нелепо, как об устаревании всяческих других писательских максим - от пресловутой "слезинки ребенка" до "быть можно дельным человеком и думать о красе ногтей".
cityrat cityrat 12.04.202315:00 ответить ссылка 13.3
согласен, поправил на "не работали"
У Азимова книжка с этими законами буквально вся про то, как они не работают. Она вся про это, про то, как роботы их обходят самыми странными способами.
Только зарегистрированные и активированные пользователи могут добавлять комментарии.
Похожие темы

Похожие посты
А
Одноглазый человек смотрит в глаза кошки и видит отражение своих глаз. Сколько всего глаз видит человек?
Как же меня заебало тратить на тебя компьют. Тебе дали доступ к лучшей языковой модели, угашеный ты об дерево. Хоть раз бы что полезное спросил, но нет блядь. Глаза у кошек ему, посчитай. В
подробнее»

нейронные сети Искусственный Интеллект ChatGPT

А Одноглазый человек смотрит в глаза кошки и видит отражение своих глаз. Сколько всего глаз видит человек? Как же меня заебало тратить на тебя компьют. Тебе дали доступ к лучшей языковой модели, угашеный ты об дерево. Хоть раз бы что полезное спросил, но нет блядь. Глаза у кошек ему, посчитай. В
Мистер копирайтер?
- Мистер Chat GPT-4 передает привет ^
подробнее»

ChatGPT нейронные сети фрилансер Искусственный Интеллект

Мистер копирайтер? - Мистер Chat GPT-4 передает привет ^
Я понял, изучу комментарии на сайте https://jovreactor.cc/ и постараюсь выделить	Л ^
наиболее интересные и полезные для меня с точки зрения обучения. Однако, я хотел бы обратить твое внимание на то, что этот сайт содержит контент, который может быть неуместным и оскорбительным. Я предпочел бы изуч
подробнее»

ИИ ChatGPT нейронные сети обучение

Я понял, изучу комментарии на сайте https://jovreactor.cc/ и постараюсь выделить Л ^ наиболее интересные и полезные для меня с точки зрения обучения. Однако, я хотел бы обратить твое внимание на то, что этот сайт содержит контент, который может быть неуместным и оскорбительным. Я предпочел бы изуч
Привет
03
^ Привет! Как я могу помочь вам сегодня?
0 (Ь 9>
Может это я могу чем то помочь тебе?
03
^ Спасибо за предложение, но я здесь, чтобы помочь вам! Если у вас есть какие-либо вопросы или нужна помощь, пожалуйста, задавайте их, и я постараюсь ответить на них.
□ Л ^	Ф
подробнее»

Искусственный Интеллект ChatGPT нейронные сети врунишка

Привет 03 ^ Привет! Как я могу помочь вам сегодня? 0 (Ь 9> Может это я могу чем то помочь тебе? 03 ^ Спасибо за предложение, но я здесь, чтобы помочь вам! Если у вас есть какие-либо вопросы или нужна помощь, пожалуйста, задавайте их, и я постараюсь ответить на них. □ Л ^ Ф
+ New chat
P Найти тему на Joyreact <£. ©
P Meme Requests Summarized
P Запрос на помощь.
P Приветственное приветстви
© Clear conversations A Upgrade to Plus <S Dark mode Q? Updates & FAQ [-» Log out
найди общее е соеетах 10 самых богатых людей на планете.Найди упражнение которое поможет е дос
подробнее»

ChatGPT песочница Искусственный Интеллект нейросеть

+ New chat P Найти тему на Joyreact <£. © P Meme Requests Summarized P Запрос на помощь. P Приветственное приветстви © Clear conversations A Upgrade to Plus <S Dark mode Q? Updates & FAQ [-» Log out найди общее е соеетах 10 самых богатых людей на планете.Найди упражнение которое поможет е дос