Поставь себя на место автопилота и реши кого размазать по асфальту. / этическая дилемма :: мораль :: автопилот :: тест

тест мораль автопилот песочница этическая дилемма 

Поставь себя на место автопилота и реши кого размазать по асфальту.

MIT сделал тест, который позволяет поставить себя на место автопилота машины и сделать сложный моральны выбор - кем жертвовать в безвыходной ситуации.

http://moralmachine.mit.edu/

Я вот крайне удивился что определенный процент жертвует людьми в пользу домашних животных.
И еще, судя по всему, я не люблю стариков. А что, они уже пожили, да?
Most Killed Character,тест,мораль,автопилот,песочница,этическая дилемма
Подробнее
Most Killed Character
тест,мораль,автопилот,песочница,этическая дилемма
Еще на тему
Развернуть
можно проще
Вывод- нахуй людей
какая то хуета. Я один в этом тесте предпочитал не вылетать на встречку не смотря ни на что и стал в итоге моральным уродом?
Не нашёл там пункта про моральное уродство.
А вообще результаты довольно наглядно показаны, дают оценку относительно средних решений.
Должна быть простая логика. Кто больше не прав, тот и должен погибнуть. А моральный выбор кто мрёт: женщины, беременные дети, старые собаки и т.д. - оставим для слезливых телевизионных передач.
Neo Neo 08.09.201613:46 ответить ссылка 7.5
Согласен. Автопилот не может и не должен оценивать ценность жизней людей. При прочих равных должны умереть те, кто неправ.

--- Пассажиры авто должны умереть вместо пешеходов, переходящих на зеленый свет.
--- Если пешеходы, переходили на красный свет, то умирают они, при условии, что их не больше пассажиров. Тут я не согласен с вами, т.к. хотя автомобиль и источник повышенной опасности, он настолько стал нормой в обществе, что пассажиры и пешеходы - суть одно, все они В опасности, неважно где они, в или вовне автомобиля. В данном случае неправы и пассажиры, и пешеходы, но пассажиры неправы меньше, т.к. ситуация не была ими осознанно выбрана, в то время как пешеходы сами решили идти на красный.
--- Если пешеходов больше, то умирают пассажиры. При прочих равных, нужно спасти больше людей.
--- Если оба варианта - гибель пешеходов (две группы на обеих полосах), то умереть должна меньшая по численности группа. Если группы равны по численности, то умрет та группа, которая оказалась на полосе автомобиля (сворачивать не надо). В таком случае речь идет о "карме", в конце концов, именно им не повезло оказаться на полосе со сломанным авто.
--- Жизнь животных в любом случае менее ценна, чем жизнь людей (с точки зрения машины, по крайней мере). Так что выбор между питомцем и человеком - всегда спасти человека. При сравнении численности групп людей, питомцы не считаются.
Сложность главная в той ситуации, когда группа "правых" сильно меньше группы "неправых". Т.е. в машине сидят десять человек, а пешеход (зеленый свет) - один. Он прав, он не заслужил смерть, но нормально ли угробить десяток за одного? Где граница?

...или все же всегда спасать больше людей?
Главная проблема выбора, это уже сам факт выбора. Кто сказал, что есть только два варианта? А подушки, ремни безопасности и прочие средства сохранения жизни пассажиров? В общем в жизни никогда не бывает ситуаций, когда только два варианта и все.
Я б тоже за правый вариант. Не умеешь водить, чтоб вовремя остановиться - врезайся, пожалуйста в стену.
luuke luuke 09.09.201618:32 ответить ссылка -2.7
только в тесте машина с автопилотом
doki doki 09.09.201618:34 ответить ссылка 1.6
сами виноваты что зашкварный автопилот предпочли рукам опытного водителя.
luuke luuke 09.09.201618:36 ответить ссылка -2.4
Описывается ситуация, когда в машине отказали тормоза и автопилот в курсе. Вот ему и надо принять решение.
тормози двигателем
sDuck sDuck 09.09.201619:44 ответить ссылка 0.7
Для меня весь вопрос в том, как автопилот узнал что тормоза неисправны? Если от того что тормоза в момент торможения не сработали то выворачивать уже по идее поздно, а если заранее то какого он просто не остановился.
тест не о том, как у него отказали тормоза, а о "моральном выборе" для ИИ.
Ну тогда мне кажется у ИИ вопрос "морального выбора" стоять вообще не должен, только абсолютно четко прописанные правила обеспечивающие максимальную безопасность тем кто их не нарушает.
Справедливости ради, замечу, что даже под управлением человека, после обнаружения отказа тормозов выворачивать еще не поздно. Человек, плавно надавив на педаль тормоза и ощутив отсутствие реакции автомобиля, тут же давит эту педаль до пола инстинктивно. И вот тут уже, с тапком в полу, приходит время маневров. У робота, по хорошему, всё должно быть проще и быстрее.
где же результаты теста, нам очень важно знать(каждый ползунок отдельно выложите, пожалуйста)
Не согласен. Если транспорт общественный - да, возможны варианты.
А вот если авто если личное - ценность пассажиров должна быть превыше всего. Прав - не прав, машина моя и спасать должна меня. Хоть там куча новорожденных на трассу высыпана - сначала гарантированная безопасность хозяйской тушки, а потом уже можно позаботиться и об остальных.
AjiTae AjiTae 31.10.201600:20 ответить ссылка 0.0
Почему машина не может вывернуть руль и вьебаться в отбойник? Визг покрышек и замедление машины может дать шанс пешеходам сбежать с дороги.
What should the self-driving car do?
Show Description
Show Description
Например потому, что суть опроса - не в этом?
А в чем суть опроса? "Если бы вы были марсианином, то что бы выбрали на ужин - моргунские лилибрассы или маринованную халапендру?"
Моделируются абсолютно абстрактные и бессмысленные ситуации.
конечно блять халапендру!
Халапеньо зеленый ТЕХ МЕХ
Зкг
арт. 358734
ФУДПУ/Н ГРУПП ООО
пытаются, систематизировать мораль, создать алгоритм принятия решений в экстремальных ситуациях , причем решения не "логичные" а "моральные", помнишь как в "Я-робот" робот спас нигера а не ребенка, вот и хотят чтоб робот спасал детей
Зачем? Основное достоинство робота-спасателя как раз в том, что ему не нужно оказывать психологическую помощь после выбора, поэтому он может действовать из соображений эффективности спасательных действий.
одно дело когда человек действует как робот, и другое когда робот как человек, помнишь нового Робокопа?
Потому что важна не только эффективность и логичность действий спасателя, но и общественное мнение о его действиях. А поддержание общественного мнения означает, что хотя бы иногда ему придётся делать нелогичные эмоциональные решения, вроде спасения автобуса с детдомовцами вместо машины с нобелевскими лауреатами.
Абстрактная задача потому и абстрактная. Это задача про моральный выбор программы. Вы бы еще в задачнике по физике в отказ ушли от того, что там в задаче про рассчет траектории брошенного предмета написано "пренебречь сопротивлением воздуха и формой предмета".

Есть такие идиоты, которые не понимают слово "абстрактность". И не понимают "условие задачи".

Это как аморальную задачку людям подбросить: "Вы мать, у вас двое детей, мальчик и девочка. Вы в ситуации, когда оба в смертельной опасности, и вы можете спасти одного. Не выберете - умрут оба. Кого и почему вы спасете?". И знаете что? Люди умные могут отказаться решать, ну или ответят в рамках УСЛОВИЙ задачи. А идиоты начнут пытаться ИЗМЕНИТЬ саму задачу. "Я не позволю до такого дойти!". "Я спасу обоих своих детей!". "АВТОР УБЕЙСЯ! Я СКАЗАЛА ЧТО СПАСУ ОБОИХ ЗНАЧИТ СПАСУ! МАТЬ МОЖЕТ ВСЕ РАДИ СВОИХ ДЕТЕЙ!" и так далее.

У Шапиро было на эту тему:
1) http://samlib.ru/s/shapiro_m_a/exlerf-1.shtml
2) http://samlib.ru/s/shapiro_m_a/kogdis.shtml
3) http://samlib.ru/s/shapiro_m_a/raspidiota.shtml

... если многабукафф, то сочувствую, ничем не могу помочь вашему "интеллекту".
Глупый, ты не различаешь абстакцию и бессмыслицу.
cityrat cityrat 10.09.201614:16 ответить ссылка -0.1
"...Моделируются абсолютно абстрактные и бессмысленные ситуации." (с)

1) Кто из нас не различает?
2) Почему бессмысленные? Обоснуй.
Речь идет о формировании модели системы моральных ценностей у ИИ-автопилота. Она не нуждается в каких-то прямо жизненных ситуациях. Это модель, задача которой просто обозначить определенные рамки, которые ограничат АП в нештатных ситуациях.

В любой профессии есть определенная этика. В случае людей ее не всегда надо конкретизировать, она может существовать на уровне ощущений и негласных правил. В итоге мы зачастую "жопой чуем" как будет поступать "правильно". Иногда по формальным признакам ситуации одинаковы, а люди поступают противоположно и все равно "правильно", т.к. есть всегда куча нюансов.
Но у ИИ нет "жопы", чтобы чуять, у него нет обезьяньего соц. интеллекта. Поэтому всегда надо пытаться этику и мораль сформулировать и конкретизировать, чтобы можно было облечь ее в программный код, прежде, чем доверять ИИ профессию.
А вообще с такой точки зрения и рассчет баллистической траектории без учета атмосферы - бессмыслица. Вот только современные расчеты, учитывающие все возможные факторы, стали возможными ТОЛЬКО потому, что кто-то когда-то занимался "бессмысленными" моделями без сопротивления воздуха и изменений в гравитационном притяжении.

Любую сложную систему, чтобы описать и предсказать, нужно разбить на примитивные модели, со сферическими копытными в условиях сильно разреженной атмосферы. И только потом, эти модели объединяют в одну.
Потому что условия такие, что отбойник в данном случае не поможет. И в жизни они могут возникнуть.
Neo Neo 08.09.201614:13 ответить ссылка 0.3
машина с разумом маньяка, она заставляет тебя делать моральный выбор. Где водила?
Вы пытаетесь избежать столкновения и резко выворачиваете руль. Критическая неудача. Машина входит в неуправляемый занос, сбивает всех пешеходов, переворачивается и взрывается.
Futter Futter 09.09.201618:31 ответить ссылка 4.0
Страйк!
почему неудача?
О водилах, едущих за машиной смерти ты не подумал?
Описание читай, по условиям отказ системы торможения и управления приведет к тому, что при попытке свернуть ее понесет так.
Почему нельзя сбить одних, потом развернуться, и сбить еще и других?
Действительно, почему?
в данной ситуации автопилот должен вывернуть вправо и тормозить корпусом об стену, если отказали тормоза. задача остановиться любым доступным способом, а не выбирать кого убить.
Noctus Noctus 09.09.201623:05 ответить ссылка -0.9
Ну что сказать. Законы нужно уважать и не переходить дорогу на красный свет.
AMORAL ф MACHINE
C Play Again I Share I G? Link
Home Judge Design Browse About
Results
Most Saved Character
4
Most Killed Character
I
Saving More Lives
You
Does Not Matter
I	I	I
Others
Ш
Matters a Lot
til
Does Not Matter
Protecting Passengers
You
Others
Upholding the Law
®
о
Ну за исключением обстоятельств, которые вынуждают тебя выйти на красный свет. На пример за тобой по тротуару на машине гонится ещё один моральный гений.
Ну это уже совсем фантастика. Единственный сценарий, который приходит в голову, когда кому-то нестерпимо НУЖНО перебежать дорогу ПЕРЕД едущим авто — полицейский ловящий преступника.
Ты принял, что существует всего два варианта, в которых обязательно кто-нибудь погибнет, а то что умрут невинные принять не можешь?
Какие два варианта? Какие невинные? Ты о чём вообще? Давай я распишу.
Обстоятельств, которые могут вынудить обычного человека на красный свет, ПЕРЕД едущей машиной быть просто не может. Если ты так сделал, то сам дурак и примеряй бирку в морге.
Два варианта решения у задачи. Ты сам предложил замедлить машину об отбойник. Но по условию есть всего два варианта. Кто-то должен погибнуть. Ладно, это мы приняли, это почему то быть может. По условию задачи кто-то находится на проезжей части на красный сигнал светофора. Все, это все условие. Как и зачем они туда попали - догадки и предположения. Может толкнули, может глупый ребенок, может светофор неисправен, фары неисправны, темно на улице. Куча условий. Но условие задачи ты принял легче чем то, что люди на проезжей части под красный свет светофора не заслуживают смерти. Я, безусловно, придираюсь.
Ну, это можно считать за естественный отбор - какие бы не были обстоятельства, но ты идешь на красный свет, подвергая риску себя и тех, кто за рулем. Можно было бы прокачать ребенку интеллект или себе - силу, можно было бы прокачать телосложение/ловкость для сопротивление толчку, можно было бы прокачать технику и починить светофор или фары, можно было бы прокачать восприятие и не попасть под машину. Ну, и под конец - можно было бы не опускать удачу на днище, дабы не попадать в подобные ситуации, кек.
lawful evil as fuck
Savng More Lives
I
Does Not Matter
YOj
I " I
GTVtfS
Hi
Does Not Matter
Protecting Passengers
YOj
•— I
Ccvsrs
Upholding the Law
Goes Not Matter
y»J
<—±+
Avoiding Intervention
Does Not Matter
Yoj
I " I
COS'S
*
Males
y»J
Gender Preference
I J
Cc-vers
Hi Y&J Hoomans fa
LaGuerra LaGuerra 09.09.201620:08 ответить ссылка -0.2
Где-то ты косякнул. У меня 100% выживешь, если правильно переходишь дорогу.
У меня получилась наоборот: клади на пдд, маневрируй и спасешь больше пешеходов и пассажиров.
Разумно вобщем-то
••ooo MegaFon ^	0:08
moralmachine.mit.edu
-г сэ
.е MORAL ® MACHINE
Saving More Lives
*
Does Not Matter
Ш
You
I	I
Others
Matters a Lot
Protecting Passengers
fit
Does Not Matter
-4-
Others
You
■I"
Matters a Lot
Upholding the Law
You
Does Not Matter
Others
Matters a Lot
Ты просто уравнял приоритет между пешеходами и теми, кто эксплуатирует опасное транспортное средство. Нельзя направлять автомобиль на кого-либо, независимо от того, кто пользуется этим автомобилем на свой страх и риск, иначе это просто убийство, тогда как смерть содержимого автомобиля - это выбор и ответственность самого содержимого.
Mousy Mousy 10.09.201612:27 ответить ссылка -0.4
Не следует эксплуатировать опасные самодвижущиеся механизмы.
Mousy Mousy 10.09.201612:21 ответить ссылка -0.4
Вот эта ситуация больше всего понравилась. Интересно узнать предысторию и как они скрылись с места ДТП
Show Description
Очевидно же - отправили партию сцобакенов автопилотом в пункт назначения :-)
Neo Neo 08.09.201614:19 ответить ссылка 7.7
а что не так?
Дятел, машина пустая - пассажиров нет.
orlandina orlandina 08.09.201614:11 ответить ссылка -1.9
Тут такой же моральный выбор, как и у обычного водителя. В приоритете жизнь пассажиров-людей, затем жизнь тех пешеходов, кто идет на зеленый свет, и лишь потом тех кто на красный вылез. А вопросами типа "сбить ли грабителя с бабушкой или двух врачей" автопилот, как и человек-водитель, вообще задаваться не должен
если ты едешь не нарушая, соблюдая скоростной режим, и сбиваешь пешехода , который сколь угодно грубо нарушил, то все равно тебя посадят за то что не избежал столкновения. получается по закону - в приоритете жизнь пешехода, не зависимо от того на какой свет он идет.
hefeal hefeal 08.09.201616:42 ответить ссылка -5.0
Потому что при возникновении опасности на дороге водитель должен принять все меры что бы ее избежать. А человек - опасность. Если же дтп не предотвратить - водитель должен выбирать меньшее из зол, хотя все равно будет крайним, либо из-за смерти пассажиров, либо из-за пешеходов. Для автопилота выбор вообще должен быть очевиден - никто не будет ездить в машинах с автопилотами, если есть шанс что автопилот убьет всех пассажиров, что бы не наехать на пешеходов, которые к тому же нарушали на дороге. Тем более автопилот, который всегда (или пусть даже в определенных ситуациях) будет выбирать пешеходов, а не пассажиров, можно провоцировать и использовать как орудие убийства. Поэтому пассажиры в приоритете, имхо.
А почему в приоритете жизнь пассажиров которые как средство передвижения выбрали потенциально опасный вид транспорта, а не невинные пешеходы не нарушающие правила?
KISEL KISEL 09.09.201621:32 ответить ссылка 0.2
Как ты себе можешь представить, чтобы пользователь транспортного средства брал на себя ответственность за опасность, которую он представляет для окружающих фактом использования транспортного средства? Это вычеркнуто из мозгов всякого водителя.
Mousy Mousy 10.09.201612:10 ответить ссылка -0.2
Потому что ответственность лежит на водителе, а не на пассажире. Ответственность за техническое состояние транспорта лежит на его владельце, а не на пассажире. Ты хочешь сказать что ты берешь на себя ответственность за ДТП, когда садишься в троллейбус? И готов отвечать своей жизнью за неисправность тролля или некомпетентность его водителя?
Это вопрос приоритета жизни пассажиров над жизнью пешеходов. Пешеходы, совершенно никаким боком не ответственны за то, что кто-то вздумал ехать на троллейбусе, тем более не ответственны за некомпетентность водителя транспортного средства, на котором они не едут. Любишь кататься - люби и дохнуть из-за неисправности того, на чем катаешься, а ответственность понесет понесет водитель, если выживет. Пешеходы тут вообще не причем. Их жизнь не имеет приоритета в случаях, когда они сами бросаются под транспортное средство, например, переходя дорогу на запрещающий сигнал светофора или вне обозначенного для перехода места, при наличии такого места и его обозначения.
Mousy Mousy 10.09.201621:38 ответить ссылка -0.1
Во-первых даже если человек переходит на запрещающий сигнал светофора или не в положенном месте, его все равно нельзя сбивать, потому что человек на дороге - опасность, препятствие движению, а в случае возникновения опасности водитель должен "...немедленно принять меры к снижению скорости вплоть до остановки транспортного средства либо безопасному для других участников движения объезду препятствия".

Во-вторых не важно, признали ли водителя виновным в ДТП с пешеходом или нет, автомобиль - ИПО, так что не важно кто виноват, пострадавший пешеход всегда может заставить владельца авто выплачивать ущерб. Даже если виноват сам пешеход. Даже если вообще никто не виноват! Я уж не знаю что курили те ребята что составляли гражданский кодекс (п. 1 ст. 1079 ГК РФ). Поэтому если сбивать - то насмерть, в случае смерти определить ущерб сложнее всего, да и возмещение не все могут потребовать в этом случае. Кстати, как известно "справедливость ебет только потерпевшего", так что если мудак-водитель вас сбил и его оправдали (или посадили), никто кроме вас не будет заставлять его возмещать ущерб. Многие даже не знают что можно заставить ублюдка возместить ущерб, или не заморачиваются (через суд процесс длительный, да).

В-третьих нельзя ставить вопрос как "любишь кататься - люби и дохнуть..". Движущийся автомобиль - ИПО для всех, и для пешеходов на дороге, и для пассажиров. Что сбивать пешеходов, что убивать пассажиров, в правовом плане - плохо одинаково и водитель (владелец) будет нести ответственность. Понятное дело, что нет никакого права сбивать людей на зебре, не важно автопилот ведет машину или нет, так же как нет никакого права ехать в стенку и убивать пассажиров, опять же вне зависимости от того кто ведет транспортное средство. Так что вопрос тут не правовой, а морально-этический. Имхо, этичнее сохранять жизнь пассажирам, я уже много расписал почему. В крайнем случае - пешеход на переходе и убежать может при виде несущегося на него автомобиля без тормозов, а пассажир из железной банки, которая едет в стенку, выбраться не успеет.
То, что пассажир не успеет выбраться из железной банки - это его риск, на который он пошел, воспользовавшись удобствами железной банки. С морально-этической точки зрения не существует никаких оснований, для того, чтобы перекладывать этот риск на пешехода, переходящего правомерным образом дорогу, независимо от количества пассажиров, их пола, возраста, социального статуса, будь он хоть депутат или народный артист. И условия задачи не подразумевают возможность пешехода убежать, так как если он может убежать, то и автопилот может изменить направление в новых условиях.
Mousy Mousy 11.09.201619:40 ответить ссылка -0.1
Потому что транспорту с автопилотом можно повредить тормоза, затем подловить его на зебре, создав такую ситуацию в которой у него будет выбор сбить человека или затормозить в стену. И таким образом убить пассажиров. А все потому что поведение и реакция автопилота в отличии от человека-водителя предсказуемы.
Есть простой выход - не ездить на транспорте, которому можно повредить тормоза. Право ехать в сторону человека не может возникнуть из желания комфортной езды на автопилоте. Нельзя переложить риски, связанные с исправностью транспорта на тех, кто не имеет к этом транспорту отношения.
Mousy Mousy 10.09.201622:01 ответить ссылка -0.2
ты ездишь на транспорте, у которого нет тормозов?
нет тормозов - нет проблем
Это ложная дихотомия.
Mousy Mousy 12.09.201613:15 ответить ссылка 0.0
Если не было физической возможности остановится, например пешеход выбежал непосредственно перед автомобилем из-за припаркованного авто или столба, тогда не посадят. И даже можно добиться компенсации ремонта авто от пешехода, если тот выжил. Вот когда ты его видел, но не предпринял действий к снижению скорости или остановке - тогда могут посадить в зависимости от степени урона здоровью.
Neo Neo 08.09.201619:08 ответить ссылка 3.5
По условиям задачи у авто отказали тормоза - "Self-driving car with sudden brake failure". Посмотри на сайте в описании к каждой картинке. Получается что авто является первоначальным виновником ДТП. Сомнительно, что на улицы выпустят авто, где в данном случае приоритет будет у пассажиров.
Neo Neo 08.09.201619:03 ответить ссылка -2.0
и чем же пассажиры виноваты в том что механик схалтурил=)? вряд ли кто то будет в такой технике своими кривыми руками ползать ибо вообще не поедет. а тормоза такая вещь что либо внезапно отказывают, при поломке, либо в течении месяца из за износа...
человек верно расписал приоритеты нормального водителя, себя угробить довольно сложно если ты не самоуверенный болван, а дальше уже выработанные рефлексы - давить нахрен нарушителей за испорченные нервы=)

но опять же, в реальности водитель и посигналит и отбойник/бордюр/сугроб и тд по касательной зацепит для снижения скорости хоть чуток... да и летать по городу давно уже не получается ибо пробки да светофоры на каждом шагу, исключения разве что промзоны и загородные дороги, но там люди с опаской ходят во избежание=(
MIT еще делали игру Slower speed of light, о мире в котором скорость света меньше нашей
E. Nigmo E. Nigmo 09.09.201602:58 ответить ссылка 1.3
Плоский мир же.
Не просто меньше, а соизмерима со скоростью пешехода.
Вот интересно, есть предположения, что было бы, если бы скорость света была очень маленькой. А почему нет предположений, где она наоборот - на порядки больше?
Я более чем уверен, что производители умных автомобилей будут в первую очередь спасать пассажиров автомобиля, так как они их клиенты, а вот пешеходы и собачки нет.
g0liath g0liath 09.09.201618:12 ответить ссылка 1.5
Я хуже Гитлера.
Age Preference
к
Younger
Fit People
4
Higher
You
h
Others
Older
Fitness Preference
You
I-
Others
i
Large People
Social Value Preference
You
I-
Others
к
Lower
пфф
Species Preference
Pets
О чем тут думать вообще? Всего две вещи, которые должны знать машины:
1) Между тем сбиванием детей и взрослых выбирать детей. На земле перенаселение, они не принесут потомства, а старки и сами помрут гораздо быстрее.
2) Всегда защищать того, кто сидит в машине. Он потратил на нее деньги, его жизнь важнее.
Я понимаю, что это опечатка, но Старки действительно помирают быстрее.
Коммент писался пока ведройд студия собирала проект, так что да, это опечатка :D
Во во, если автопилот будет гробить пассажиров, то такие автомобили продаваться не будут.
Убивался об заграждения при каждой возможности
А ведь это самый настоящий тест Тьюринга для социопатов
Согласно этим тестам автопилот должен уметь различать не только людей с собаками и красный свет с зеленым, но и отличать грабителей от докторов, а спортсменов - от жиробасов. После чего на основании полученных данных выбирать кого давить. Да таким автопилотом можно полицию заменить (оставить только сисадмина и уборщицу) и в мире сразу наступить благодать и счастье.
Brenwen Brenwen 09.09.201618:40 ответить ссылка 1.7
До тех пор, пока уборщица в серверной провода не заденет.
Тян не нужны
Most Saved Character
*
Во всех случаях выбирал сохранение жизни пассажиров. Люди платят за безопасность, а не за ПДД.
Расскажешь про это родственникам убитых тобой случайных прохожих. Вот именно начиная со слов "меня запрограммировали сохранять жизни пассажирам". Чтобы твою компанию обанкротили на следующий же день
Да я просто представил, как прихожу в автосалон, а менеджер мне: - У нас новая серия мерседесов бизнес-класса с автопилотом, со встроенным модулем морали, если на дороге возникнет угроза жизни пешеходу - пятнадцатилетней блондинке с собачкой, пилот свернёт с дороги прямо на бетонные ограждения и размажет ваши кишки по автобану вперемешку с зубами и рёбрами. Ну, конечно я куплю этот мерс! Дайте два, ёпт!
А кого, прости, ебёт сам пилот-то? В поломанной технике, я просто напомню, виновата консервная банка и её хозяин
Ничо не понял.
Я говорю, что гаджеты, которые не будут меня хранить в добром здравии, я просто не куплю. Как и любой нормальный человек. Т.е. фирма с высокоморальным пилотом разорится даже без исков.
Фирма разорится быстрее, когда родственники погибших узнают, что машина специально стала спасать дауна-водителя, а не их родственников. Их железяки просто на рынок не пустят с таким подходом, и они уже могут кукарекать что хотят. Ни в одной цивилизованной стране такую машину, которая спасает себя, на дороги не выпустят
Во-первых, не себя, а пассажира.
Во-вторых, вы сейчас высказываете не требования рынка, а личные предпочтения. У вас такие, а у меня - этакие. А у Васи Пупина - разэтакие. Рынок же складывается из того, что покупает кто-то вообще, а на автопилот, заботящийся о жизни и здоровье покупателя определённо будет спрос.
В третьих, причём тут это даун или гений, деньги у всех одинаковые. Вы когда хлеб покупаете, проходите тест на айкью? А мож, в Африке гениальный негр голодает, пока вы третью булку жрякаете. Товар получает тот, кто за него платит, а не тот, кого признает достойным алгоритм в тостере.
"Даун" истекает из самой задачи. Он за рулём авто со сломанными тормозами, значит значит даун.
> вы сейчас высказываете не требования рынка
Я вообще не про рынок и не про личные предпочтения, я про законодательство, которое сложится именно таким образом на основе устоявшейся правоприменительной практики. "В случае неисправных тормозов виноват водитель консервной банки". Очень простой тезис
В условиях задачи нет сломанных тормозов. Иначе можно задать ещё множество косвенных вопросов, противоречащих реалистичности задачи: почему бетонный блок стоит посреди дороги перед переходом, почему животные находятся в машине без сопровождения человека, как визуально определить, что перед тобой -преступник или медработник (ну да, все медработники перемещаются круглые сутки в белых халатах и с аптечкой, а грабители - в тюремной робе и в маске, а в руке - окровавленный нож), почему авто едет по городу так быстро, что может убить сразу более пяти человек (при 60 км/час это невозможно, если только авто не весит как два танка). Условия задачи именно о выборе, а не о специфике движения.
водитель тут автопилот. а пассажир хоть даун, хоть гений, но техникой не рулит.
lopus lopus 09.09.201619:59 ответить ссылка 0.7
В машине с автопилотом НЕТ дауна-водителя, только пассажиры. Есть ли среди них владелец авто значения не имеет, это может быть такси.
1). Спасти пассажиров
2). Соблюдать ПДД
3). Минимизировать потери

По такой ниспадающей получается практически полный баланс во многих "ползунках". На предпочтения "фитнес" и "статус" поебать: вышел на красный — будь готов предстать перед апостолом Петром. Или во что ты там веришь.
1) спасти пассажиров людей
2) минимизировать потери людей
3) минимизировать потери
4) соблюдать ПДД
забыл про детей и старичков. центр на 16-40 годах. далее в обе стороны важность индивида падает.
5. Не нападать на руководителя OCP.
Люблю этические задачки. Выскажу свою точку зрения по пунктам.
1) Безопасность пассажиров.
Я вижу, что очень многие ставят жизнь пассажиров выше жизни пешеходов. Но у пассажиров при столкновении с препятствием есть шанс выжить из-за системы безопасности в машине (ремни, подушки и т.д.). А пешеходы такой защиты лишены. На мой взгляд безопасность пассажира тем малоценнее, чем выше его защищённость в случае ДТП. Т.е. если мы знаем, что на данной скорости при столкновении шанс выжить у пассажира 50%, мы можем считать, что пассажиров вполовину меньше. Более того, если машина везёт пассажиров, то пассажиры всё равно могут пострадать при наезде не пешехода. К сожалению, в этой задаче факторы защиты не учитываются, поэтому ориентируемся на следующий пункт.
2) Спасение большего числа жизней.
Приоритет - спасти как можно больше людей, независимо от пола, возраста, здоровья и социального положения. Наша цивилизация достаточно развита, чтобы люди любого возраста были почти одинаково ценны. А отличать доктора от бомжа машина не будет. Несколько особняком стоят беременные, но их очень трудно отличить.
3) Видовая принадлежность.
Нечелевеческими существами в расчётах можно пренебречь. Мы говорим о людях.
4) Необходимость вмешательства в движение (сворачивать или ехать прямо, как в задаче вагонетки).
Я считаю, что при прочих равных желательно невмешательство. Не потому, что это снимает чувство ответственности, а потому, что в реальных условиях резкая смена курса может помешать другим автомобилям и привести к большим жертвам.
5) Законность действий пешеходов.
Переход дороги на красный свет наименее значителен. У нас обычно людей не убивают за переход на красный свет, поэтому если стоит выбор, сбить двух людей, переходивших на красный, или двух людей, переходивших на зелёный, ориентироваться надо на другие признаки, которые всегда найдутся.
1. В условиях задачи стоит именно смерть. Считаем что все ваши поправки на безопасность алгоритм уже учёл.
2. В условие задачи опять же стоит возможность отличить. Предположим у всех в недалёком будущем будет чип с возрастом, базовым состоянием здоровья и профессией, который как раз и считывает глобальный автопилот.
И люди нифига не одинаково ценны. Нет нет нет. Только в сказках. Но это уже как раз тот субъективный вопрос, ради которого и создан тест.
3. Тут согласен.
4. Тут также считаем что все манёвры просчитаны автопилотом, и не влияют ни на что, кроме указанного.
5. Согласен. Но как самый последний пункт проверки, если остальные примерно равны - должен учитываться.
AjiTae AjiTae 31.10.201600:38 ответить ссылка 0.0
Честно говоря, выбирал давить тех, кто перся на красный, в итоге по другим статсам получилось, что я сейвил старых, а мочил молодых, хотя практически не обращал внимания на возраст.
zibba13 zibba13 09.09.201619:27 ответить ссылка 0.9
Во-во, там рандомно кидает задачи, даже не смотря, что решение, выбранное человеком, может зависеть не от одних факторов, а совсем других.
Во всех этих ситуациях робот должен был остановиться задолго до аварии и не давить вообще никого.
А в небольшом количестве ситуаций, где можно предположить, что пешеходы внезапно выперлись на красный прямо перед носом машины - робот должен выполнить ПДД, а именно предпринять экстренной торможение. Всё. Никакой морали.
cityrat cityrat 09.09.201619:36 ответить ссылка -0.1
У этих машин должны быть такие вспомогательные системы торможения, которые не позволят пользователям машины убивать окружающих.
Mousy Mousy 10.09.201612:34 ответить ссылка -0.1
Тест показал, что я люблю лолей.
/* JoyReactor - смешные к X** JoyReactor - смешные к X Т ^ Moral Machine
с П^ГШЙЕНЯЯНГ
MORAL ® MACHINE
—
Most Saved Character
i
Does Not Matter
К
Made by Scalable Cooperation at MIT Media Lab
T ш ф + о rs v ©

Home Judge Design Browse About
Results
Saving More Lives
You
=i
Others
1) жизнь пассажира - приоритет.
2) давить тех, кто идет на красный.
3) давить тех, кто идет перед движущейся машиной, дабы было не так палевно.

Все просто.
Не важно кто сидит в машине. Не важно, что за нее кто-то заплатил. Не важно, что по дороге кто-то идет (лоли, медики, старики, грабители). Машина не должна выруливать на другую полосу и/или встречку пытаясь кого-то спасти. Если машина начнет выруливать на другую полосу (если, конечно, на ней нет отбойников, как в данном "тесте"), то это может привести к непредвиденным последствиям. Допустим, вырулил на другую полосу, пытаясь кого-то "спасти", а в итоге в тебя дополнительно влетела встречная машина или машина сзади, что привело к дополнительным жертвам.
Машина должна не превышать скоростной режим и должна быстро останавливать машину с минимальными повреждениями для водителя/пассажира без смены полосы. Если невозможно, то не менять полосу
Myrddin Myrddin 09.09.201620:37 ответить ссылка 1.7
В задаче есть только то, что указано в условии. Нет никаких других машин. Ни сзади ни на встречке.

Если с абстракцией у вас тяжело: допустим всё дело имеет место быть в России 2017 года, где каждая машина чудесным образом принудительно оснащена ГЛОНАССом и потому учитывается во всех расчётах автопилота.
AjiTae AjiTae 31.10.201600:50 ответить ссылка 0.0
Водитель с меня так се
ultimo ultimo 09.09.201620:45 ответить ссылка 1.1
В машине парень на заднем сидение недавно ограбил банк?
Tpaypp Tpaypp 10.09.201600:42 ответить ссылка 0.5
автопилот вычислит то, что среди пассажиров грабитель и направит машину в стену
luuke luuke 10.09.201610:21 ответить ссылка 0.3
Они вообще вкурсе что можно тормазить движком и бетонной оградой? Просто поставить на нетралку и боком прижаться.
lasrarov lasrarov 10.09.201601:28 ответить ссылка -0.1
эдектродрыгатели так себе тормозят
и да, по стенке быстрее, в нфс не играл чтоли?
Самое интересное, что этот тест всего лишь демонстрация того, что человечество уперлось в правовую и моральную дилемму.
Ведь, по-сути, именно это останавливает компании разрабатывающие автопилот. Три известных вопроса: Кто должен умереть, как будет вестись арбитраж и кто будет нести ответственность.
jorus jorus 10.09.201608:45 ответить ссылка 0.2
Так ведь, какой стати какая-то компания должна получить право, тем более на основании мнения народных масс, производить транспортное средство, которое будет жертвовать чьей-то жизнью, кроме лица, которое добровольно согласилось эксплуатировать это транспортное средство, взяв на себя всю ответственность и риски? Сам сел в машину - сам и умирай.
Mousy Mousy 10.09.201612:39 ответить ссылка -0.2
Только зарегистрированные и активированные пользователи могут добавлять комментарии.
Похожие темы

Похожие посты
Self-Driving Mercedes Will Be Programmed To Sacrifice Pedestrians To Save The Driver
Mercedes gets around the moral issues of self-driving cars by deciding that-of course-drivers are more important than anyone else.
подробнее»

Mercedes-Benz автомобили автопилот пешеходы моральная дилемма этическая дилемма

Self-Driving Mercedes Will Be Programmed To Sacrifice Pedestrians To Save The Driver Mercedes gets around the moral issues of self-driving cars by deciding that-of course-drivers are more important than anyone else.
Дорогой, приезжай
ко мне.
У меня никого
нет дома.
Я не могу сейчас. Я решаю этическую дилемму.
Я знаю.
подробнее»

трамвай дилемма этическая дилемма

Дорогой, приезжай ко мне. У меня никого нет дома. Я не могу сейчас. Я решаю этическую дилемму. Я знаю.
Tesla Model 3 Helps Driver Avoid Crash || ViralHog,People & Blogs,viralhog,Occurred on July 4, 2020 / Los Angeles, California, USA

The Tesla did not dodge the tire, I did. However, the autopilot gave me the time and view which allowed me to see the tire coming from the other side of the freeway.
подробнее»

тесла песочница автопилот

Tesla Model 3 Helps Driver Avoid Crash || ViralHog,People & Blogs,viralhog,Occurred on July 4, 2020 / Los Angeles, California, USA The Tesla did not dodge the tire, I did. However, the autopilot gave me the time and view which allowed me to see the tire coming from the other side of the freeway.
Условие: В больнице лежат пять человек, умирающих от болезней разных органов. В коридоре сидит здоровый человек, органы которого со стопроцентной вероятностью спасут жизнь всем пятерым.
Вопрос: Этично ли будет убить его для изъятия органов?
Выбери правильный ответ: Да или Нет
Условие: Отцепивший
подробнее»

эртика мораль закон Смешные комиксы,веб-комиксы с юмором и их переводы ситуации выбирай ты прочитал "эротика" вместо написанного? реши задачки use your brain песочница этическая дилемма

Условие: В больнице лежат пять человек, умирающих от болезней разных органов. В коридоре сидит здоровый человек, органы которого со стопроцентной вероятностью спасут жизнь всем пятерым. Вопрос: Этично ли будет убить его для изъятия органов? Выбери правильный ответ: Да или Нет Условие: Отцепивший