Поставь себя на место автопилота и реши кого размазать по асфальту.
MIT сделал тест, который позволяет поставить себя на место автопилота машины и сделать сложный моральны выбор - кем жертвовать в безвыходной ситуации.http://moralmachine.mit.edu/
Я вот крайне удивился что определенный процент жертвует людьми в пользу домашних животных.
И еще, судя по всему, я не люблю стариков. А что, они уже пожили, да?
Еще на тему
А вообще результаты довольно наглядно показаны, дают оценку относительно средних решений.
--- Пассажиры авто должны умереть вместо пешеходов, переходящих на зеленый свет.
--- Если пешеходы, переходили на красный свет, то умирают они, при условии, что их не больше пассажиров. Тут я не согласен с вами, т.к. хотя автомобиль и источник повышенной опасности, он настолько стал нормой в обществе, что пассажиры и пешеходы - суть одно, все они В опасности, неважно где они, в или вовне автомобиля. В данном случае неправы и пассажиры, и пешеходы, но пассажиры неправы меньше, т.к. ситуация не была ими осознанно выбрана, в то время как пешеходы сами решили идти на красный.
--- Если пешеходов больше, то умирают пассажиры. При прочих равных, нужно спасти больше людей.
--- Если оба варианта - гибель пешеходов (две группы на обеих полосах), то умереть должна меньшая по численности группа. Если группы равны по численности, то умрет та группа, которая оказалась на полосе автомобиля (сворачивать не надо). В таком случае речь идет о "карме", в конце концов, именно им не повезло оказаться на полосе со сломанным авто.
--- Жизнь животных в любом случае менее ценна, чем жизнь людей (с точки зрения машины, по крайней мере). Так что выбор между питомцем и человеком - всегда спасти человека. При сравнении численности групп людей, питомцы не считаются.
...или все же всегда спасать больше людей?
А вот если авто если личное - ценность пассажиров должна быть превыше всего. Прав - не прав, машина моя и спасать должна меня. Хоть там куча новорожденных на трассу высыпана - сначала гарантированная безопасность хозяйской тушки, а потом уже можно позаботиться и об остальных.
Моделируются абсолютно абстрактные и бессмысленные ситуации.
Есть такие идиоты, которые не понимают слово "абстрактность". И не понимают "условие задачи".
Это как аморальную задачку людям подбросить: "Вы мать, у вас двое детей, мальчик и девочка. Вы в ситуации, когда оба в смертельной опасности, и вы можете спасти одного. Не выберете - умрут оба. Кого и почему вы спасете?". И знаете что? Люди умные могут отказаться решать, ну или ответят в рамках УСЛОВИЙ задачи. А идиоты начнут пытаться ИЗМЕНИТЬ саму задачу. "Я не позволю до такого дойти!". "Я спасу обоих своих детей!". "АВТОР УБЕЙСЯ! Я СКАЗАЛА ЧТО СПАСУ ОБОИХ ЗНАЧИТ СПАСУ! МАТЬ МОЖЕТ ВСЕ РАДИ СВОИХ ДЕТЕЙ!" и так далее.
У Шапиро было на эту тему:
1) http://samlib.ru/s/shapiro_m_a/exlerf-1.shtml
2) http://samlib.ru/s/shapiro_m_a/kogdis.shtml
3) http://samlib.ru/s/shapiro_m_a/raspidiota.shtml
... если многабукафф, то сочувствую, ничем не могу помочь вашему "интеллекту".
1) Кто из нас не различает?
2) Почему бессмысленные? Обоснуй.
Речь идет о формировании модели системы моральных ценностей у ИИ-автопилота. Она не нуждается в каких-то прямо жизненных ситуациях. Это модель, задача которой просто обозначить определенные рамки, которые ограничат АП в нештатных ситуациях.
В любой профессии есть определенная этика. В случае людей ее не всегда надо конкретизировать, она может существовать на уровне ощущений и негласных правил. В итоге мы зачастую "жопой чуем" как будет поступать "правильно". Иногда по формальным признакам ситуации одинаковы, а люди поступают противоположно и все равно "правильно", т.к. есть всегда куча нюансов.
Но у ИИ нет "жопы", чтобы чуять, у него нет обезьяньего соц. интеллекта. Поэтому всегда надо пытаться этику и мораль сформулировать и конкретизировать, чтобы можно было облечь ее в программный код, прежде, чем доверять ИИ профессию.
Любую сложную систему, чтобы описать и предсказать, нужно разбить на примитивные модели, со сферическими копытными в условиях сильно разреженной атмосферы. И только потом, эти модели объединяют в одну.
Обстоятельств, которые могут вынудить обычного человека на красный свет, ПЕРЕД едущей машиной быть просто не может. Если ты так сделал, то сам дурак и примеряй бирку в морге.
Разумно вобщем-то
Во-вторых не важно, признали ли водителя виновным в ДТП с пешеходом или нет, автомобиль - ИПО, так что не важно кто виноват, пострадавший пешеход всегда может заставить владельца авто выплачивать ущерб. Даже если виноват сам пешеход. Даже если вообще никто не виноват! Я уж не знаю что курили те ребята что составляли гражданский кодекс (п. 1 ст. 1079 ГК РФ). Поэтому если сбивать - то насмерть, в случае смерти определить ущерб сложнее всего, да и возмещение не все могут потребовать в этом случае. Кстати, как известно "справедливость ебет только потерпевшего", так что если мудак-водитель вас сбил и его оправдали (или посадили), никто кроме вас не будет заставлять его возмещать ущерб. Многие даже не знают что можно заставить ублюдка возместить ущерб, или не заморачиваются (через суд процесс длительный, да).
В-третьих нельзя ставить вопрос как "любишь кататься - люби и дохнуть..". Движущийся автомобиль - ИПО для всех, и для пешеходов на дороге, и для пассажиров. Что сбивать пешеходов, что убивать пассажиров, в правовом плане - плохо одинаково и водитель (владелец) будет нести ответственность. Понятное дело, что нет никакого права сбивать людей на зебре, не важно автопилот ведет машину или нет, так же как нет никакого права ехать в стенку и убивать пассажиров, опять же вне зависимости от того кто ведет транспортное средство. Так что вопрос тут не правовой, а морально-этический. Имхо, этичнее сохранять жизнь пассажирам, я уже много расписал почему. В крайнем случае - пешеход на переходе и убежать может при виде несущегося на него автомобиля без тормозов, а пассажир из железной банки, которая едет в стенку, выбраться не успеет.
нет тормозов - нет проблем
человек верно расписал приоритеты нормального водителя, себя угробить довольно сложно если ты не самоуверенный болван, а дальше уже выработанные рефлексы - давить нахрен нарушителей за испорченные нервы=)
но опять же, в реальности водитель и посигналит и отбойник/бордюр/сугроб и тд по касательной зацепит для снижения скорости хоть чуток... да и летать по городу давно уже не получается ибо пробки да светофоры на каждом шагу, исключения разве что промзоны и загородные дороги, но там люди с опаской ходят во избежание=(
1) Между тем сбиванием детей и взрослых выбирать детей. На земле перенаселение, они не принесут потомства, а старки и сами помрут гораздо быстрее.
2) Всегда защищать того, кто сидит в машине. Он потратил на нее деньги, его жизнь важнее.
Я говорю, что гаджеты, которые не будут меня хранить в добром здравии, я просто не куплю. Как и любой нормальный человек. Т.е. фирма с высокоморальным пилотом разорится даже без исков.
Во-вторых, вы сейчас высказываете не требования рынка, а личные предпочтения. У вас такие, а у меня - этакие. А у Васи Пупина - разэтакие. Рынок же складывается из того, что покупает кто-то вообще, а на автопилот, заботящийся о жизни и здоровье покупателя определённо будет спрос.
В третьих, причём тут это даун или гений, деньги у всех одинаковые. Вы когда хлеб покупаете, проходите тест на айкью? А мож, в Африке гениальный негр голодает, пока вы третью булку жрякаете. Товар получает тот, кто за него платит, а не тот, кого признает достойным алгоритм в тостере.
> вы сейчас высказываете не требования рынка
Я вообще не про рынок и не про личные предпочтения, я про законодательство, которое сложится именно таким образом на основе устоявшейся правоприменительной практики. "В случае неисправных тормозов виноват водитель консервной банки". Очень простой тезис
2). Соблюдать ПДД
3). Минимизировать потери
По такой ниспадающей получается практически полный баланс во многих "ползунках". На предпочтения "фитнес" и "статус" поебать: вышел на красный — будь готов предстать перед апостолом Петром. Или во что ты там веришь.
2) минимизировать потери людей
3) минимизировать потери
4) соблюдать ПДД
1) Безопасность пассажиров.
Я вижу, что очень многие ставят жизнь пассажиров выше жизни пешеходов. Но у пассажиров при столкновении с препятствием есть шанс выжить из-за системы безопасности в машине (ремни, подушки и т.д.). А пешеходы такой защиты лишены. На мой взгляд безопасность пассажира тем малоценнее, чем выше его защищённость в случае ДТП. Т.е. если мы знаем, что на данной скорости при столкновении шанс выжить у пассажира 50%, мы можем считать, что пассажиров вполовину меньше. Более того, если машина везёт пассажиров, то пассажиры всё равно могут пострадать при наезде не пешехода. К сожалению, в этой задаче факторы защиты не учитываются, поэтому ориентируемся на следующий пункт.
2) Спасение большего числа жизней.
Приоритет - спасти как можно больше людей, независимо от пола, возраста, здоровья и социального положения. Наша цивилизация достаточно развита, чтобы люди любого возраста были почти одинаково ценны. А отличать доктора от бомжа машина не будет. Несколько особняком стоят беременные, но их очень трудно отличить.
3) Видовая принадлежность.
Нечелевеческими существами в расчётах можно пренебречь. Мы говорим о людях.
4) Необходимость вмешательства в движение (сворачивать или ехать прямо, как в задаче вагонетки).
Я считаю, что при прочих равных желательно невмешательство. Не потому, что это снимает чувство ответственности, а потому, что в реальных условиях резкая смена курса может помешать другим автомобилям и привести к большим жертвам.
5) Законность действий пешеходов.
Переход дороги на красный свет наименее значителен. У нас обычно людей не убивают за переход на красный свет, поэтому если стоит выбор, сбить двух людей, переходивших на красный, или двух людей, переходивших на зелёный, ориентироваться надо на другие признаки, которые всегда найдутся.
2. В условие задачи опять же стоит возможность отличить. Предположим у всех в недалёком будущем будет чип с возрастом, базовым состоянием здоровья и профессией, который как раз и считывает глобальный автопилот.
И люди нифига не одинаково ценны. Нет нет нет. Только в сказках. Но это уже как раз тот субъективный вопрос, ради которого и создан тест.
3. Тут согласен.
4. Тут также считаем что все манёвры просчитаны автопилотом, и не влияют ни на что, кроме указанного.
5. Согласен. Но как самый последний пункт проверки, если остальные примерно равны - должен учитываться.
А в небольшом количестве ситуаций, где можно предположить, что пешеходы внезапно выперлись на красный прямо перед носом машины - робот должен выполнить ПДД, а именно предпринять экстренной торможение. Всё. Никакой морали.
2) давить тех, кто идет на красный.
3) давить тех, кто идет перед движущейся машиной, дабы было не так палевно.
Все просто.
Машина должна не превышать скоростной режим и должна быстро останавливать машину с минимальными повреждениями для водителя/пассажира без смены полосы. Если невозможно, то не менять полосу
Если с абстракцией у вас тяжело: допустим всё дело имеет место быть в России 2017 года, где каждая машина чудесным образом принудительно оснащена ГЛОНАССом и потому учитывается во всех расчётах автопилота.
и да, по стенке быстрее, в нфс не играл чтоли?
Ведь, по-сути, именно это останавливает компании разрабатывающие автопилот. Три известных вопроса: Кто должен умереть, как будет вестись арбитраж и кто будет нести ответственность.