S-Risks: Fates Worse Than Extinction / риск :: Rational Animations :: видео (video)

Худшее будущее, которое может наступить, — это не то, в котором человечество вымрет. В этом видео исследуется еще худшая категория рисков: риски астрономических страданий, или «S-риски», которые включают в себя астрономическое количество ужасных страданий (например глобальные природные катаклизмы, неизлечимые болезни, восстание роботов, психопаты-диктаторы галактических масштабов и прочие). Исследователи этой темы утверждают, что S-риски имеют значительную вероятность возникновения и что необходимо уже сейчас озаботиться о том, чтобы снизить эту вероятность.

Существует категория рисков, которые идут дальше чем даже риски глобального вымирания - риски индустриализированных пыток в межпланетных масштабах. Они крайне маловероятны сами по себе,
Возможные сценарии включают, например, программы, симулирующие мозг, случайно поставленные в позицию экстремальной боли, или люди, создающие фабрики по фарму других людей, с полным безразличием к комфорту.
Хотя подобные сценарии и маловероятны, они возможны и их стоит учитывать просто из-за масштаба страданий, которые они могут причинить. Такие сценарии гораздо легче предотвратить, чем выбраться из них когда они уже реализовались, поэтому есть смысл думать о них прямо сейчас. Возможные методы предотвращения включают такие вещи, как правильная постановка общечеловеческих ценностей или предотвращение негативного отбора на высокие должности.