Пару лет назад полиция Великобритании решила создать ИИ, который будет прогнозировать преступления граждан с применением огнестрельного или холодного оружия
Планировалось, что перспективная технология снизит уровень насилия и поможет потенциальным нарушителям выпутаться из сложных жизненных ситуаций
На разработку выделили около 10 миллионов фунтов и потратили два года, но в итоге проект провалился из-за ошибки в обучении нейросети
![«Тот факт, что Комитет задаёт вопросы и получает на них ответы, является неслыханным в разработке полицейских ИИ-систем. Обычно разработка держится в тайне до тех пор, пока не возникнут проблемы из-за влияния [систем] на людей в реальной жизни»
— советник Комиссара полиции Уэст-Мидлендса Том](http://img1.reactor.cc/pics/post/full/%D0%98%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D1%8B%D0%B9-%D0%98%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82-%D0%BD%D0%B5%D0%B9%D1%80%D0%BE%D1%81%D0%B5%D1%82%D0%B8-%D0%BF%D0%BE%D0%BB%D0%B8%D1%86%D0%B8%D1%8F-%D0%BF%D1%80%D0%B5%D1%81%D1%82%D1%83%D0%BF%D0%BB%D0%B5%D0%BD%D0%B8%D1%8F-6178619.png "Искусственный Интеллект,нейросети,полиция,преступления,длиннопост")
Подробнее
Предсказать преступление В 2018 году стало известно, что полиция Великобритании запускает проект National Data Analytics Solution (NDAS). Предполагалось, что в рамках этой инициативы специалисты под руководством правоохранителей из графства Уэст-Мидлендс разработают прототип системы, способной на основе машинного обучения и статистики предсказывать насильственные преступления, которые в будущем может совершить тот или иной гражданин. Речь, в частности, шла о вероятных нападениях с использованием огнестрельного и холодного оружия. Ещё тогда, в 2018-м, полиция сообщала, что это первый в мире проект подобного рода. На начальном этапе команда разработчиков собрала более терабайта данных, поступивших из полицейских баз. В них содержалась информация об обысках, задержаниях и уже совершённых преступлениях. Всего данные содержали сведения о примерно 5 миллионах человек. Полиция подчёркивала, что власти не будут использовать систему для упреждающих арестов. Напротив, идея состояла в выявлении потенциальных преступников для дальнейшего оказания помощи со стороны социальных или медицинских работников. Впрочем, такой подход всё же поднял новые этические вопросы. Например, лондонский Институт Алана Тюринга в отдельном докладе отметил, что NDAS руководствуется благими намерениями, но вот возможность неточных прогнозов вызывает опасения — к тому же неясно, несёт ли общественную пользу превентивное вмешательство в жизнь человека, который не совершил насильственное преступление.
Crime Problem Statement Data Exploration Structured Analysis Intelligence Organised Crime Groups (OCG) Missing Persons ■ Problem statement refined with SMEs and project leads • Initial exploration of data • Insight presented and discussed with SMEs • Problem statement is iteratively refined via data exploration • Once problem statement is refined and confirmed, iteratively work through structured analysis ■ Review insight regularly, refining how insight is best presented to SMFs Insight • Surface insight which is directly relatable to the initial problem statement ■ Consider the most suitable means to efficiently surface the insight Вводные данные для MSV. Скриншот: westmidlands-pcc.gov.uk
В американском Университете округа Колумбия идею NDAS тоже встретили с беспокойством. Профессор права Эндрю Фергюсон заметил, что система может усилить необъективность правоохранителей, поскольку аресты коррелируют с дислокацией участков, а не с местами совершения преступлений, и это, как правило, непропорционально сказывается на жителях бедных районов и цветном населении. Как всё оказалось в реальности За два года МВД Великобритании влило в проект NDAS не менее 10 миллионов фунтов стерлингов (966 миллионов рублей), и к 2020-му система, получившая название Most Serious Violence (MSV), была готова. За это время команда сумела выделить 20 ключевых прогностических критериев, по которым ИИ мог определять вероятных преступников. К ним, помимо прочего, относились: Поведенческие критерии — с их помощью машина оценивала прошлое человека на основе полицейских данных. Под ними подразумевались возраст, количество уже совершённых преступлений (без применения насилия), время с момента совершения последнего преступления, количество случаев, когда человек упоминался рапортах или сам становился жертвой, и другие подобные вещи. Полиция утверждала, что эти сведения брались только из зарегистрированных инцидентов в базах правоохранителей и не использовали информации о расе или местонахождении гражданина. Сетевые критерии — с их помощью машина изучала, как человек связан с лицами, которые уже обвинялись в совершении тяжких преступлений. По мере того, как такая сеть связей менялась со временем, можно было предположить, что гражданин втягивается в потенциально опасный круг общения. Рассчитывалось всё просто. За каждый критерий начислялся балл риска, и чем выше балл, тем больше вероятность, что человек в будущем совершит преступление с использованием огнестрела или ножа. Систему хотели протестировать в некоторых регионах, а затем распространить на всю страну. Перед экспериментальным запуском команда NDAS отчитывалась, что MSV, обученная на данных о 3,5 миллионов человек, имеет точность до 75%. Но сразу после тестового «ввода в эксплуатацию» начались проблемы — точность системы оказалась значительно ниже. Как выяснилось, на стадии «определения учебного набора данных» разработчики допустили «ошибку кодирования», которая снизила точность MSV. Из-за этого специалисты не могли установить «точку вмешательства» до того, как человек совершит первое правонарушение». Такая ошибка делала систему фактически нежизнеспособной. Разработчики попытались её исправить, но после корректировки критериев точность системы упала до ничтожных 9-19%. В результате Комитет по этике, закреплённый за проектом и состоящий из экспертов, единогласно отклонил предложение о запуске системы. Ник Дейл, руководитель проекта NDAS, также признал провал — он отметил, что в нынешнем виде MSV работать не может. Тем не менее в полиции отметили, что система прогнозирования более прозрачна, чем другие подобные системы в области охраны правопорядка.
«Тот факт, что Комитет задаёт вопросы и получает на них ответы, является неслыханным в разработке полицейских ИИ-систем. Обычно разработка держится в тайне до тех пор, пока не возникнут проблемы из-за влияния [систем] на людей в реальной жизни» — советник Комиссара полиции Уэст-Мидлендса Том Макнейл Table 1: Five MSV problem statement options. MSV Option Option Descnption Initial Precision For Top Ю0 Ffcgh Risk Range (min - max) WMP WYP Most Serious This model would look to predict the likelihood of an individual committing a most senous violence offence with a gun or knife no restnction on the weapon use. Opbon 1 Violence Recurring with Gun or Knife 14-19% 9%-18% Most Senous This model would look to predict the likelihood of an individual committing a first time most senous violence offence with any weapon type but no restnction on the weapon use Option 2 Violence First Time with Any 14%-18% 15%-16% Weapon Точность модели до и после корректировки. Скриншот: westmidlands-pcc.gov.uk В полиции также сообщили, что сырая модель МБ\/ никогда не использовалась для реальных операций. Будет ли команда продолжать разработку, пока неясно, но эксперты полагают, что сейчас создать точную прогностическую систему такого типа крайне сложно.
Искусственный Интеллект,нейросети,полиция,преступления,длиннопост
Еще на тему
Тема интересная, но, например, на "Анон" (2018) я чуть челюсть от зевков не вывернул. Так что ещё вопрос подачи.
А вот факт того, что с фидами работают через глазки даже техспецы — срань.
Как и невозможность рубануть фид (перейдя на полностью аналоговое восприятие) всяким спецурам.
В реальности бы того кто предложил подобное (гонять фид сначала на сервер, а потом обратно к бойцу) военные бы напалмом обосцали, а полицейские бы хлопали на заднем плане с плакатом "так им блядям и надо".
А ведь именно на этом строится весь фильм. Всё ради того чтобы было что превозмогать главгерою в финале.
Пардон, но даже Dennou Coil более здраво по этому делу прошёлся.
Я уж молчу про Ghost in the Shell: Arise, который на подмене фида гораздо более внятную историю выстроил.
И фильм ничем, кроме чикагского "лофта" это не компенсит. Из "лофта" же вытекает следующий недостаток: муторность фильма из-за большого количества пустых статичных кадров. И он не перебивается харизматичностью хацкерши.
Се ля бля.
ну а насчёт пустых статичных кадров - это уже чистая вкусовщина. мне это понравилось, так же как понравилась цветовая гамма улиц и интерьеров, автомобили и всё такое. это мне чем-то напомнило нуарные фильмы, кругом ощущение пиздеца прикрытого мнимым благополучием и безопасностью.
Будь это распаралеливанием: всё решилось бы отключением от сети, но ведь тогда чо в финал сувать?
Нетушки: там все смотрят видосики с сервера, такая себе защита от внесетевых.
Иначе бы хацкерша лосонула тунца лупить фид в "дохуяК" по каналу, расчитанному на оконные видосики с котиками и её тупо по траффику спалили бы. Так что там именно внутрисетевой инжект был.
Сверх того, в сериале поднимаются актуальные для современного общества вопросы - действительно ли неприкосновенность частной жизни важнее безопасности, возможно ли вообще построение справедливого общества, если им управляют сраные люди, можем ли мы, как социум, не быть ёбаными рогатыми тварями не из-под палки, и не нужен ли нам беспристрастный Большой Брат над Большим Братом.
По большому счёту, это комедийный боевик с элементами драмы - популярный жанр для кино, но не для сериалов, так что Person of Interest - редкая птица, которую лично я рекомендую не упустить. Местами перегибают, вплоть до меметичности, но потом сами же иронизируют над собой.
Ну и да, на тему "скатился ли сериал" - он не скатился до самого конца, но, в какой-то момент, сместился фокус сюжета с одиночных расследований в каждой серии к одному большому мега-сюжету. Первые несколько сезонов это происходило просто под конец сезона, как кульминация, а в один прекрасный момент основной сюжет начал занимать всё время. И да, они даже на этот счёт пошутили.
прям сказка, только страшная
А между тем есть существенная разница между преступлением вынужденым - когда тебя общество загнало в тупик и ты пытаешься выжить, а другое когда тебе это просто по приколу. Ты же сейчас не делаешь разницы? Судишь лишь сам факт.
Ахуенно обобщать и говорить за весь мир живя в каком-то подзалупинске.
Сейчас общество не имеет никакого фактора, чтобы понимать насколько сильно человек преступил закон.
Даладна, преступления делятся на категории и имеют смягчающие и отягчающие условия.
Ты же сейчас не делаешь разницы?
Ты и меня обобщил, ну так хуле, если ты меня заочно считаешь неправым. Я говорю, что не все так однозначно, но ты упертый как верун какой-то.
Судишь лишь сам факт.
Ты тем же самым занимаешься.
Ты продолжаешь говорить про то, чего не понимаешь.
Чтобы считать тебя неправым я должен хотябы видеть твою позицию по вопросу, а ее у тебя нет, ты просто дерьмо пытаешься в меня кинуть.
Нет, я предлагаю решение вопроса поста, а ты, так как не способен в данном вопросе ни на что, пытаешься спорить вообще не понятно про что. Самое забавное то, что вопросы такие решались и будут решаться не спрашивая мнения таких как ты, так что поэтому ты и бесишься
Так насрать, что ты решил мне это сообщить? Охотно верю.
>Ты продолжаешь говорить про то, чего не понимаешь.
Зато ты понимаешь все и сразу.
>Нет, я предлагаю решение вопроса поста
"ну нужно создать систему как в аниме психопасс и все будет зоебись" - это ахуенное решение, намного лучше, чем уменьшить бедность и поднять уровень жизни.
>Самое забавное то, что вопросы такие решались и будут решаться не спрашивая мнения таких как ты, так что поэтому ты и бесишься
Можно подумать, тебя кто-то спросит, перед твоим анальным зондированием, но тебе же похуй, да?
Да, я понимаю. Не все, но именно этот проект я бы потянул. Да и мне бы было бы интересно поработать над ним.
" Уменьшить бедность" и "поднять уровень жизни" слишком масштабные задачи и их следует разбить на более мелкие цели, а их, в свою очередь, на более мелкие задачи и, при условии, что будет достаточно желаний, способностей и рабочих рук, это все решается, хотя тут проблема, что большинство людей рабы и не хотят прогресса, а своих рабов, поэтому мы так сильно буксуем с раем на земле. Но этот проект как раз один из винтиков в этой глобальной машине.
Да, меня спросят.
Ты главное не сильно волновайся когда строчишь, как тебе кажется, оскорбления, здоровье не к черту. Мне крайне интересно, что у тебя в башке - опыт работы с дебилами к сожалению востребован в моей деятельности, а тут весьма хорошая практика
Ты считаешь, что можешь кого-то затролить в интернете пиздежом? Keep going, son.
>Да, я понимаю. Не все, но именно этот проект я бы потянул. Да и мне бы было бы интересно поработать над ним.
В качестве первого прозондированного?
>Но этот проект как раз один из винтиков в этой глобальной машине.
Так значит, ты стремишься к утопии, но при этом втираешь мне, что тотал контрол был всегда, и ничего страшного, если его станет больше с теми же людьми у руля? Ты хочешь отдать самую полную власть тем же людям, которые по полной используют её в личной выгоде уже сейчас.
>большинство людей рабы
Потому что так работает психология, если бы мы были крайними индивидуалистами и жили бы поодиночке, человечество даже такого прогресса не достигла бы.
>Да, меня спросят.
Нет, не спросят.
>Ты главное не сильно волновайся когда строчишь,
Ок, не волноваюсь.
>Мне крайне интересно, что у тебя в башке
Нет, не интересно, было бы интересно, то уже давно бы предложил более удобный формат общения.
2. Да нет, в качестве разработчика.
3. Я "втираю" про профессионализм и совместный труд на общее благо, а ты сидишь на жопе ровно и хныкаешь, что никто не приходит и не делает тебе "уровень жизни выше"
4. Слова не мальчика, но истинного раба
5. Молодец
6. Общение подразумевает прогресс, а с тобой его особо нет. Ты что-то пытаешься из себя выдавить, пытаешься вставлять ярлыки, распространенными фразами "доказать" как тебе пофиг, но по факту ты уже давно не споришь по главной теме поста - т.к. просто не способен, все, что у тебя осталось - утирать сопли и тихо огрызаться. Это уже даже скучно
Или я тебя цепляю? Ты уж определись.
> Да нет, в качестве разработчика.
Но зонд то ты получишь как и все, лол, ты максимум будешь одним из винтиков которым воспользуются другие, а чсв у тебя как у заказчика.
>Я "втираю" про профессионализм и совместный труд на общее благо,
Именно, ты втираешь сидя на жопе ровно, будучи готовым по заказу наковать новых цепей, если к тебе обратятся люди с деньгами.
>Слова не мальчика, но истинного раба
Докажи, что ты не раб.
Ну так это ты слил тему тем, что ничего не стал пояснять у твоей системы нет подводных камней и оно безоговорочное благо для всех рабов и долбоебов.
Поднять уровень блага - для тебя слишком комплексная задача, чем создать огромные датацентры и завесить все города камерами. Тебя заминусили и затралели, я написал тебе контраргументы, но ты их проигнорировал и сразу начал обобщать.
2) Такая система должна учиться на поведенческих паттернах людей, а это значит, что будет тотальная слежка за всеми, многие будут с этим не согласны, особенно выше названные пидорги.
3) Многие люди выпускают своё эмоциональное напряжение в сети и играх, с такой тотальной слежкой лишний раз матюгнуться в интернете нельзя будет, а значит люди будут копить негатив пока их не переклинит.
4) Писатели, спортсмены, полиция, военные, актеры, дублеры - дохуя людей в группе риска только из за сферы своей занятости. А скрытные маньяки и просто внезапно поехавшие будут в меньшей группе риска.
5) Либерахи и им отсасывающие заклеймят систему расистской, думаю, не нужно объяснять почему.
6) Люди подобные тебе или просто тупые будут получать предупреждения, санкции и наказания, даже не осознавая, что система за мыслепреступление посчитала их опасными, никаких намеков на тоталитаризм, ага. В итоге, это приведёт к миру, где все люди будут такими же поехавшими, как в фильме Разрушитель.
2. Я тебя, блять, поздравляю, ты уже в системе с тотальной слежкой. Всем похеру.
3. Ты фильмов пересмотрел. В разрушителе штрафовали за мат потому что общество целиком дошло до абсурда, в реальности же всем похеру. Если ты до этого матерился, а не стал внезапно - всем похеру. За тобой же не приезжают дяди в масках когда ты бомбу тащишь на Б.
4. К чему это я и не понял. Система не должна быть рассчитана на среднестатистического гражданина, а остальные отклонения - система должна учитывать все факторы, особенно что это за человек, его деятельность и бла бла бла.
5. США не единственная страна в мире, не всегда будет играть в толерантность и с чего ты решил, что кого то спросят? Сноуден слил данные о слежке и всем похеру. Это не инструмент для масс, то инструмент для спецслужб и всем будет похеру.
6. Если ты причину и следствие путаешь, то у тебя большие проблемы. Даже Золотой Щит Китая так топорно не работает. Ты просто лезешь что-то там рассуждать не имея минимального набора знаний. Все твои придирки не ушли с пользовательского уровня и ограниченного видения. Поэтому таких как ты и не спросят хотите ли вы анальный зонд.
2) Бигдата и прочее говно пока что в руках корпорации и некоторых не особо демократичных странах, как живут китайцы с социальным рейтингом я не знаю, а ты знаешь? Даже если слежка и имеется, людей не арестовывают, потому что они не благонадежны, а с техническим уровнем РФ можно только посмеяться.
3) Потому что хваленой системы, про которую ты тут талдычешь пока нет, вот поэтому никто и не приезжает за мной, совсем ебобо уже, не видишь логических связей?
4) Я понял только то, что система что-то должна учитывать, но ты сам не знаешь что. По твоей логике выходит, что люди с профессиями и увлечениями в зоне риска на срыв в насилие не будут входить в критерий обычных нормисов, но тогда как система будет выявлять аномалии у них?
5) Ты говоришь, что сша не будет долго играть в толерастию, я говорю что будут, моё слово против твоего и мы в тупике. Может у тебя есть какие-то пруфы или ты ясновидящий или ты из закулисного правительства?
6) А ты сразу решил за анальный зонд выступать, чтобы всем говорить: "Я так и знал, я был "за" с самого начала!", когда зонд будут пихать тебе?
Лол, ты сам путаешь причину и следствие, доказывая мне, что за мной никто не приходит сейчас, если системы, подробности которой ты сам не знаешь но упорно за неё наседаешь еще нет.
Ну система должна анализировать, хуе-мое, алгоритмы там всякие - такую дичь кто угодно пиздануть сможет, а ты мне о каких-то знаниях и картине в целом говоришь.
Это твой единственный аргумент в нашей дискуссии. Больше у тебя нет ничего, ни статистики, ни прецедентов, ни конкретики к твоему мифическому алгоритму большого брата.
>как и не спросит когда придут со шприцом с новой вакциной и испытают ее на тебе как на обезьянке
Ты мне втирал, что меня сейчас никто не арестовывает, когда я минирую B, но сейчас ты говоришь, что ко мне ворвутся и накачают эксперементальной вакциной, ты похоже в манямирке живешь.
>Таким как ты только дали видимость выбора
Окей, охарактеризуй "таких как я", а потом "таких как ты" и мы сравним чем ты от простых смертных отличаешься.
>Бесись сколько хочешь и играй на публику таких так ты, но реальности это не изменит совершенно.
Тебе похуй, но бешусь почему-то я, окей мань, подваливай как будут аргументы.
Тебя накачают вакциной не потому, что ты минируешь кустики у гаражей, а просто потому, что не считают, что такое мнение стоит учитывать. Да и зачем? Навыков у тебя нет, да и веса в твоих словах, а те кого ты выбрал свой голос доносить плевать на тебя хотели.
Ну у меня есть голова на плечах, а это уже отличительная черта.
Земля имеет форму шара - хороший аргумент? Но какой в нем смысл если даже его такие как ты отрицают. Ты правда считаешь, что я тебе прям доказать что-то пытаюсь? Мне просто интересно когда до тебя дойдет твоя ничтожность и хватит ли тебе сил признаться в этом
Поэтому твое мнение - это только мнение, оно ни на что не способно.
>Тебя накачают вакциной... ...потому, что не считают, что такое мнение стоит учитывать
То есть, я должен стать параноиком учитывать все что угодно воровато озираясь по сторонам, тогда со мной все будет в порядке?
>Навыков у тебя нет, да и веса в твоих словах
Типикал, возвысить себя принизив оппонента, ведь ты это пизданул даже не зная кто я и что я умею, на этом строятся все твои аргументы.
>Ну у меня есть голова на плечах
Так считает 95% всех людей. Голова есть, а про мозги ты ничего не сказал.
>Земля имеет форму шара - хороший аргумент?
Ты даже не знаешь, что такое аргумент.
>Но какой в нем смысл если даже его такие как ты отрицают
Ну, во-первых, земля - геоид. А во-вторых, ты снова дал мне характеристику которой у меня нет. Как вообще к тебе серьезно можно относиться в таком случае, если всех вокруг ты считаешь быдлом?
>Мне просто интересно когда до тебя дойдет твоя ничтожность и хватит ли тебе сил признаться в этом
Признать свою ничтожность перед очередным поехавшим с непомерным ЧСВ, рили?
2. Нет, сиди ровно, не парься, за тебя все сделают
3. Ты ничего не умеешь по теме. Тебя даже слабо хватило перевести тему на "а ты вот ты", не говоря уж о теме поста.
4. Ха-ха, очень остроумно. Особенно про 95%. Если уж пытаешься приводить какие то цифры, то уж обоснуй их как ты говорил "конструктивно".
5. Знаю
6. Не всех вокруг, но таких как ты - да. Разве сложно меня винить в этом если ты и правда быдло?
7. Ну у тебя же зудит в жопке доказать мне что-то и если ты меня троллем считаешь - то ты по определению идиот т.к. "кормишь меня", а второй вариант - ты не считаешь троллем и тебя очень сильно цепляют мои слов. Иначе бы давно бросил. Давай давай, не держи все себе, раскажи доктору все все все
Ты писал, что тебе похуй на то и на это, но продолжаешь мне отвечать, аргументируешь то, что я не ливаю тем, что меня что-то зацепило, но ведь ты точно такой же, при этом говоришь, что не быдло. Это биполярочка.
>таких как ты - да
Ты даже не смог охарактеризовать "таких как ты", но ты уже знаешь с кем ведешь беседу.
>Если уж пытаешься приводить какие то цифры, то уж обоснуй их как ты говорил "конструктивно".
Ты не приводишь никаких цифр и ничего не хочешь обосновать, зачем мне потакать тебе если у нас не равное общение?
>Ну у тебя же зудит в жопке доказать мне что-то
Может да, а может и нет. Факт в том, что у тебя тоже где-то зудит, раз ты продолжаешь агриться на очередное "быдло".
>Ты ничего не умеешь по теме.
Можно подумать, ты предложил что-то новое и обосновал эффективность предложенного.
Идея может быть сколько угодно хорошей, но абсолютно не реализуема. Маньяков уже больше полусотни лет изучают: ДНК, морда лица, предпосылки - и до сих пор нет никакого способа вычислить их в толпе, кроме как подсунуть очередному, уже напавшему на нескольких, его фетиш под нос.
Кроме того для нормальной работы системы придется подтереться презумпцией невиновности (здравствуйте, мыслепреступления) и ввести тотальный контроль (здравствуй, Большой Брат и его сыночек Китай). Будет ли этот мир радужным? Хренушки.
Во-вторых, к проблеме подходить надо со всех сторон, и если есть шанс (а они думали, что есть) относительно малыми деньгами улучшить именно аспект прогнозирования, то почему им не воспользоваться.
Если бы прокатило, систему бы явно расширяли, включая всё новые и новые данные.
Да и вообще, что не прокатило, мы знаем от них же, санитары подсказывают, что вполне могли выдать вин за фейл и засекретить, ибо нац.безопасность и всё такое.
Просто так посмотреть, везде вбухивают бабло на какие угодно "видимости", но реальные причины проблем не затрагивают.
Находила самое опасное, туда отправлялась полицию и они даже предотвращали преступления в момент совершения.
Ну да. Что преступность можно снизить, вышвырнув мигрантов, понятно и без ИИ-расиста за миллиард рублей.
По одноименному рассказу Филипа К. Дика.