Искусственный интеллект обвинили в расизме / расизм :: новости :: Искусственный Интеллект

Искусственный интеллект обвинили в расизме

Алгоритмы ИИ с трудом распознают речь и тексты афроамериканцев
Системы голосового и текстового распознавания все чаще стали подвергаться критике — последнее исследование ученых Массачусетского университета показало, что голосовая связь, чат-боты и другие технологии на базе искусственного интеллекта часто не способны различить речевые особенности национальных меньшинств. На первый взгляд, проблема не заслуживает внимания, однако ввиду повсеместного внедрения таких систем ее игнорирование усугубляет дискриминацию некоторых групп населения.

Авторами исследования «Программы искусственного интеллекта обучены не замечать афроамериканскую речь» выступили профессор Массачусетского университета Брендан О’Коннор и один из его аспирантов Су Линь-Блоджетт. В процессе изучения необъективности функционирования инструментов распознавания речи и текста эксперты составили базу данных из 59,2 млн постов социальной сети Twitter, которые содержат афроамериканский сленг и жаргон. Полученные сведения впоследствии были изучены с помощью специальных сервисов обработки естественного языка (в исследовании отсутствуют наименования этих программ.— “Ъ”). Выяснилось, что эти инструменты не всегда способны распознать написанное афроамериканцами, более того, один из сервисов посчитал, что публикации и вовсе написаны на датском языке. В процессе исследования эксперты также зафиксировали имеющиеся проблемы при использовании систем анализа значения и тональности текста, написанного афроамериканцами.

Авторы исследования объясняют сложившуюся ситуацию упрощенным процессом машинного обучения, в ходе которого алгоритмы обучаются по имеющимся сведениям в базе данных. Если системы не содержат достаточного количества примеров употребления сленга, диалекта, жаргона, такие системы, как правило, вряд ли поймут вас. Ученые отмечают, что в настоящее время технологии на базе машинного обучения внедряются повсеместно (чат-боты, голосовые помощники, системы анализа общественного мнения в социальных сетях и проверки документов и заявок), что доказывает неэффективность взаимодействия «умных» систем и человека при недостаточном наборе данных.
https://www.kommersant.ru/doc/3390196?vk