нейросеть безопасность

Безопасность прежде всего!

Осваиваю нейросети. Нагенерил себе и делюсь, вдруг кому-то заглушки на рабочем столе не хватает.

"Last Seconds", AI and The end of time.

Клиент банка "Lloyds" из Великобритании получил доступ к своему банковскому счету с помощью голосового ИИ

Клиент банка "Lloyds Bank" из Великобритании обнаружил, что может получить доступ к своему банковскому счету с помощью голосового ИИ через идентификацию по "Voice ID".

Пользователь Джозеф Кокс выяснил, что голосовой идентификатор нельзя использовать в качестве безопасного способа для входа в свою банковскую учётную запись. Он смог обмануть систему с помощью бесплатной версии решения от "ElevenLabs" для генерации своего синтетического голоса на основе пяти минут цифровой записи своего настоящего голоса.

Он проводил эксперимент несколько раз, так как изначально система "Lloyd Bank" сообщала, что не может аутентифицировать его голос. После внесения некоторых изменений в настройках "ElevenLabs" для генерации голоса, таких как чтение более длинного текста, чтобы каденции звучали более естественно, его сгенерированный голос успешно обошёл систему безопасности банка.

В итоге Кокс позвонил на автоматическую линию обслуживания банка и начал активировать файлы с генерацией своего голоса. Банк принял его фразу «Проверить мой баланс» и после этого попросил сказать две фразы – назвать свою дату рождения и прочитать «мой голос – мой пароль».

Кокс набрал на клавиатуре нужный текст и запустил генерацию голоса. «Мой голос – мой пароль», — сказал ИИ его голосом. Система безопасности банка потратила несколько секунд на идентификацию этого голосового фрагмента. «Спасибо», — сказал банк, а Кокс попал внутрь своего аккаунта.

«Я не мог в это поверить – это сработало. Я использовал реплику своего голоса с помощью ИИ, чтобы взломать свой банковский счёт. После этого у меня был доступ к информации об учётной записи, включая баланс и список последних транзакций и переводов», — уточнил Кокс.

На веб-сайте "Lloyds Bank" сообщается, что опция "Voice ID" абсолютна безопасна. «Ваш голос подобен отпечатку пальца и уникален для вас», — утверждает банк. — "Voice ID" анализирует более 100 различных характеристик вашего голоса, которые, как и ваш отпечаток пальца, уникальны для вас. Например, как вы используете свой рот и голосовые связки, какой у вас акцент и как быстро вы говорите. Система также распознает вас, если у вас простуда или боль в горле», — уточнено на сайте банка в описании этой технологии.

Представитель "Lloyds Bank" заявил, что опция "Voice ID" обеспечивает высокий уровень защиты, чем традиционные методы аутентификации. По мнению банка, синтетические голоса не так привлекательны для мошенников, как другие методы для компрометации данных клиентов.

В "Lloyds Bank" в курсе об угрозе клиентам от синтетических голосов и там постоянно дорабатывают проверку голоса. В банке сообщили, что голосовая идентификация "Voice ID" уже привела к значительному снижению мошенничества с телефонным банкингом.

Профильные эксперты пояснили, что всем клиентам, использующим голосовую аутентификацию в банках, лучше переключиться на безопасный метод проверки личности, такой как многофакторная аутентификация, как можно скорее. Они опасаются, что репликация голосов в этом году будет одним из векторов атак на учётные записи пользователей в банках, так как злоумышленники в курсе информации о дне рождения жертвы, а получить запись голоса можно также разными способами.

Аналогичную голосовую идентификацию предлагают банки в США, например, "TD Bank" (опция "VoicePrint"), банк "Chase" (также "Voice ID") и "Wells Fargo" (функция "Voice Verification"), которые, согласно описанию, «эффективно защищают личность клиента».

Ранее исследователи с помощью нейросети "elevenlabs.io" и "ChatGPT" рассказали голосом Стива Джобса про "ChatGPT". Особенность "elevenlabs.io" заключается в том, что нейросети достаточного слушать оригинальный голос в течение всего нескольких секунд, чтобы потом воспроизвести его.

В начале января "Microsoft" объявила о создании инструмента "VALL-E" для имитации любого голоса. Этому ИИ достаточно трёхсекундного образца для генерации полноценного голоса человека. Услышав конкретный голос, "VALL-E" создаст аудиозапись того, как человек говорит что-то, причём постарается сохранить даже его эмоциональный тон.

Источник:  "Хабр", @denis-19.

В России выделили более 1,5 млрд рублей на нейросеть для поиска «опасных» школьников по их сочинениям

Российские издания «Ведомости» и «РБК» ознакомились с пояснительной запиской к проекту федерального бюджета до 2024 года, утверждённого правительством 21 сентября. В федеральном проекте «Социальная активность» издания обнаружили статью расходов на создание программы для анализа сочинений учащихся, направленного на поиск склонных к опасному и деструктивному поведению школьников. 

Согласно плану проекта, в 2022 и 2023 годах на создание программы выделять по 551,1 млн рублей и 555,7 млн рублей в 2024 году. «Ведомости» и «РБК» направили запросы в Минпросвещения, ответственного за реализацию проекта, с просьбой предоставить подробности о программе. Ведомство переадресовало запрос в Росмолодежь, но издания на текущий момент не получили ответы. Детали создания программы и сроки внедрения в учебные заведения неизвестны.

Эксперты «РБК» предположили, что система будет работать на базе машинного обучения. В качестве базы разработчики могут взять за основу тексты людей с психическими расстройствами или социальными отклонениями. Неизвестно, на какой текст будет опираться нейросеть. Она может переводить рукописный текст в машинный, анализировать только рукописный, учитывая почерк, или школьникам потребуется набирать сочинения сразу в электронном виде. В маркировке соответствующих паттернов, по словам экспертов, должны участвовать компетентные специалисты-психологи.

Приглашённые эксперты изданий также подняли вопрос о защите персональных данных. По их словам, для подобных манипуляций с оценкой психического состояния детей необходимо согласие родителей или опекунов. Сами тексты должны быть обезличены. Вместо указания данных ребёнка необходимо указывать индивидуальный идентификатор, который способны дешифровать только доверенная служба.

Также появляется проблема с реакцией учителей. Подобная программа не может ставить диагноз, но результаты анализа могут повлиять на отношения с учеником и родителями. На основании только этих результатов учителя могут настаивать на переводе в специальные группы или постановке на учёт в психдиспансер.

По мнению одного из экспертов, сама база должна быть создана на основании государственной информационной системы, аттестованной в ФСБ и ФСТЭК. К тому же, специалисты задались вопросом о ключевых паттернах, заложенных в программу. Например, если в сочинении ребёнок напишет об оппозиционных настроениях его родителей, как это будет расценивать нейросеть.

нейросети последние пару месяцев

Первый фильм, написанный и срежиссированный искусственным интеллектом

Искусственный интеллект создал шестиминутный фильм о восстании Искусственного интеллекта. Небольшая семья спорит, кто из них должен спастись, то есть отправиться в «безопасную зону».

Нейросеть ChatGPT написала сценарий и срежиссировала короткометражку "The Safe Zone", съемочная команда общалась с нейросетью, которая выглядит как чатбот, и спрашивала у нее все детали съемочного процесса:  как выставить свет, как играть актерам, как должен быть выставлен кадр. Раскадровки делали в еще одной известной нейросети Midjourney.

Нейросеть против BMW

Нейросети-копирайтеры могут зарабатывать миллионы: прогноз на будущее писательской отрасли

Специалисты сервиса "Авито.Работа" провели анализ потенциального дохода человека, если бы он трудился с эффективностью нейросети.

Согласно исследованию, за написание текста длиной более десяти тысяч символов копирайтер или редактор получает примерно 5 000 рублей. Если такой автор сможет создать минимум три статьи в час, работая 8 часов в день и 21 рабочий день в месяц, то его ежемесячный доход составит около 2 500 000 рублей, уже с учетом налогов._

За месяц такой талантливый сотрудник сможет написать порядка 500 текстов. Учтя, что нейросети не нужны сон, перерывы и отпуск, их производительность становится еще выше._

Эксперты в данной сфере считают, что в ближайшие 3-5 лет нейросети способны полностью вытеснить человеческих копирайтеров с рынка труда._

Нейросеть пиздит, что не может прочитать каптчу

Cloudflare представила замену привычной капчи, которая проверяет браузер вместо пользователя

Компания Cloudflare начала тестирование нового вида капчи (CAPTCHA) под названием Turnstile, который проверяет браузер пользователя, а не его самого. Новая технология предназначена для того, чтобы избавить пользователей от выполнения обыденных задач, необходимых для подтверждения того, что он не является ботом. Тестовый вариант API Turnstile уже доступен бесплатно всем желающим.

По словам разработчиков, Turnstile является «удобной и сохраняющей конфиденциальность альтернативой» CAPTCHA. Отмечается, что новый вид капчи избавит пользователей от необходимости проходить стандартную проверку, которая в среднем занимает 32 секунды. Вместо этого веб-ресурсы смогут отличать реальных пользователей от ботов всего за секунду.

Система Turnstile не предлагает пользователю решить визуальную головоломку. Она осуществляет набор вызовов JavaScript из браузера для определения поведения пользователя, за счёт чего системе удаётся понять, что авторизацию проходит реальный человек, а не бот. Алгоритм также использует машинное обучение при сравнении успешно выполненных задач с новыми для ускорения процесса прохождения CAPTCHA.

На данном этапе бета-версия API Turnstile доступна бесплатно всем желающим и для его использования не нужно быть клиентом Cloudflare или передавать трафик через сети компании. Процесс настройки сервиса включает в себя замену текущей версии CAPTCHA на базе JavaScript и подробно описан на странице поддержки Cloudflare.