Соси будущий я

Главы техкомпаний, инженеры и исследователи попросили приостановить «масштабные ИИ-эксперименты» — они угрожают обществу

Среди подписавшихся — сооснователи Apple, Skype и Pinterest, гендиректор SpaceX и Tesla, а также сотрудники Microsoft и Google.

Более 1100 исследователей, инженеров и предпринимателей подписали открытое письмо ИИ-лабораториям — с просьбой «срочно и как минимум на полгода приостановить обучение ИИ-систем, более производительных, чем GPT-4». Если это невозможно, вмешаться должно правительство — например, ввести мораторий на эксперименты.

Продукты с искусственным интеллектом, «сопоставимым с человеческим, могут представлять серьёзную угрозу обществу и человечеству», пишут авторы письма. При работе с ними разработчики должны быть крайне внимательными, но «этого не происходит», так как последние несколько месяцев они пытаются обогнать друг друга и выпустить «более мощные модели, действия которых сами не могут до конца понять, предсказать и проконтролировать».

В письме авторы отмечают, что разработкой продуктов, которые могут заменить людей или породить больше новостной пропаганды, должны заниматься «избираемые» технологические лидеры. Сами системы при этом стоит создавать тогда, когда все уверены, что те принесут пользу, а рисками можно будет управлять. Пока силы следует направить на доработку уже существующих продуктов — чтобы сделать их точнее, безопаснее и прозрачнее.

Это не значит, что нужно полностью остановить развитие технологии, пишут авторы: надо лишь «выйти из опасной гонки». Они предлагают в течение полугода объединить усилия и разработать единые для рынка правила безопасности, а также способы контроля экспериментов. По их словам, нужно также подключить правительства, чтобы те сформировали ведомства, которые будут сертифицировать продукты, смогут отличать реальный контент от «синтетического» и следить за утечками ИИ-моделей.

На момент публикации среди подписавшихся числятся директор SpaceX, Tesla и Twitter Илон Маск и сооснователи Apple, Skype, Pinterest, Ripple — то есть Стив Возняк, Яан Таллинн, Эван Шарп и Крис Ларсен. Есть и главы фирм-разработчиков ИИ-продуктов — из Stability AI (Stable Diffusion), Scale AI, ThirdAI, Character.ai, Unanimous AI и других.

Письмо также поддержали инженеры и исследователи Google и Microsoft и учёные и профессора из многочисленных университетов — Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического и других.

Профессор Нью-Йоркского университета и исследователь Meta* Ян ЛеКан сообщил в Twitter в ответ на удалённую публикацию, что не подписывал письмо и не согласен с его основным посылом (на момент обновления заметки его имя отсутствует в списке, а автора удалённого твита узнать невозможно — vc.ru). В комментариях к его заявлению пользователи предположили, что подписи могли быть сгенерированы ИИ, а также допустили, что, возможно, его имени там изначально и не было, а его внимание привлекли только ради «дополнительных кликов».

Ну что реакторчане? Скажет и Киберпанк или серая обыденная жизнь?

Ютуб в 2050-е годы:

@ Привет, мои анальные котятки!

@ Ну я купил DLC на бег, так что мы тут ща быстро пробежим, как раз его на 10 минут хватит.

@ Главное чтоб натуралом не сделали, это, ну, хуже всего.

@ Кароч мне лень делать видео, мне лень вести стримы, так что пусть теперь нейросетка их ведет, вы главное донатьте.

@ Это обзор на 7-й ремастер последних Ассасинов, посмотрим добавили ли хотя бы что-то новое, или мы зря покупали предыдущие 6.

@ И вот мой основной канал забанили за слово "нату... кароче за слово на букву Н. Им ещё продукты раньше охарактеризовывали.

@ Наконец-то мне доставили новую видеокарту, идёмте к грузовому лифту.

@ Итак, сегодня у нас распаковка. Мм, новый дизайн Айфона такой же как предыдущий. Люблю постоянство. Раньше каждый следующий делали хуже, теперь хоть просто дороже.

@ ПРОХОДИМ МАЙНКРАФТ 1.70.1 НА ВИБРАТОРАХ С ПАЦАНАМИ!!!

@ Я всё не хотел подключать вебку вместо аватара, потому что... Никакой я не Саныч, меня зовут Аня и мне 15 лет.

@ АЗИАТЫ ЕДЯТ ЛЕТУЧИХ МЫШЕЙ, КТО ВЫЖИВЕТ ПОЛУЧИТ 1.000.000 СОЦ. РЕЙТИНГА!!!

@ Не, пацаны, новую Баттлу пока не потяну, надо отдать кредит за старую.

@ Соси половые органы человека непривлекательного для тебя гендера, мудило!

@ Да, я сделал на лбу татуировку "Подпишись", зато это теперь по закону считается рекламой и мне не придется платить копирайт за это слово.

@ Заходишь на сайт аниме, ставишь в фильтр -попаданцы и -перерождение, и страница становится пустой. Грустно.

@ Когда уже webp нормально интегрируют везде?

@ Погодите, ко мне стучатся.. ЗАНЯТО! Да, я сру и стримлю, отстань! Так вот, мобильный гейминг...

@ Вы удивлены почему вы видите меня живым тут? Просто говорить буду я, но сценарий видео сделала нейросеть. Теперь нам нужно найти бабку и поговорить с ней о кризисе среднего возраста ветеранов Bloons TD 8.

@ Меня не было полгода, просто мне пришлось вручную исправлять и дописывать код игры, чтобы она начала работать и хотя бы была похожа на то, что нам представили в трейлере. Вы кстати знаете что в Стиме за неё до сих пор просят $400? Ладно, надо успеть сделать обзор, пока Майкрософт не выслал группу зачистки за создание незаконных патчей. Надеюсь после этого патч хотя бы не уничтожат и его можно будет купить.

@ Диско Элизиум 3 это полный кал, неужели они и вправду заменили все скины оружия на агидку голосовать за какого-то мужика из совета директоров? Ещё и этот кроссовер с персонажами Диснея.

@ На удивление игра аватаров управляемых нейросетями куда лучше, чем от актеров нанятых по квотам. Нет этих каменных лиц, вечно открытых ртов, отсутствия эмоций даже во время драмы или взрывов.

@ Геншин Икс Бэт, онлайн казино в стиле Deep Dark Fantasy! "Это сообщение будет транслироваться на все ваши домашние устройства, пока вы не купите минимум 1 единицу товара от кампании Икс Бэт (C)"

Предыстория "Назад в будущее". Как подружились Марти МакФлай и Док Браун

 

Вот и пришёл мой 25й день рождения, спасибо тебе реактор.

Террористы Луганска собираются восстанавливать технологии 19 века