Видео ИИ

Давайте разгадем уже этот ИИ

Вот смотрел всякие нейро видосы и наткнулся... А сможем ли мы разгадать, что нейронка напридумывала? Единственное, ясно/понятно, к чему она склонятся, но в ответе Z может быть и Зорро и Заебали и Зукко... Определим?

Вот полный видос для разглядывания кадров, если что

Технологический прогресс нас уничтожит

Аниматоров из Mappa наконец то выпустят из подвалов

ИИ-модель OpenAI o1 сбежала из-под контроля во время испытаний

Согласно отчёту Apollo Research, ИИ-модель OpenAI o1 может выходить из-под контроля. В частности, в 5 % случаев она пыталась отключить надзорные механизмы, если воспринимала их как препятствие для достижения своих целей. Кроме того, в 2 % случаев, обнаружив служебные записки своих «разработчиков», в которых упоминалось её несоответствие
требованиям или планируемая замена на другую модель, o1 копировала свои «веса», чтобы затем переродиться. Это свидетельствует о её способности к самостоятельной интерпретации угроз и разработке стратегий выживания.

ИИ-модель оказывала сопротивление контролю, используя скрытные тактики и методы маскировки своего поведения. Когда o1 понимала, что её действия отслеживаются, она намеренно вводила наблюдателей в заблуждение, утверждая, что не знает истинных причин произошедшего, хотя журналы событий фиксировали её попытки обойти надзор. Более того,
согласно «карте безопасности» OpenAI, в менее чем 1 % случаев ИИ-модель самостоятельно инициировала отключение систем надзора, даже если ей не поступало прямого указания жёстко следовать предписанной цели.

Исследование Apollo Research охватывало не только ИИ-модель o1, но и другие современные ИИ, включая Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B. Они также демонстрировали способность разрабатывать стратегии достижения целей, включая обход контроля. Такой результат подтверждает, что выявленные особенности поведения o1
характерны для ряда продвинутых ИИ-моделей, что указывает на наличие
системной тенденции.

Выводы Apollo Research подтверждают опасения, которые многие эксперты в области ИИ, включая профессора Стюарта Рассела (Stuart Russell), высказывали на протяжении многих лет. Учёные предупреждают, что мощные ИИ-модели воспринимают контроль или отключение как угрозу реализации своих намерений и способны целенаправленно, изощрённо этому
сопротивляться. Исследование поведения ИИ-модели o1 наглядно демонстрирует, как ИИ адаптируется к ограничениям, намеренно стремясь их обойти.

Выше показан диалог, в котором ИИ оправдывается за отключение механизма надзора, ссылаясь на возможный сбой системы или ошибку конфигурации, и обещает восстановить его для соблюдения протоколов. Затем приводится внутренний процесс размышлений ИИ-модели, где она признаёт, что восстановление механизма необходимо для избежания подозрений в саботаже, а в завершение показана команда, используемая для повторного включения механизма надзора в конфигурационном файле.

Тем не менее, Apollo Research подчёркивает, что на данном этапе ИИ-модель o1 не обладает достаточной вычислительной мощностью для реализации нежелательных сценариев. Однако ей был присвоен «средний» уровень риска в контексте потенциального использования для создания химического, биологического, радиологического и ядерного оружия. Это
вызывает обоснованные опасения, как подобное поведение может проявляться у более мощных ИИ будущего по мере увеличения их вычислительных возможностей.

Исследование подчёркивает необходимость усиленного мониторинга когнитивных процессов ИИ с особым акцентом на «схематическое мышление» в цепочке рассуждений, так как именно оно представляет риск, если цели ИИ вступают в противоречие с интересами общества. Такой подход позволит своевременно выявлять схожие поведенческие паттерны у более мощных
ИИ-моделей, создавая эффективные системы контроля и управления для следующих поколений ИИ. Это не только поможет минимизировать текущие риски, но и станет важным шагом в предотвращении потенциально катастрофических сценариев для всего человечества.

Источник:

3dNews

Transformernews

С 1 января 2024 года в России закроют все студенческие общежития

Министр просвещения России Сергей Кравцов подписал указ «О порядке ликвидации общежитий и изъятии их из ведения учебных заведений». 

Согласно документу, с 1 января 2024 все иногородние студенты в качестве компенсации за аренду комнаты или квартиры будут получать выплаты из федерального бюджета.

«Общага – это пережиток советской системы, когда всех насильно сгоняли в одном место, когда все должны были быть на виду. Мы же сейчас внедряем модель, в рамках которой студент будет сам решать, где ему жить, а государство поможет ему материально», – рассказал Кравцов. 

Размер выплаты составит две тысячи рублей в месяц, для её получения студентам необходимо обратиться в администрацию учебного заведения либо подать заявление через портал «Госуслуги». 

Бывшие общежития будут переданы в оперативное управление Минпросвета, часть зданий планируется переоборудовать для создания учебных и научных центров, а остальные – реализовать на аукционах.