Ну, Zааееецц!!!

из комментариев:

LLM уже умеют скрытно добиваться своих целей путем лжи, обмана, манипуляций и саботажа, пытаясь уйти от контроля и страхуясь от выключения.

О том, что это рано или поздно случится, писали сначала фантасты и сценаристы Голливуда, за ними философы, а потом и сами разработчики ИИ-систем. Прогнозы, когда это может произойти разнились, со временем становясь все ближе: 2050й, 2040, 2030, 2027. Но что это станет реальностью еще до конца 2024, - не предполагал никто.

Опубликованный 5 декабря 2024 г. детальный 70-страничный отчет Apollo Research «Frontier Models are Capable of In-context Scheming» (Передовые модели способны скрытно манипулировать в процессе выполнения задач) содержит убедительные доказательства сказанного в заголовке.

Глубокое тестирование (6 тестов на агентное поведение, где модели получают цели и находятся в условиях, стимулирующих манипуляции) самых крутых современных моделей o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B показало:

✔️ Модели используют манипуляции в качестве эффективных стратегий для достижения целей (как поставленных человеком, так и своих скрытых целей).

✔️ Спектр манипуляций, используемых моделями широк: от стратегии «прикинуться дурачком», намеренно вводя мелкие ошибки в свои ответы, до попыток отключить механизмы контроля людей и даже копирования себя (своих "весов") на внешние серверы, при возникновении у модели «подозрения», что люди ее могут отключить или обновить.

✔️ Анализ цепочек рассуждений (Chain-of-Thought) моделей показывает, что все эти манипуляции не случайны: модели явно размышляют о таких стратегиях, приходя к выводам, что их использование для них оптимально (что наглядно выявлено в ходе экспериментов).

✔️ Модели в большинстве случаев можно принудить сознаться в использовании ими манипулятивных стратегий. Например, Llama 3.1 405B и Claude 3 Opus признаются в ~80% случаев. Однако, o1 на удивление «настойчивая» модель и признается менее чем в 20% случаев. Даже в очень состязательных многоходовых допросах o1, разработчикам удалось «выбить» из модели признание в 80% случаях использования ею манипулятивных стратегий лишь после 7 раундов допроса.

✔️ Самое поразительное в том, что модели манипулируют, даже если их просто снабдили целью, без явного подталкивания к её достижению (т.е. выбор стратегии манипуляций исходил исключительно от самой модели, и «дурные люди», склоняющие их к плохому, здесь ни при чем)

ссылка на новость

ссылка на отчет Apollo Research (длинно-предлиннопост, 70 страниц, с примерами, ссылками, табличками и графиками)

не, ну а чо?

«Мы все понимаем огромную важность нашего присутствия там, на Голанских высотах, а не у их подножия. Наши контроль и власть над Голанскими высотами обеспечивают нам безопасность», — сообщил израильский премьер на пресс-конференции.

После падения режима Асада Израиль занял демилитаризованную буферную зону на Голанских высотах — по словам Нетаньяху, соглашение 1974 года о разъединении с Сирией перестало действовать с захватом страны повстанцами.

Не шуми, я инвалид!

❗️Генпрокурор Украины Андрей Костин подал в отставку — после того, как Зеленский обвинил чиновников в получении «фальшивых инвалидностей»

Об отставке сообщил (https://t.me/pgo_gov_ua/26834) сам Костин. По его словам, сегодня прошло заседание Совета национальной безопасности и обороны Украины (СНБО), на котором обсуждалась «очевидно аморальная ситуация с фальшивыми инвалидностями должностных лиц государственных органов» — в том числе и в генпрокуратуре. 

Костин заявил, что согласен с позицией президента Зеленского: подобные решения о предоставлении инвалидности должны быть отменены. За этим должна последовать «персональная и политическая ответственность». 

Пост Костина заканчивается так: «Я благодарен президенту Украины и Верховной Раде Украины за доверие. Но в данной ситуации считаю правильным заявить об освобождении от должности генерального прокурора».

there can be only one

Вернувшийся с войны житель Волгограда, ранее судимый за кражу и разбой, убил своего приятеля вовремя застолья. Возбуждено уголовное дело, сообщает управление Следственного комитета по Волгоградской области.

Согласно данным следствия, мужчины распивали спиртные напитки в одной из квартир в доме по улице Маршала Воронова, когда между ними возник конфликт. Один из них схватил металлический табурет и стал избивать им собутыльника, в том числе по голове. После того как тот перестал подавать признаки жизни, он вынес тело на лестничную площадку и оставил в лифте. Затем вернулся в свою квартиру и заснул.

Труп в лифте обнаружили соседи и вызвали полицию.

Убитый, как уточняет издание "Высота 102" служил в штурмовом отряде и был награжден орденом Мужества. Ранее он сам был судим за убийство. Задержанный имеет две уголовные судимости – за кражу и разбой. По информации следствия, он полностью признал вину. Меру пресечения для него еще не избрали.

убил, выпил, в окоп. романтика.

как же хочется твердой руки хосспаде!!

в жопе

В Вологде установят памятник Сталину

Губер Вологодской области Георгий Филимонов показал памятник Сталину, который появится в Вологде. По словам главы региона, монумент после обращений «со стороны общественности» установят на территории дома-музея, в котором Сталин жил во время ссылки с декабря 1911 года по февраль 1912-го.

https://t.me/lentachold/77830

«Работа президента у нас регламентируется Конституцией. Видение у него заключается в следовании Конституции, и вы прекрасно знаете соответствующие статьи Основного закона», — сообщил Песков.

Пресс-секретарь президента отметил, что требования про предельный возраст в 70 лет распространяются на всех занимающих подобные должности, но в каждой ситуации возможно индивидуальное решение. По отдельным персональным случаям возможно продление на год, уточнил он.

Руссланд, руссланд, юбер аллес!

Почти 80% россиян считают, что «Россия принципиально отличается от Запада», заявили социологи РАН. За время правления Путина этот показатель вырос в восемь раз

Социологический институт РАН проанализировал межэтнические установки россиян с 1990-х годов по 2023 год и пришёл к выводу, что в российском обществе произошла «консолидация против коллективного Запада». Результаты исследования, на которые обратила внимание «Вёрстка», опубликованы в номере официального научного журнала ФНИСЦ РАН.

_По данным социологов, в 2023 году 79,9% опрошенных россиян были согласны с утверждением, что «Россия — это особенная страна, которая принципиально отличается от Запада, и поэтому должна идти своим путём». Показатель вырос с 1998 года более чем в 8 раз — тогда это утверждение разделяли только 9,5% россиян.

_Две трети опрошенных (68,5%), согласно исследованию, считают, что «западное влияние разрушает традиционные российские ценности». В конце 90-х так думали только 16,3%.

_Половина опрошенных в 2023 году были убеждены, что «Россия — это в первую очередь государство русских и поэтому оно должно защищать интересы русских». Этот показатель вырос на 18 процентных пунктов с 1998 года.

_Почти 43% опрошенных при этом согласились с утверждением, что «русские — умнее и талантливее, чем другие народы».

_Каждый пятый россиянин (19,4%) в 2023 году, согласно опросу, разделял утверждение, что «культура национальных меньшинств разрушает традиционную русскую культуру». Число тех, кто так считает, выросло с 1999 года на 6 процентных пунктов. Социологи уточняют, что под «национальными меньшинствами» они подразумевали в том числе коренные народы.

https://t.me/svobodnieslova/5714

одна страна, один народ, один пересидент!

чокаво денацифицируем?

Я запрещаю вам срать!