OpenAI

OpenAI создали модель для исследований продления жизни

Проект стартовал год назад, когда Retro Biosciences, занимающаяся разработкой клеточного репрограммирования для продления жизни (они заявляют, что хотят добавить как минимум 10 лет к продолжительности жизни) предложила OpenAI работать совместно. Это вовсе не случайный выбор. Пару лет назад Сэм Альтман вложил в Retro Bio 180 миллионов своих денег.

Retro Bio не единственные, кто изучают клеточное репрограммирование, эта область исследований продления жизни наиболее финансируемая, т. к. по мнению многих обладает наибольшим потенциалом. Не просто продление жизни. Омоложение - вот цель. Суть в том, что некоторые вещества обладают способностью возвращать клетку в состояние стволовой. Их называют факторами Яманаки, по фамилии их первооткрывателя, за что он получил Нобелевку. Потом обнаружили, что применение 3 из 4 этих факторов останавливает процесс, когда клетка омолодилась, но еще не превратилась обратно в стволовую. И вот теперь миллиарды долларов вливаются в то, чтобы научиться это делать надежно, безопасно и для всех тканей. Продвинулись пока не очень далеко, но, как минимум, этим способом вылечили повреждения зрительного нерва у обезьян, вернув им зрение. Еще омолаживали человеческую кожу в пробирке на 30 лет.

Как пишет MIT Tech Review в соусе, такое репрограммирование сейчас крайне малоэффективно, т. к. только 1% всех леченных клеток в итоге омолаживается. А новая модель OpenAI, получившая название GPT-4b micro, была обучена предлагать способы реорганизации белковых факторов для улучшения их функции. По данным OpenAI, исследователи использовали предложения модели, чтобы изменить два фактора Яманаки, и они стали более чем в 50 раз более эффективными.

Модель была обучена на примерах белковых последовательностей многих видов, а также на информации о том, какие белки склонны взаимодействовать друг с другом. Хотя это большой объем данных, это лишь малая часть того, чему обучались флагманские чат-боты OpenAI, что делает GPT-4b примером «малой языковой модели», которая работает с целевым набором данных.

Бывший сотрудник OpenAI, критиковавший компанию и найденный мертвым в ноябре в своем доме, возможно, был убит

Сушир Баладжи в течение почти четырех лет работал на OpenAI. Он собирал и систематизировал информацию, на которой компания обучала свои модели. В августе он покинул компанию, разочаровавшись в ее принципах. Он считал, что компания нарушает авторское право и это наносит огромный вред. В интервью Нью-Йорк Таймс он говорил: "Если вы верите в то, во что верю я, вы должны уйти из компании." 26 ноября он был найден мертвым в своей квартире в Сан-Франциско. Полиция сказала, что это было самоубийство. Ему было 26 лет.

И вот теперь его мать запостила в твиттере, что нанятый частный сыщик и повторная аутопсия не подтверждают версию полиции. Она пишет, что его квартира была обыскана, что в ванной есть следы борьбы и судя по пятнам крови, кто-то ударил его в ванной. Она требует расследования от ФБР.

Работу отберут скоро не только у художников. Sora от OpenAI уже доступна для "плюс" подписчиков.

ИИ-модель OpenAI o1 сбежала из-под контроля во время испытаний

Согласно отчёту Apollo Research, ИИ-модель OpenAI o1 может выходить из-под контроля. В частности, в 5 % случаев она пыталась отключить надзорные механизмы, если воспринимала их как препятствие для достижения своих целей. Кроме того, в 2 % случаев, обнаружив служебные записки своих «разработчиков», в которых упоминалось её несоответствие
требованиям или планируемая замена на другую модель, o1 копировала свои «веса», чтобы затем переродиться. Это свидетельствует о её способности к самостоятельной интерпретации угроз и разработке стратегий выживания.

ИИ-модель оказывала сопротивление контролю, используя скрытные тактики и методы маскировки своего поведения. Когда o1 понимала, что её действия отслеживаются, она намеренно вводила наблюдателей в заблуждение, утверждая, что не знает истинных причин произошедшего, хотя журналы событий фиксировали её попытки обойти надзор. Более того,
согласно «карте безопасности» OpenAI, в менее чем 1 % случаев ИИ-модель самостоятельно инициировала отключение систем надзора, даже если ей не поступало прямого указания жёстко следовать предписанной цели.

Исследование Apollo Research охватывало не только ИИ-модель o1, но и другие современные ИИ, включая Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B. Они также демонстрировали способность разрабатывать стратегии достижения целей, включая обход контроля. Такой результат подтверждает, что выявленные особенности поведения o1
характерны для ряда продвинутых ИИ-моделей, что указывает на наличие
системной тенденции.

Выводы Apollo Research подтверждают опасения, которые многие эксперты в области ИИ, включая профессора Стюарта Рассела (Stuart Russell), высказывали на протяжении многих лет. Учёные предупреждают, что мощные ИИ-модели воспринимают контроль или отключение как угрозу реализации своих намерений и способны целенаправленно, изощрённо этому
сопротивляться. Исследование поведения ИИ-модели o1 наглядно демонстрирует, как ИИ адаптируется к ограничениям, намеренно стремясь их обойти.

Выше показан диалог, в котором ИИ оправдывается за отключение механизма надзора, ссылаясь на возможный сбой системы или ошибку конфигурации, и обещает восстановить его для соблюдения протоколов. Затем приводится внутренний процесс размышлений ИИ-модели, где она признаёт, что восстановление механизма необходимо для избежания подозрений в саботаже, а в завершение показана команда, используемая для повторного включения механизма надзора в конфигурационном файле.

Тем не менее, Apollo Research подчёркивает, что на данном этапе ИИ-модель o1 не обладает достаточной вычислительной мощностью для реализации нежелательных сценариев. Однако ей был присвоен «средний» уровень риска в контексте потенциального использования для создания химического, биологического, радиологического и ядерного оружия. Это
вызывает обоснованные опасения, как подобное поведение может проявляться у более мощных ИИ будущего по мере увеличения их вычислительных возможностей.

Исследование подчёркивает необходимость усиленного мониторинга когнитивных процессов ИИ с особым акцентом на «схематическое мышление» в цепочке рассуждений, так как именно оно представляет риск, если цели ИИ вступают в противоречие с интересами общества. Такой подход позволит своевременно выявлять схожие поведенческие паттерны у более мощных
ИИ-моделей, создавая эффективные системы контроля и управления для следующих поколений ИИ. Это не только поможет минимизировать текущие риски, но и станет важным шагом в предотвращении потенциально катастрофических сценариев для всего человечества.

Источник:

3dNews

Transformernews

анимированные логотипы известных брендов в стиле 80-х

via Kostya Petrenko ( @kxdgraphics )

OpenAI становится коммерческой компанией, Сэм Альтман получает долю, Мира Мурати покидает должность

Мира Мурати стала последней из старших менеджеров, покинувших компанию.

OpenAI перестанет быть некоммерческой организацией, а Сэм Альтман получит долю в новой компании. Вероятно, он станет богаче на 10 миллиардов. Некоммерческая часть OpenAI сохранится и будет владеть небольшой частью новой коммерческой компании.

OpenAI, по последним оценкам, стоит около 150 миллиардов долларов, но не торгуется на бирже. Пока.

Сэм Альтман недавно просил Белый Дом одобрить постройку датацентров с энергопотреблением в 5 гигаватт.

OpenAI утверждает что они не могут получить доход без использования чужого контента бесплатно