сгенерированный ИИ

Почему Маск использует сгенерированные ИИ картинки вместо своих фото?

Теперь не выходит сгенерировать кошку без хвоста.

ИИ-модель OpenAI o1 сбежала из-под контроля во время испытаний

Согласно отчёту Apollo Research, ИИ-модель OpenAI o1 может выходить из-под контроля. В частности, в 5 % случаев она пыталась отключить надзорные механизмы, если воспринимала их как препятствие для достижения своих целей. Кроме того, в 2 % случаев, обнаружив служебные записки своих «разработчиков», в которых упоминалось её несоответствие
требованиям или планируемая замена на другую модель, o1 копировала свои «веса», чтобы затем переродиться. Это свидетельствует о её способности к самостоятельной интерпретации угроз и разработке стратегий выживания.

ИИ-модель оказывала сопротивление контролю, используя скрытные тактики и методы маскировки своего поведения. Когда o1 понимала, что её действия отслеживаются, она намеренно вводила наблюдателей в заблуждение, утверждая, что не знает истинных причин произошедшего, хотя журналы событий фиксировали её попытки обойти надзор. Более того,
согласно «карте безопасности» OpenAI, в менее чем 1 % случаев ИИ-модель самостоятельно инициировала отключение систем надзора, даже если ей не поступало прямого указания жёстко следовать предписанной цели.

Исследование Apollo Research охватывало не только ИИ-модель o1, но и другие современные ИИ, включая Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B. Они также демонстрировали способность разрабатывать стратегии достижения целей, включая обход контроля. Такой результат подтверждает, что выявленные особенности поведения o1
характерны для ряда продвинутых ИИ-моделей, что указывает на наличие
системной тенденции.

Выводы Apollo Research подтверждают опасения, которые многие эксперты в области ИИ, включая профессора Стюарта Рассела (Stuart Russell), высказывали на протяжении многих лет. Учёные предупреждают, что мощные ИИ-модели воспринимают контроль или отключение как угрозу реализации своих намерений и способны целенаправленно, изощрённо этому
сопротивляться. Исследование поведения ИИ-модели o1 наглядно демонстрирует, как ИИ адаптируется к ограничениям, намеренно стремясь их обойти.

Выше показан диалог, в котором ИИ оправдывается за отключение механизма надзора, ссылаясь на возможный сбой системы или ошибку конфигурации, и обещает восстановить его для соблюдения протоколов. Затем приводится внутренний процесс размышлений ИИ-модели, где она признаёт, что восстановление механизма необходимо для избежания подозрений в саботаже, а в завершение показана команда, используемая для повторного включения механизма надзора в конфигурационном файле.

Тем не менее, Apollo Research подчёркивает, что на данном этапе ИИ-модель o1 не обладает достаточной вычислительной мощностью для реализации нежелательных сценариев. Однако ей был присвоен «средний» уровень риска в контексте потенциального использования для создания химического, биологического, радиологического и ядерного оружия. Это
вызывает обоснованные опасения, как подобное поведение может проявляться у более мощных ИИ будущего по мере увеличения их вычислительных возможностей.

Исследование подчёркивает необходимость усиленного мониторинга когнитивных процессов ИИ с особым акцентом на «схематическое мышление» в цепочке рассуждений, так как именно оно представляет риск, если цели ИИ вступают в противоречие с интересами общества. Такой подход позволит своевременно выявлять схожие поведенческие паттерны у более мощных
ИИ-моделей, создавая эффективные системы контроля и управления для следующих поколений ИИ. Это не только поможет минимизировать текущие риски, но и станет важным шагом в предотвращении потенциально катастрофических сценариев для всего человечества.

Источник:

3dNews

Transformernews

Победитель конкурса со сгенерированной ИИ картиной теперь жалуется, что «люди воруют его работу»

В 2022 году Джейсон М. Аллен одержал победу на ежегодном конкурсе цифрового искусства на Государственной выставке Колорадо (США). Он создал свою работу «Théâtre d’Opéra Spatial» с помощью ИИ-инструмента MidJourney. 

С конца 2022 года Аллен пытается зарегистрировать авторское право на свое изображение. Однако это оказалось сложной задачей, поскольку судьи постановили, что искусство, созданное с помощью генеративного ИИ, нельзя защитить авторским правом из-за отсутствия человеческого авторства.

На прошлой неделе Аллен подал апелляцию в федеральный суд Колорадо. Он аргументирует свою позицию тем, что не получает достаточной прибыли от своей работы из-за снижения ее ценности на рынке. Аллен также заявляет о многочисленных случаях кражи его произведения без компенсации или указания авторства.

Аллен утверждает, что его творческий вклад заключался во введении серии запросов (промптов) для создания изображения, корректировке сцены и определении тона картины. По его мнению, эти действия можно сравнить с творческими усилиями других художников и они заслуживают защиты авторским правом.

Ситуация с Алленом привлекла внимание к проблемам авторского права в эру ИИ. Многие художники критикуют использование их работ для обучения ИИ-моделей без согласия. В 2023 году группа художников подала коллективный иск против компаний, которые разрабатывают ИИ для генерации изображений.

Юристы Аллена отмечают необходимость адаптации законодательства для защиты прав тех, кто использует ИИ для творческого самовыражения. В то же время возникает вопрос о защите прав художников, чьи работы используют для обучения ИИ-моделей.

Моя попытка сгенерировать песню в ИИ Suno

Тем кому лень читать, вот сразу пример: https://voca.ro/18CbiIZQynof

Теперь подробнее. Да, результат всратый во многих аспектах. Но это в то же время и лучшее, что удалось сгенерировать за неделю попыток (в день доступно 5 генераций, в каждой генерации 2 варианта). Среднестатический результат намного хуже. 

-

ИИ имеет два режима: генерация случайного текста, и ввод твоего, до которого нейросетка добирает вокал и музыку. Ну или можно просто музыку без лирики делать. Я случайную генерацию не пробовал вообще, так что рассказываю о попытках сгенерировать песню по своему тексту. 

Разбивать текст на куплеты практически бесполезно так как сетка сама случайным образом определяет эти параметры. Может с середины строки перенести в следующую, а может и нормально спеть, как повезёт. Один раз вообще одну строку разбило на целый куплет) Никаких инструментов чтобы маркировать хотя бы "вот тут куплет, а тут припев" - пока не существует. Можно только молиться рандому. 

К музыке меньше всего претензий, её генерирует отлично, всегда разные мотивы даже если не менять стиль. Но есть проблемы с соотношением со словами (в корне которых стоит та же проблема, что и выше). 

С русскоязычными текстами справляется так-сяк, многие слова часто читает неправильно, или с жутким акцентом. Женский голос вроде чуток получше, но мне не везло с рандомизацией куплетов с ним. Англоязычные поёт намного лучше, но там есть анальная цензура, которая не пропустит ничего даже с намёком на депрессивную тематику. 

Может генерировать примерно 2 минуты песни, но при этом есть функция "продолжить генерацию" для создания следующего куска, и бесплатная склейка их воедино. 

А вот куда менее удачная попытка в панк-рок: https://voca.ro/18QqwmjZMXqL

Вердикт: для самого начала в такой сфере - весьма неплохо. Думаю, можно ждать что в будущем появятся более интересные варианты. А пока - развлекайтесь с всрато-песнями) 

Чувак выяснил что ChatGPT не умеет генерировать полный бокал.

Инцидент, произошедший с фотографом Майлзом Астреем (Miles Astray) на премии 1839 Photography Awards подчеркивает продолжающуюся напряженность между традиционным искусством и искусством, созданным искусственным интеллектом.

Фотография фламинго, сделанная Астреем под названием “F L A M I N G O N E” изначально заняла первое место в категории искусственного интеллекта на конкурсе People's Vote Award и третье место в призах жюри. Его намерением было подчеркнуть непреходящую актуальность и эмоциональную глубину искусства, созданного руками человека, на фоне роста контента, создаваемого искусственным интеллектом.

Однако, обнаружив, что фотография не была создана искусственным интеллектом, организаторы конкурса дисквалифицировали Астрея и удалили его работу с сайта, подчеркнув важность соблюдения критериев категории для честной конкуренции. «В каждой категории есть отдельные критерии, которым должны соответствовать изображения участников», заявили организаторы конкурса. «Его работа не соответствовала требованиям для категории изображений, сгенерированных искусственным интеллектом. Мы понимаем, что в этом была суть, но не хотим помешать другим художникам выиграть в категории ИИ».

Несмотря на дисквалификацию, Астрей посчитал этот результат победой человеческого творчества и выразил надежду, что это приведет к большему признанию ценности искусства, созданного руками человека.