✔️ OpenAI заблокировала атаку дистилляции скрытых CoT своих моделей Компания пресекла кампанию по состязательной дистилляции, направленную на извлечение скрытых цепочек рассуждений. Ключевой кластер активности компания связала с Moonshot AI. В атаке участвовало 4 тысячи учетных записей, всего было сделано 16 тысяч запросов. Шифрование злоумышленники не вскрывали, в сохранённые диалоги не проникали – операторы копировали зашифрованные рассуждения из одного диалога и просили модель в другом расшифровать и переписать их. OpenAI закрыла этот путь, добавила проверки потоковой выдачи, заблокировала аккаунты и передала наблюдения в Frontier Model Forum. Moonshot AI пока обвинения не комментировала. openai.com ✔️ DeepMind представила систему маркировки сгенерированных белков и геномов Новая технология SynthID Bio встраивает водяные знаки в сгенерированные белки и геномы. Метка закладывается в структуру и считывается даже после физического синтеза молекулы в лаборатории. В зависимости от формата данных алгоритм вносит корректировки в аминокислотные последовательности или меняет координаты атомов в 3D-структурах AlphaFold 3. Заявлено, что точность и функциональность молекул при этом не снижаются. Разработка решает проблему отравления данных и обхода фильтров безопасности. Генерации не похожи на известные патогены и легко проходят автоматический скрининг фабрик по синтезу ДНК, а неразмеченные структуры попадают в публичные базы. Лабораторные тесты показали, что маркированные белковые связки для ряда белков сохраняют целевую аффинность, а эксперименты с геномной моделью Evo 2 подтвердили жизнеспособность созданных бактериофагов с водяными знаками. deepmind.google ✔️ HeyGen представил собственную модель генерации видео Сервис цифровых аватаров анонсировал HeyGen Video - универсальную модель на базе архитектуры MiniMax H3 и и дообученную самим HeyGen. Инструмент создает полноценные кинематографичные сцены и работает в режимах Text-to-Video с одновременным синтезом синхронного звука, эмбиента и эффектов, Image-to-Video для анимации статичных кадров, а также Reference-to-Video, позволяющий задавать композицию и динамику движения с помощью референсного ролика. Генерация секунды видео в разрешении 768p обойдется в 3 цента по стандартному тарифу и в честь релиза до конца октября действует скидка 50%. Модель уже доступна через API HeyGen, а также на OpenRouter, Runware и ComfyUI. heygen.com ✔️ arXiv ограничил загрузку двумя статьями в месяц С 1 октября репозиторий статей ограничил авторов двумя препринтами в месяц. Причиной стал наплыв сгенерированных текстов. За сентябрь платформа получила 40 363 работы, а за два года объем входящих публикаций удвоился, что привело к перегрузке модераторов и задержкам при публикации исследований. Модераторы фиксируют рост числа бессодержательных черновиков, полных LLM-генераций и искусственного дробления одного исследования на серию мелких статей. Ограничение распространяется на все дисциплины и учитывает отклоненные материалы, блокируя возможность повторной отправки спама. Сервис называет меру временной, пока внедряются новые фильтры и обновления регламентов модерации. arxiv.org ✔️ Runway анонсировал модель действий для роботов, обученную на видео Praxis-1 - первая модель действий в физическом мире американского стартапа прикладного ИИ. Базовую политику управления обучают на массиве видео от третьего лица вместо сбора телеоператорских демонстраций. По словам Runway, симуляция алгоритмов робота внутри генеративной модели предсказывает физические тесты на оборудовании с корреляцией 0,95, превосходя традиционные методы 3D-реконструкции. Praxis-1 работает на манипуляторах, мобильных колесных платформах и гуманоидных шасси независимо от аппаратной конфигурации. На этапе тестирования модель уже развернута на устройствах Noble Machines, Standard Bots и Ultra. В ближайшие месяцы Runway планирует выпустить Praxis-1 в открытый доступ. runway.com @ai_machinelearning_big_data
Материал агрегирован из первоисточника:
Telegram — AI Machine Learning Big Data
Читать полностью в Telegram — AI Machine Learning Big DataМатериал собран из открытых источников. Если размещение затрагивает ваши права → Удалить информацию
OpenAI заблокировала атаку дистилляции скрытых CoT своих моделей
✔️ OpenAI заблокировала атаку дистилляции скрытых CoT своих моделей Компания пресекла кампанию по состязательной дистилляции, направленную на извлечение скрытых цепочек рассуждений. Ключевой кластер активности компания связала с Moonshot AI. В атаке участвовало 4 тысячи учетных…
Кратко от AI: Главные тезисы
- ✔️ OpenAI заблокировала атаку дистилляции скрытых CoT своих моделей Компания пресекла кампанию по состязательной дистилляции, направленную на извлечение скрытых цепочек рассуждений
- Ключевой кластер активности компания связала с Moonshot AI
- В атаке участвовало 4 тысячи учетных…
OpenAI заблокировала атаку дистилляции скрытых CoT своих моделей
Похожие материалы
Сэм Альтман раскрывает окончательный план OpenAI (это безумие)
Сэм Алман, генеральный директор OpenAI, компании, стоящей за ChatGpt, только что сказал своим сотрудникам, что вся эта гонка ИИ может закончиться только тремя способами. И одним из таких финалов является то, что одна компания становится настолько могущественной, что может буквально расплавить графические процессоры всех остальных. Это не…
Стартап Electric Plant создает ИИ для общения с растениями
Стартап Electric Plant создает ИИ, который интерпретирует электрические сигналы растений.
Обеспечение идентичности ИИ-агентов с помощью X.509 PKI на AWS
AWS Machine Learning описывает важность X.509 PKI для ИИ-агентов.
Канадские организации получают доступ к моделям OpenAI на Amazon Bedrock
Канадские организации теперь могут использовать модели OpenAI через Amazon Bedrock.
