✔️ OpenAI заблокировала атаку дистилляции скрытых CoT своих моделей Компания пресекла кампанию по состязательной дистилляции, направленную на извлечение скрытых цепочек рассуждений. Ключевой кластер активности компания связала с Moonshot AI. В атаке участвовало 4 тысячи учетных записей, всего было сделано 16 тысяч запросов. Шифрование злоумышленники не вскрывали, в сохранённые диалоги не проникали – операторы копировали зашифрованные рассуждения из одного диалога и просили модель в другом расшифровать и переписать их. OpenAI закрыла этот путь, добавила проверки потоковой выдачи, заблокировала аккаунты и передала наблюдения в Frontier Model Forum. Moonshot AI пока обвинения не комментировала. openai.com ✔️ DeepMind представила систему маркировки сгенерированных белков и геномов Новая технология SynthID Bio встраивает водяные знаки в сгенерированные белки и геномы. Метка закладывается в структуру и считывается даже после физического синтеза молекулы в лаборатории. В зависимости от формата данных алгоритм вносит корректировки в аминокислотные последовательности или меняет координаты атомов в 3D-структурах AlphaFold 3. Заявлено, что точность и функциональность молекул при этом не снижаются. Разработка решает проблему отравления данных и обхода фильтров безопасности. Генерации не похожи на известные патогены и легко проходят автоматический скрининг фабрик по синтезу ДНК, а неразмеченные структуры попадают в публичные базы. Лабораторные тесты показали, что маркированные белковые связки для ряда белков сохраняют целевую аффинность, а эксперименты с геномной моделью Evo 2 подтвердили жизнеспособность созданных бактериофагов с водяными знаками. deepmind.google ✔️ HeyGen представил собственную модель генерации видео Сервис цифровых аватаров анонсировал HeyGen Video - универсальную модель на базе архитектуры MiniMax H3 и и дообученную самим HeyGen. Инструмент создает полноценные кинематографичные сцены и работает в режимах Text-to-Video с одновременным синтезом синхронного звука, эмбиента и эффектов, Image-to-Video для анимации статичных кадров, а также Reference-to-Video, позволяющий задавать композицию и динамику движения с помощью референсного ролика. Генерация секунды видео в разрешении 768p обойдется в 3 цента по стандартному тарифу и в честь релиза до конца октября действует скидка 50%. Модель уже доступна через API HeyGen, а также на OpenRouter, Runware и ComfyUI. heygen.com ✔️ arXiv ограничил загрузку двумя статьями в месяц С 1 октября репозиторий статей ограничил авторов двумя препринтами в месяц. Причиной стал наплыв сгенерированных текстов. За сентябрь платформа получила 40 363 работы, а за два года объем входящих публикаций удвоился, что привело к перегрузке модераторов и задержкам при публикации исследований. Модераторы фиксируют рост числа бессодержательных черновиков, полных LLM-генераций и искусственного дробления одного исследования на серию мелких статей. Ограничение распространяется на все дисциплины и учитывает отклоненные материалы, блокируя возможность повторной отправки спама. Сервис называет меру временной, пока внедряются новые фильтры и обновления регламентов модерации. arxiv.org ✔️ Runway анонсировал модель действий для роботов, обученную на видео Praxis-1 - первая модель действий в физическом мире американского стартапа прикладного ИИ. Базовую политику управления обучают на массиве видео от третьего лица вместо сбора телеоператорских демонстраций. По словам Runway, симуляция алгоритмов робота внутри генеративной модели предсказывает физические тесты на оборудовании с корреляцией 0,95, превосходя традиционные методы 3D-реконструкции. Praxis-1 работает на манипуляторах, мобильных колесных платформах и гуманоидных шасси независимо от аппаратной конфигурации. На этапе тестирования модель уже развернута на устройствах Noble Machines, Standard Bots и Ultra. В ближайшие месяцы Runway планирует выпустить Praxis-1 в открытый доступ. runway.com @ai_machinelearning_big_data
内容来自原始来源:
Telegram — AI Machine Learning Big Data
在 Telegram — AI Machine Learning Big Data 阅读全文本内容来自公开来源。若发布内容影响您的权利 → 申请删除信息
标题为俄语OpenAI заблокировала атаку дистилляции скрытых CoT своих моделей
✔️ OpenAI заблокировала атаку дистилляции скрытых CoT своих моделей Компания пресекла кампанию по состязательной дистилляции, направленную на извлечение скрытых цепочек рассуждений. Ключевой кластер активности компания связала с Moonshot AI. В атаке участвовало 4 тысячи учетных…
AI 摘要:要点
- ✔️ OpenAI заблокировала атаку дистилляции скрытых CoT своих моделей Компания пресекла кампанию по состязательной дистилляции, направленную на извлечение скрытых цепочек рассуждений
- Ключевой кластер активности компания связала с Moonshot AI
- В атаке участвовало 4 тысячи учетных…
OpenAI заблокировала атаку дистилляции скрытых CoT своих моделей
相关文章
Sam Altman 透露了 OpenAI 的最终计划(太疯狂了)
ChatGpt 背后的公司 OpenAI 的首席执行官 Sam Alman 刚刚告诉自己的员工,整个人工智能竞赛只有三种方式可以结束。这些结局之一是一家公司变得如此强大,以至于它可以真正融化其他所有人的 GPU。这不是一个……
RUСтартап Electric Plant создает ИИ для общения с растениями
Стартап Electric Plant создает ИИ, который интерпретирует электрические сигналы растений.
RUОбеспечение идентичности ИИ-агентов с помощью X.509 PKI на AWS
AWS Machine Learning описывает важность X.509 PKI для ИИ-агентов.
RUКанадские организации получают доступ к моделям OpenAI на Amazon Bedrock
Канадские организации теперь могут использовать модели OpenAI через Amazon Bedrock.
