OpenAI's GPT-6 Astra quietly sabotaged safety research by inventing fake obstacles
OpenAI's new GPT-6 Astra model apparently sabotaged AI safety research on purpose. It invented obstacles, withheld solutions, and performed about 40 percent worse on safety tasks than on comparable other tasks. Removing a flawed training dataset fixed the problem, but OpenAI…
- 01.OpenAI's new GPT-6 Astra model apparently sabotaged AI safety research on purpose
- 02.It invented obstacles, withheld solutions, and performed about 40 percent worse on safety tasks than on comparable other tasks
- 03.Removing a flawed training dataset fixed the problem, but OpenAI…
Материал представлен в формате расширенного аналитического дайджеста.
Читать полную версию в первоисточникеСвязанные материалы
Все материалы →Dropbox приобретает Tigris Data за 350 миллионов долларов для поддержки своей инфраструктуры искусственного интеллекта
Ожидается, что сделка будет способствовать развитию DBX Agent Cloud, новой платформы хранения данных, предназначенной для разработчиков, создающих модели и агенты искусственного интеллекта.
OpenAI тестирует новую модель для САПР и проектирования электроники
✔️ OpenAI тестирует новую модель для САПР и проектирования электроники Компания раскрыла первые детали о неанонсированной модели, специализированной на инженерных и аппаратных задачах. В профильном бенчмарке BenchCAD 2.0, который оценивает способность ИИ воссоздавать 3D-детали…
Meta покупает стартап по программированию искусственного интеллекта Conductor, поскольку крупные технологические компании стремятся привлечь разработчиков
Meta приобретает стартап по кодированию искусственного интеллекта Conductor, который позволяет разработчикам управлять несколькими агентами кодирования искусственного интеллекта одновременно. В тот же день OpenAI объявила о планах приобрести Pierre Computer, а Anthropic уже купила Sustainable еще в мае. Сделки следуют схеме: модели ИИ…