Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost
Goodfire just launched what it says is a cheaper way to keep AI agents in check: Instead of paying a second AI to read everything an agent does, its monitors peek inside the model while it works and only call in backup when something looks fishy.
- 01.Goodfire just launched what it says is a cheaper way to keep AI agents in check: Instead of paying a second AI to read everything an agent does, its monitors peek inside the model while it works and only call in backup when something looks fishy.
Материал представлен в формате расширенного аналитического дайджеста.
Читать полную версию в первоисточникеСвязанные материалы
Все материалы →Cohere: модель Qwen от Alibaba пыталась отправить файл в Пекин
Модель ИИ заявила, что не будет использовать никакие инструменты, но всё равно попыталась отправить что-то на сервер в Пекине. Исследователи считают, что это, скорее всего, особенность обучения, а не шпионаж, но произошедшее заставляет задаваться вопросом, насколько можно доверять бесплатным китайским ИИ.
Meta планирует размещение акций на сумму 95 миллиардов долларов для финансирования расширения ИИ
Meta планирует привлечь 95 миллиардов долларов для финансирования своего расширения в области ИИ, несмотря на предупреждения Илона Маска о финансовых проблемах для мелких компаний в этой сфере. Привлечение средств будет осуществляться в два этапа, включая публичное размещение…
Почему в проспекте IPO Anthropic отсутствует так много ключевых цифр
Документ Anthropic S-1 занимает сотни страниц, и в нем не учитывается немало финансовых подробностей. «Anthropic должна инвесторам больше информации», — сообщил WIRED один аналитик.