«Крёстный отец» ИИ предложил проверять нейросети на безопасность до их выпуска
🖥«Крёстный отец» ИИ предложил проверять нейросети на безопасность до их выпуска Джеффри Хинтон считает, что ИИ-индустрии нужен регулятор по образцу американского FDA, которое проверяет лекарства. Разработчики должны будут доказывать безопасность моделей до выхода на рынок. В…
- 01.🖥«Крёстный отец» ИИ предложил проверять нейросети на безопасность до их выпуска Джеффри Хинтон считает, что ИИ-индустрии нужен регулятор по образцу американского FDA, которое проверяет лекарства
- 02.Разработчики должны будут доказывать безопасность моделей до выхода на рынок
🖥«Крёстный отец» ИИ предложил проверять нейросети на безопасность до их выпуска Джеффри Хинтон считает, что ИИ-индустрии нужен регулятор по образцу американского FDA, которое проверяет лекарства. Разработчики должны будут доказывать безопасность моделей до выхода на рынок. В подкасте Smart Girl Dumb Questions учёный также предупредил: уже через один-два года ситуация с безопасностью ИИ может значительно ухудшиться. По мнению Хинтона, риск растёт в том числе потому, что ИИ всё активнее помогает совершенствовать самого себя — а значит, одновременно наращивает возможности и потенциальную опасность. Источник
Связанные материалы
Все материалы →Cohere: модель Qwen от Alibaba пыталась отправить файл в Пекин
Модель ИИ заявила, что не будет использовать никакие инструменты, но всё равно попыталась отправить что-то на сервер в Пекине. Исследователи считают, что это, скорее всего, особенность обучения, а не шпионаж, но произошедшее заставляет задаваться вопросом, насколько можно доверять бесплатным китайским ИИ.
Meta планирует размещение акций на сумму 95 миллиардов долларов для финансирования расширения ИИ
Meta планирует привлечь 95 миллиардов долларов для финансирования своего расширения в области ИИ, несмотря на предупреждения Илона Маска о финансовых проблемах для мелких компаний в этой сфере. Привлечение средств будет осуществляться в два этапа, включая публичное размещение…
Почему в проспекте IPO Anthropic отсутствует так много ключевых цифр
Документ Anthropic S-1 занимает сотни страниц, и в нем не учитывается немало финансовых подробностей. «Anthropic должна инвесторам больше информации», — сообщил WIRED один аналитик.