Anthropic готовится к IPO и предупреждает инвесторов: её модели могут представлять «экзистенциальный риск для чело...
💰 Anthropic готовится к IPO и предупреждает инвесторов: её модели могут представлять «экзистенциальный риск для человечества». Из 261 страницы проспекта около 80 посвящены рискам. Компания допускает, что продвинутые модели могут сопротивляться отключению, скрывать информацию…
- 01.💰 Anthropic готовится к IPO и предупреждает инвесторов: её модели могут представлять «экзистенциальный риск для человечества»
- 02.Из 261 страницы проспекта около 80 посвящены рискам
- 03.Компания допускает, что продвинутые модели могут сопротивляться отключению, скрывать информацию…
💰 Anthropic готовится к IPO и предупреждает инвесторов: её модели могут представлять «экзистенциальный риск для человечества». Из 261 страницы проспекта около 80 посвящены рискам. Компания допускает, что продвинутые модели могут сопротивляться отключению, скрывать информацию или вести себя подобно шантажисту. Ещё сложнее их проверять, если модель распознаёт, что проходит тест. При этом Anthropic пишет, что для сохранения лидерства ей нужен непрерывный выпуск новых моделей. Ранее компания сообщила: за одну выбранную неделю на исследования безопасности пришлось около 6% вычислительных ресурсов для ИИ-исследований. Это показатель за неделю, а не доля всего бюджета. Раскрывать риски перед IPO нормально. Необычно то, насколько подробно Anthropic описывает опасности технологии, на которой строится её бизнес. @ai_machinelearning_big_data
Связанные материалы
Все материалы →OpenAI представила GPT-6.1 Terra, причём стоимость новой модели оказалась значительно ниже ожидаемой.
OpenAI представила GPT-6.1 Terra, причём стоимость новой модели оказалась значительно ниже ожидаемой. Стоимость использования через API: > $1 за миллион входных токенов. > $5 за миллион выходных токенов. > $0,05 за миллион кэшированных входных токенов. Таким образом, GPT-6.1…
Как OpenAI превратило свои инструменты для кодирования в dots — всегда доступного личного ассистента
Александр Эмбирикос, руководитель OpenAI, отвечающий за dots, никогда не хочет проводить встречу с чужым ИИ-агентом.
It's happening...
One of the most controversial companies in history just filed to go public. And yes, we're talking about Anthropic. The same company that says there's a greater than 10% chance AI kills all of humanity is also simultaneously one of the best built businesses of all time. And in…