📚 Оксфорд выпустил 180-страничный учебник по тому, как заглянуть внутрь нейросетей и понять, как они думают Исследователи University of Oxford и других научных организаций опубликовали масштабный обзор механистической интерпретируемости (Mechanistic Interpretability) и её применения для безопасности ИИ. Что внутри: - Superposition и Transformer Circuits: как нейросети кодируют информацию и выполняют вычисления. - Sparse Autoencoders (SAE): как выделять отдельные признаки из внутренних представлений моделей. - Circuit Discovery: как находить и проверять механизмы, отвечающие за конкретное поведение. - AI Safety: управление поведением моделей (Steering), редактирование знаний и мониторинг скрытых механизмов. Отдельно опубликованы интерактивный учебный курс и Jupyter Notebooks с практическими экспериментами и примерами кода. Материал охватывает не только существующие методы, но и их ограничения: понимание внутренних механизмов само по себе ещё не гарантирует безопасность модели. https://arxiv.org/abs/2611.08438 Интерактивный курс: https://tsglab.github.io/mechinterp-safety/ @ai_machinelearning_big_data