Mistral AI представила новую языковую модель Mistral Large 4

Как сообщает Mistral AI, сегодня компания запускает публичный предварительный просмотр Mistral Large 4, неофициально называемой ML4 или le Chonk. Эта модель представляет собой триллионную параметрическую нативно мультимодальную модель с 49 миллиардами активных параметров, что делает её самой крупной и мощной на данный момент. ML4 демонстрирует выдающуюся производительность в кодировании, агентских рабочих процессах и мультимодальном понимании, конкурируя с сильнейшими открытыми моделями по всему миру и значительно превосходя любые открытые модели, разработанные в США или Европе. В критически важных областях, таких как кибербезопасность, финансы и право, ML4 показывает результаты на уровне лучших открытых моделей. В некоторых областях, таких как визуальное основание, она превосходит даже закрытые модели. В конце месяца будут опубликованы веса модели. В настоящее время команда тестирует модель в реальных условиях с участниками из кибербезопасности и государственными органами, которые получат доступ к модели с расширенными возможностями. ML4 была обучена с нуля на 3,800 графических процессоров NVIDIA Grace Blackwell в дата-центрах Mistral в Европе. Публичный предварительный просмотр осуществляется на той же инфраструктуре. Это важный этап в долгосрочных инвестициях компании в инфраструктуру, исследования и разработку продуктов. Модель будет доступна в нескольких регионах мира, включая Европу, где Mistral управляет всем процессом независимо от других поставщиков цифровых услуг. ML4 продемонстрировала выдающиеся результаты в области кибербезопасности, заняв одно из первых мест в независимой оценке, показывая лучшие результаты среди открытых моделей, разработанных вне Китая. Она также превосходит другие модели в тестах на воспроизведение реальных уязвимостей в открытом программном обеспечении. Кроме того, ML4 демонстрирует высокую производительность в области программирования, обработки сложных рабочих процессов и мультимодального понимания. Она способна обрабатывать сложные документы и изображения, что делает её полезной в таких отраслях, как инженерия и производство. Модель также проявила себя как сильный помощник в научных задачах, включая анализ данных и моделирование. ML4 станет основой для нового поколения специализированных и оптимизированных моделей Mistral. В будущем компания планирует раскрыть больше информации о архитектуре модели и дополнительных бенчмарках. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.