Хуггинг Фейс: оценка ИИ требует стандартизации и воспроизводимости

По сообщению TechCrunch, лаборатории искусственного интеллекта ставят свою репутацию на модельном бенчмаркинге, который представляет собой систему оценок, предназначенных для измерения того, является ли один ИИ-продукт лучше другого. Однако методы, лежащие в основе этих оценок, сложны и все еще находятся в стадии развития, отметила Ирен Солайман, главный политический директор Hugging Face, во время обсуждения на мероприятии TechCrunch Disrupt на прошлой неделе. Для того чтобы отрасль могла полагаться на эти оценки в будущем, тестирование должно стать более последовательной наукой. С учетом этого, можно ли доверять текущим тестам, которые публикуются? «Доверие — это такой весомый термин», — сказала Солайман. «Что касается того, можем ли мы доверять результатам, одна из важных частей [этого] заключается в том, можете ли вы воспроизвести результаты оценки? У вас есть необходимый уровень доступа к модели — здесь открытые веса играют большую роль», добавила она. Воспроизводимость в оценках моделей долгое время оставалась одной из самых сложных аспектов бенчмаркинга и продолжает быть предметом значительных дебатов в отрасли. Помимо действительности индивидуального теста, существует также дополнительный вопрос о том, как этот тест сравнивается с другими оценками. «Это развивающаяся наука — мы не знаем, как осмысленно сравнивать их друг с другом», — сказала Солайман. «Они начинают быстро терять свою эффективность, и у нас нет столь процветающей экосистемы, как нам нужно», добавила она. «Сейчас существует голод к экосистеме встроенных оценщиков, но квалификации, которые определяют, кто является эффективным оценщиком по каким задачам, нуждаются в гораздо большей стандартизации. Идея встроенных оценщиков, при которой якобы «нейтральные» третьи лица размещаются внутри организаций ИИ, была популяризирована в последние несколько месяцев, поскольку лаборатории ИИ сталкиваются с рядом инцидентов безопасности, которые вызвали опасения по поводу потенциального вреда их технологий. Hugging Face стал известной целью одного из таких инцидентов. Вместо активного государственного регулирования для выявления и смягчения проблем безопасности моделей лаборатории выступили за решение с привлечением третьих сторон. Однако остаются сомнения относительно того, насколько нейтральными или эффективными на самом деле будут эти оценщики. Решение Anthropic нанять Accenture в качестве своего первого оценщика вызвало значительное количество критики, некоторые критики высмеивали идею о том, что консалтинговая фирма была квалифицирована для выполнения этой задачи. Оценки теперь переходят от простого тестирования самой модели к тестированию всей системы вокруг модели — включая инструменты и агентов. Инструмент — или то, что пользователь использует для доступа к модели — в частности, сильно влияет на производительность модели, и более слабая модель с лучшим инструментом может легко превзойти передовую модель, поделилась Солайман. «Агентные оценки действительно сложны и очень дороги», — сказала Солайман. «У нас больше оценок для моделей. … У нас не так много оценок для инструментов, и мы разрабатываем лучшие оценки для целостного агента — потому что именно это приносит ценность многим людям», добавила она. Другими словами, пространство оценок в данный момент представляет собой своего рода свободный рынок, и если бенчмаркинг будет продолжать рассматриваться как полезный инструмент для лидеров отрасли, может потребоваться более единый подход на уровне всей отрасли, где все будут на одной волне. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.