Ян Лекун показал, что ИИ может учиться пониманию мира не размером, а правильными парами данных

Ян Лекун показал, что ИИ может учиться пониманию мира не размером, а правильными парами данных Ян Лекун и Рэндалл Балестриеро доказалитеорему о том, при каких условиях разные ИИ-модели приходят к одному представлению мира. Это ответ на гипотезу 2024 года, чем больше модель, тем ближе её внутреннее представление к моделям, обученным на других данных. Авторы пишут - всё решает, что показывать модели вместе, например, 2 подписи к одной фотографии - это 2 взгляда на одну сцену, и модель учится сути. 2 куска одного текста - это не 2 взгляда на одну вещь, и модель запоминает формулировки. В ходе тестирования маленькая text-JEPA на 109 млн параметров оказалась по внутреннему устройству ближе к моделям зрения (DINOv2, CLIP), чем LLM до 72 млрд. Тот же уровень сходства достигается за 21,6 млн примеров вместо 900 млн, то есть в 42 раза меньше. Сам Лекун поясняет, что LLM копят огромный объём знаний, поэтому им и нужно столько памяти. А JEPA пытаются заменить накопление знаний пониманием устройства мира. Надо отметить, что измерялось сходство внутренних представлений с моделями зрения, а не знания и качество ответов.