Yann LeCun showed that AI can learn to understand the world not by size, but by the right data pairs

Ян Лекун показал, что ИИ может учиться пониманию мира не размером, а правильными парами данных Ян Лекун и Рэндалл Балестриеро доказалитеорему о том, при каких условиях разные ИИ-модели приходят к одному представлению мира. Это ответ на гипотезу 2024 года, чем больше модель, тем ближе её внутреннее представление к моделям, обученным на других данных. Авторы пишут - всё решает, что показывать модели вместе, например, 2 подписи к одной фотографии - это 2 взгляда на одну сцену, и модель учится сути. 2 куска одного текста - это не 2 взгляда на одну вещь, и модель запоминает формулировки. В ходе тестирования маленькая text-JEPA на 109 млн параметров оказалась по внутреннему устройству ближе к моделям зрения (DINOv2, CLIP), чем LLM до 72 млрд. Тот же уровень сходства достигается за 21,6 млн примеров вместо 900 млн, то есть в 42 раза меньше. Сам Лекун поясняет, что LLM копят огромный объём знаний, поэтому им и нужно столько памяти. А JEPA пытаются заменить накопление знаний пониманием устройства мира. Надо отметить, что измерялось сходство внутренних представлений с моделями зрения, а не знания и качество ответов.