Что такое torch.compile? Объяснение моделей Dynamo, PyTorch и более быстрых моделей искусственного интеллекта

Описание

У вас есть модель PyTorch, которая работает правильно, и вы хотите сделать ее быстрее. Вы добавляете одну строку модели, равную torch.compile. Первый запуск может занять больше времени, поскольку PyTorch должен скомпилировать код. После этого модель может работать быстрее. Но что на самом деле делает PyTorch? И почему…