PyTorch — популярный фреймворк для машинного обучения — обновился до версии 2.0. В этот релиз включены более 4500 изменений.
Cреди основных новшеств можно отметить:
torch.compile— стал основным способом компиляции модели;- поддержка компилятора OpenAI Triton. Ядра, сгенерированные этим компилятором, обеспечивают производительность, сравнимую с написанными вручную ядрами с использованием специализированных библиотек, таких как cublas;
- серьезно улучшена производительность Accelerated Transformers;
- поддержка ускорения обучения моделей с использованием Metal Performance Shaders на Mac;
- обновлены также и отдельные библиотеки: TorchAudio, TorchVision и TorchText.
>>> Подробности
