Torch, Candle, ORT или Burn? При разработке DL-приложений на Rust мы постоянно сталкиваемся с выбором, который неизбежно ведёт к компромиссам. Отсутствие поддержки нужного железа, низкая производительность, сложная отладка или бедная экосистема — знакомые проблемы?
Я не был готов мириться с этими ограничениями. Вместо этого я реализовал собственный тензорный фреймворк, вложив в него опыт оптимизации ML-пайплайнов последних четырёх лет и новейшие подходы в разработке DL-фреймворков.
На докладе мы разберём:
- Анатомия DL-фреймворка: из каких частей на самом деле состоит современный движок для deep learning;
- Rust в бою: какие сложности возникли при реализации и как система типов Rust помогала (а иногда и мешала) их решать;
- Сила экосистемы: какие крейты из экосистемы Rust стали «суперсилой» и позволили избежать проблем при работе с железом;
- Результаты: что получилось в итоге? Сравним производительность и функциональность нового фреймворка с топовыми решениями.