На примере мультиагентного симулятора для беспилотного транспорта на Rust разберём, как искать узкие места между CPU, памятью и видеокартой. Поговорим о конкуренции потоков, неожиданных проблемах Burn, нюансах управления памятью и о том, почему некоторые оптимизации не дают ожидаемого ускорения, а быстрые вычисления на GPU ещё не означают быстрого обучения модели. В конце рассмотрим возможности CUDA Graphs, kernel fusion и экспериментального cuda-oxide.

Главный вопрос доклада - как ускорять всю систему, а не отдельные вычисления. Тема будет интересна Rust-разработчикам высоконагруженных и вычислительных систем, а также разработчикам симуляторов, ML-инженерам, робототехникам и исследователям, запускающим вычисления на локальном оборудовании. Знание конкретного RL-алгоритма для понимания доклада не требуется.