Яндекс предложил программное решение, ускоряющее обучение и работу ИИ-моделей

На Международной конференции ICML 2024 в Сеуле исследователи и инженеры компании представили оптимизированные модули, которые повышают эффективность использования видеокарт.

По информации РБК-Тренды, эта работа была отмечена как Spotlight — высшей оценкой программного комитета, присваиваемой наиболее значимым исследованиям.

Результаты внедрения модулей впечатляют:

· Ускорение вычислений — до 8,5 раза

· Снижение пикового потребления памяти — до 76 раз

· Увеличение скорости выполнения отдельных операций — в 3,9–10 раз

Новые методы, по мнению разработчиков, позволят существенно упростить процесс машинного обучения, а также запускать сложные модели без необходимости постоянного наращивания аппаратных мощностей.

Код модулей опубликован в открытом доступе.