Разработка ученых РФ снизит пиковое потребление памяти графовыми нейросетями
МОСКВА, 8 июля. /ТАСС/. Российские ученые разработали новые программные компоненты для графовых нейросетей, которые позволяют в разы ускорить их работу и снизить потребление памяти в десятки раз без изменения архитектуры моделей. Работа получила статус одного из главных открытий на проходящей на этой неделе престижной международной научной конференции ICML 2026, сообщила ТАСС пресс-служба "Яндекса".
"Наше решение эффективно работает на системах любого размера, так как затрагивает самый близкий к железу уровень оптимизации - ускорение операций, исполняемых на GPU (графических процессорах - прим. ТАСС). Поэтому ускорение происходит в рамках одной GPU, и на системе из тысяч - ускорение будет на каждой из них. К тому же, наше решение позволяет обучать модели, используя меньше GPU по сравнению со стандартными методами", - пояснил исследователь Yandex Research Федор Великонивцев, чьи слова приводит пресс-служба "Яндекса".
Как отмечают Великонивцев и его коллеги, графовые нейросети широко используются в рекомендательных системах, поиске, анализе социальных сетей, транспортных данных, финансовых сервисах и других задачах, где важно учитывать связи между объектами. Однако при работе на современных графических процессорах их производительность часто ограничивается не вычислительной мощностью, а скоростью обмена данными между GPU и памятью.
Для преодоления этой проблемы ученые изучили то, какие операции чаще всего используются в работе графовых нейросетей, и создали более эффективные реализации самых ресурсоемких шагов расчета с учетом того, насколько активно они используют вычислительные ресурсы и системы ввода-вывода данных. Это позволило создать новые версии этих "стройблоков" ИИ, которые реже обращаются к внешним данным и используют наиболее быстродействующие и близкие к ним блоки памяти и других ресурсов.
Последующие эксперименты показали, что данные оптимизации ускорили работу отдельных графовых моделей до 8,5 раза, снизили пиковое потребление памяти до 76 раз, а для ряда других операций обеспечили ускорение в 3,9-10 раз. Как отметили в компании, все разработанные компоненты опубликованы в открытом доступе в виде набора GPU-операций для популярных пакетов работы с нейросетями на графических процессорах и могут использоваться в существующих моделях без изменения их архитектуры.
"Также мы выигрываем относительно размера графов, которые можно помещать в память GPU, так как нам нужно в разы меньше памяти, чем предыдущим решениям. Из-за чего я ожидаю, что мы можем дополнительно масштабировать работу", - подытожил Великонивцев.