Data Science. SQL hub

Графовые модели для рекомендации друзей Графовые методы конкурируют с трансформерами в рекомендациях контента. Есть домены, в которых представление данных в виде графа наиболее естественно, например рекомендации друзей, когда требуется в социальном графе предсказать появление будущих рёбер. Для этого хорошо подходят графовые нейросети (GNN): через механизм message passing они собирают информацию из локального окружения пользователя. Однако между GNN из академической статьи и GNN на реальном социальном графе есть существенная разница в масштабе. Максим Утушкин, Андрей Овсянников и Александр Дьяконов из AI VK в своей статье Scaling Graph Neural Networks for Friend Recommendation: Multi-Hash User Embeddings and Temporal Neighbor Sampling рассказали про особенности масштабирования графовых моделей на граф из 194 млн вершин и 28 млрд рёбер. Статья принята в основной трек конференции CIKM 2026. Признаки вершин графа В отличие от классических рекомендаций контента, в которых у айтемов есть широко описывающие их контентные представления, у пользователей нет таких понятных способов кодирования. Естественное решение проблемы — просто завести матрицу обучаемых эмбеддингов, по одному для каждой вершины. Эти эмбеддинги учатся вместе с основной моделью. Но такая таблица из примерно 200 млн эмбеддингов размерности 256 занимает больше 200 ГБ. Поэтому для ID пользователей авторы применили подход multi-hash эмбеддингов. Вместо отдельного вектора для каждого пользователя несколько хеш-функций отображают его ID в небольшую общую таблицу эмбеддингов. Полученные векторы объединяются и используются как представление пользователя на входе GNN. В production-конфигурации таблица занимает около 2 ГБ вместо 203 ГБ — меньше 1% памяти полной таблицы. Temporal sampling Классические работы с GNN оперируют над графом как единой сущностью. Однако социальный граф меняется со временем. Если для обучающего примера из прошлого позволить GNN увидеть дружбы, появившиеся позже, возникает leakage. … Читать полностью →