NobleBlocks

Research indexJournal article

РаÑпÑеделение моделей нейÑоннÑÑ ÑеÑей по ÑеÑвеÑам в ÑеÑвиÑе âÐейÑоплаÑÑоÑмаâ в âÐдноклаÑÑÐ½Ð¸ÐºÐ°Ñ â

Трофимов

Electronic Library of Peter the Great Polytechnic University1 Jan 2024Open access

NobleIDark:/48914/w1/20260521/5D67E071DOI10.18720/spbpu/3/2024/vr/vr24-1812

Free to read at the publisher

You can read the abstract here, or the full text at the publisher.

Read at the publisher

Abstract

Бакалаврская дипломная работа посвящена оптимизации распределения моделей машинного обучения по узлам в платформе инференса в компании «Одноклассники». Основной целью является уменьшение дисбаланса нагрузки между серверами. Также важной особенностью было то, что Ð½ÐµÐ¾Ð±Ñ Ð¾Ð´Ð¸Ð¼Ð¾ реализовать алгоритм в распределенной системе, который будет выполняться только на одном узле в кластере в каждый момент времени. В Ñ€Ð°Ð¼ÐºÐ°Ñ Ñ€Ð°Ð±Ð¾Ñ‚Ñ‹ представлен анализ платформ инференса и Ð¸Ñ Ð¿Ð¾Ð´Ñ Ð¾Ð´Ð¾Ð² к распределению моделей, а также было проведено сравнение Ð¾Ð±Ñ‰Ð¸Ñ Ð°Ð»Ð³Ð¾Ñ€Ð¸Ñ‚Ð¼Ð¾Ð² распределения. В результате реализованный в виде программного решения алгоритм, запущенный в продакшн-среде, позволил сократить разброс в нагрузке на сервера.

Discussion

Topics

More

Suggest a correction or report