Тема выпускной квалификационной работы: «Автоматическое реферирование академических текстов с применением технологий глубокого обучения». В данной работе изложена концепция создания и экспериментального исследования иерархической модели трансформера для абстрактивной суммаризации русскоязычных научных текстов. Проведён анализ существующих подходов к автоматической суммаризации и выявлены ограничения современных трансформерных моделей (ruT5, mBART) при обработке длинных научных документов. Сформулированы требования к специализированной архитектуре, включающие механизмы обработки длинного контекста, внимания с памятью и доменно-специфичной токенизации. Спроектирована и реализована с нуля на PyTorch иерархическая архитектура трансформера типа encoder-decoder с интеграцией замороженных эмбеддингов FastText и пользовательского BPE-токенизатора, обученного на научном корпусе. Собран и предобработан набор данных из примерно 3000 русскоязычных научных статей из различных предметных областей (физика, математика, биология, медицина, информатика) из открытых источников (КиберЛенинка, Хабр-Наука). Экспериментальная оценка на тестовой выборке из 150 документов показала, что предложенная модель превосходит существующие модели ruT5 и mBART. Пользовательский токенизатор сократил количество токенов на 1000 символов на 13–19% и снизил показатель unknown-rate в 2,5–3,4 раза. Модель содержит 54 миллиона параметров, в 7,3 раза быстрее на CPU-инференсе по сравнению с mBART и обеспечивает лучшее покрытие длинных документов (>2048 токенов) 74%. Качество суммаризации, измеренное метриками ROUGE, достигло ROUGE-1 = 34,8%, ROUGE-2 = 16,2% и ROUGE-L = 30,1%, что подтверждает эффективность предложенной иерархической архитектуры для задачи автоматического реферирования русскоязычных научных текстов.