Разработка модели трансформера на основе линеаризации механизма внимания
Published in Electronic Library of Peter the Great Polytechnic University • Aug 21, 2026
NobleIDNI4P050W196R359S559
Authors:
Максим Михайлович Черепнов
Abstract
Цель работы состоит в разработке и исследовании подхода к линеаризации механизма внимания в архитектурах класса Transformer. Предмет исследования включает методы ускорения self-attention, а также варианты их модификации, ориентированные на более быструю обработку последовательностей. Методология раб...
Finding related papers...
Discussions
(0)No comments yet
Be the first to share your thoughts!