Attention Mechanism

Механизм внимания в нейросетях, позволяющий модели фокусироваться на наиболее важных частях входных данных. Значительно улучшает качество обработки последовательностей (текста, аудио), гибко учитывая контекст по сравнению с простыми рекуррентными слоями.