Түзетілген сызықты көңіл

method ID: rectifiedlinearattention

Нысан мәліметтері

Негізгі ақпарат

Нысан ID

rectifiedlinearattention

Нысан түрі

Method

Ағылшын белгісі

Rectified Linear Attention

Орыс белгісі

Исправленное линейное внимание

Қазақ белгісі

Түзетілген сызықты көңіл

Жиілік

1

Сипаттама

Ағылшын сипаттамасы

A novel method for achieving sparsity in attention by replacing the softmax activation with a ReLU.

Орыс сипаттамасы

-

Қазақ сипаттамасы

-