Моделирование языка с перестановкой слоев

method ID: layerpermutationlanguagemodeling

Детали сущности

Основная информация

ID сущности

layerpermutationlanguagemodeling

Тип сущности

Method

Английская метка

Layer Permutation Language Modeling

Русская метка

Моделирование языка с перестановкой слоев

Казахская метка

Қабаттың реттілігін өзгертетін тіл моделін жасау

Частота

1

Описание

Английское описание

A novel pre-training objective that permutes the exit layer for each token in sequences during the training of ELMER.

Русское описание

-

Казахское описание

-