Қабаттың реттілігін өзгертетін тіл моделін жасау

method ID: layerpermutationlanguagemodeling

Нысан мәліметтері

Негізгі ақпарат

Нысан ID

layerpermutationlanguagemodeling

Нысан түрі

Method

Ағылшын белгісі

Layer Permutation Language Modeling

Орыс белгісі

Моделирование языка с перестановкой слоев

Қазақ белгісі

Қабаттың реттілігін өзгертетін тіл моделін жасау

Жиілік

1

Сипаттама

Ағылшын сипаттамасы

A novel pre-training objective that permutes the exit layer for each token in sequences during the training of ELMER.

Орыс сипаттамасы

-

Қазақ сипаттамасы

-