Lifelong Pretraining: Continually Adapting Language Models to Emerging Corpora

21059
Back to Articles Dashboard

Related Entities

Алгоритмы непрерывного обучения

Method

Подходы на основе дистилляции

Method

ПроизводительностьНижестоящейЗадачи

Metric

Долговременное предобучение языковых моделей

Task

Предобученные языковые модели

Method

Темпоральная обобщаемость

Metric