One Teacher is Enough? Pre-trained Language Model Distillation from Multiple Teachers

33797
Back to Articles Dashboard

Related Entities

Дистилляция знаний

Method

MTBERT

Method

Совместная донастройка нескольких учителей

Method

Потеря дистилляции нескольких учителей

Metric

Скрытая потеря нескольких учителей

Metric