Improving Stability of Fine-Tuning Pretrained Language Models via Component-Wise Gradient Norm Clipping
30893Knowledge Triples
| Source Entity | Relationship | Target Entity |
|---|---|---|
|
Катастрофалық ұмыту
OtherEntity |
affects | |
|
Градиент нормасын кесу
Method |
enhances |
Жалпы өнімділік
Metric |
|
Градиент нормасын кесу
Method |
enhances |
Оқыту тұрақтылығы
Metric |
|
Градиент нормасын кесу
Method |
improves |
Конвергенция жылдамдығы
Metric |
|
Градиент нормасын кесу
Method |
improves |
Жіңішке баптау
Method |