Тихий убийца Трансформеров: как Weight Decay уничтожает эмбеддинги и нормализацию
YH7H22
·
2026-05-18
·
via Все публикации подряд на Хабре
Разбираем фундаментальную ошибку в обучении трансформеров: почему стандартный параметр weight_decay в оптимиз…
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。