В новой научной работе предложена методика прунинга (удаления параметров) нейросетей, использующая дифференциально-геометрическое расстояние в пространстве моделей. Метод опирается на метрику Фишера и, как сообщается, превосходит традиционные подходы по точности и коэффициенту корреляции Мэтьюса на архитектурах Vision Transformer и полносвязных сетях.
Предложен новый метод оптимизации нейросетей через метрику Фишера
Исследователи представили метод прунинга нейросетей, основанный на геодезическом расстоянии в пространстве моделей с использованием метрики Фишера.


