Новый метод Quantization-Aware Healing позволяет 4-битным моделям превосходить оригиналы
Исследователи представили метод Quantization-Aware Healing, который позволяет сжимать нейросети до 4 бит без потери качества, а иногда и с улучшением точности относительно исходных моделей.