AQLM

AQLM Репозиторий AQLM представляет собой реализацию на PyTorch для экстремального сжатия крупных языковых моделей с использованием аддитивной квантизации В репозитории представлены различные предварительно квантизированные модели из семейств LLaMA Mistral и Mixtral каждая из кото