airllm AirLLM — это инструмент, позволяющий выполнять вывод (inference) больших языковых моделей (LLM) с 70 миллиардами параметров на одном GPU с 4 ГБ памяти. Он оптимизирует использование памяти во время вывода, что позволяет запускать модели без необходимости в квантовании, дистилляции или обрезке. AirLLM поддерживает различные модели, включая Llama3.1 405B, и совместим с Linux и macOS, обеспечивая гибкость в выборе платформы. Lang: Jupyter Notebook
Рекомендуемые статьи
PSHuman
👁 37
PSHuman PSHuman представляет собой метод фотореалистичной 3D-реконструкции человека из одного изображения с использованием технологии Cross-Scale Multiview Diffusion Он позволяет создавать детализированные 3D-модели одетых людей в различных позициях всего за одну минуту
Noisy
👁 36
Noisy Простая консольная утилита на Python для генерации веб-трафика внутри вашей сети.
Musializer
👁 38
Musializer Musializer — это мощное программное обеспечение для создания музыкальных визуализаций. Основные зависимости включают ffmpeg, который должен быть доступен в переменной окружения, а также систему сборки на языке C. Программа поддерживает горячую перезагрузку через, что у
LiveContainer
👁 47
LiveContainer LiveContainer — это приложение для iOS, позволяющее запускать другие iOS-приложения без их фактической установки. Оно позволяет обходить ограничения на количество устанавливаемых приложений и поддерживает одновременную установку нескольких версий одного приложения с
NFCGate
👁 28
NFCGate NFCGate - это приложение для Android, предназначенное для захвата, анализа или изменения трафика NFC. Функции : ▫️Захват на устройстве : захватывает трафик NFC, отправленный и полученный другими приложениями, работающими на устройстве. ▫️Ретранслятор: ретрансляция трафика
smartDiff
👁 29
smartDiff Предположим, у вас есть 2 текста, которые часто меняются, и вам нужно понять, что именно меняется, вы можете использовать данную функцию diff для этого.