BitNet.cpp BitNet — это фреймворк, разработанный Microsoft для эффективной работы с 1-битными LLM, обеспечивающий оптимизированную инференцию на CPU и GPU, с планами по поддержке NPU. Первая версия демонстрирует значительное ускорение и уменьшение энергопотребления, что позволяет запускать крупные модели с производительностью, сопоставимой с человеческим чтением. Проект совместим со многими 1-битными LLM, доступными через Hugging Face.
Рекомендуемые статьи
Kodi и дополнения
👁 25
Kodi и дополнения Kodi - это отмеченный наградами бесплатный медиаплеер с открытым исходным кодом и развлекательный центр для цифровых медиа. Доступный в качестве собственного приложения для операционных систем Android, Linux, BSD, macOS, iOS и Windows
Wego
👁 45
Wego Wego - это погодный клиент для терминала Функции включают отображение прогноза на 1-7 дней художественные иконки ASCII диапазон температур скорость и направление ветра расстояние просмотра количество и вероятность осадков Требуется рабочее окружение Go 1 20 и терминал utf-8
WinHider
👁 53
WinHider WinHider — это приложение Windows, предназначенное для скрытия окон во время демонстрации экрана в таких сервисах, как Zoom и MS Teams. С помощью WinHider пользователи могут легко управлять видимостью окон, используя графический интерфейс или командную строку. Приложение
PhotoGuard
👁 30
PhotoGuard Инструмент для защиты изображений от манипуляций с помощью моделей редактирования фотографий на основе машинного обучения таких как stable diffusion
mobile-mcp
👁 31
mobile-mcp Это сервер, реализующий протокол Model Context Protocol (MCP), предназначенный для автоматизации мобильных устройств и взаимодействия с ними через унифицированный интерфейс. Он позволяет моделям искусственного интеллекта (LLM) и агентам взаимодействовать с нативными пр
wireproxy
👁 34
wireproxy wireproxy — это клиент Wireguard но работающий как прокси socks5 Это может быть полезно если вам нужно подключиться к определенным сайтам через одноранговый узел wireguard но по каким-либо причинам вы не можете создать новый сетевой интерфейс (отсутствие root и т д )