Многие компании используют компьютеры Mac, но что с ними делать, когда они не используются? И сколько средств тратится на обработку данных с помощью искусственного интеллекта?
Но что, если вычислительные мощности этих компьютеров можно использовать для обработки данных с помощью искусственного интеллекта? Новый документ от команды машинного обучения Apple показывает, что это возможно.
Команда Apple разработала внутреннюю технологию распределенной обработки, которую они назвали "Minions". Эта технология позволяет создать виртуальный облачный GPU, используя подключенные компьютеры Mac. Хотя технология пока доступна только внутри Apple, она представляет собой перспективное решение для превращения компьютеров Mac в распределенный центр обработки данных для искусственного интеллекта, что позволит снизить затраты на обработку данных и упростить предприятиям безопасный анализ корпоративных данных, при этом обеспечивая конфиденциальность информации внутри компании.
Apple использует "мини-агентов" для улучшения Copilot
Инновационная методика, описанная в недавнем аналитическом обзоре «Minions: Динамичная и распределенная виртуальная облачная инфраструктура на базе GPU, использующая неиспользуемые устройства Apple Silicon», позволяет эффективно использовать вычислительные ресурсы. Исследователи отмечают, что ограниченность вычислительных мощностей приводит к задержкам в обработке задач и увеличению затрат, даже если мощные компьютеры Mac, оснащенные чипами Apple Silicon, остаются бездействующими.
Предложенная методика базируется на трех ключевых компонентах: Minion Server, Executor и Watchdog. Minion Server разбивает задачи на части и помещает их в очередь. Executor выступает в роли координатора, распределяя задачи по всем доступным компьютерам Mac. Watchdog контролирует текущие задачи и отслеживает возможные сбои – например, компьютер может быть выключен или переведен в спящий режим во время выполнения задачи. В случае сбоя одного из компьютеров, Watchdog возвращает соответствующую часть задачи в очередь, обеспечивая ее завершение.
Текущая версия Minions обеспечивает две возможности работы с GPU на Mac: генерацию эмбеддингов и завершение текста с помощью больших языковых моделей (LLM). Для этого используются открытые модели трансформеров от Hugging Face и Ollama. Ollama устанавливается и запускается непосредственно на устройствах, участвующих в программе, что позволяет выполнять вычисления локально, без необходимости обращения к удаленным API. Команда Apple планирует расширить функциональность Minions, чтобы в будущем она также поддерживала распределенное обучение моделей. Это позволит компаниям, занимающимся разработкой искусственного интеллекта, использовать вычислительные мощности всех доступных Mac для создания новых моделей.
Как отмечается в исследовании, данная платформа особенно полезна в средах, где централизованные ресурсы GPU ограничены. Она позволяет командам эффективно использовать имеющееся оборудование, получая значительный вычислительный потенциал без дополнительных затрат.
Внутренние возможности: Google, OpenAI и Copilot предлагают новые решения для ускорения работы
Ключевое преимущество Minions – это возможность эффективно использовать вычислительные ресурсы компании без необходимости приобретения дополнительных сервисов. Это особенно выгодно для компаний, уже располагающих достаточным количеством компьютеров Apple, и позволяющих им применять их для задач машинного обучения и искусственного интеллекта.
В настоящее время спрос на вычислительные мощности для задач искусственного интеллекта очень высок. Новая технология от Apple может стать привлекательным способом оптимизации использования имеющихся ресурсов для решения задач машинного обучения, искусственного интеллекта или даже (в теории) создания "супер-интеллекта". В конечном итоге, для любой компании, использующей ИИ, владение необходимыми ресурсами дает значительное конкурентное преимущество. Minions демонстрирует, что это возможно, по крайней мере, в определенной степени.
Больше никаких очередей на несколько часов
Если объединить вычислительные мощности "Minions" с компьютерами Mac, работающими в кластерах по протоколу RDMA и использующими искусственный интеллект, это может привести к значительным результатам. Согласно информации, полученной от источников, Apple использует эту технологию для обеспечения более широкого доступа к вычислительным ресурсам GPU для различных команд разработчиков.
Перед внедрением, некоторые задачи по обработке данных испытывали значительные задержки, превышающие 10 часов, из-за нехватки доступных графических процессоров. Однако, благодаря Minions, выполнение этих задач теперь начинается уже через несколько минут, эффективно используя неиспользуемые графические процессоры на компьютерах Mac.
В документе также затронуты следующие важные моменты:
Временные команды: "На практике, координация работы в таких командах часто происходит неформально. Например, участники могут общаться в Slack, прося других временно запустить Minion Executor и направить его на конкретный проект или задачу.
Для снижения опасений, связанных с конфиденциальностью, компания Minions предлагает развертывание, ориентированное на отдельные команды или организации. В рамках этого подхода используются "специализированные базы данных PostgreSQL и изолированные пулы вычислительных ресурсов". Это позволяет организациям, работающим с конфиденциальными данными, создать небольшие группы компьютеров Mac, что обеспечивает надежное управление рисками.
Apple планирует еще больше усилий в сфере ИИ?
Вероятность такого развития событий представляется невысокой. Исследователи отмечают: "Внедрение Minions открывает новые перспективы для сообщества машинного обучения. Если создать безопасную систему объединения неиспользуемых устройств macOS в организациях – возможно, даже во всем мире – можно получить огромный, общий пул графических процессоров, что принесет пользу всей экосистеме."
Некоторые могут упустить эту информацию, но она, вероятно, столь же важна для широкого сообщества искусственного интеллекта, как и возможность подключения компьютеров Mac для задач ИИ с помощью кабеля Thunderbolt, а также успешное внедрение фреймворка MLX. Зачем создавать собственный дата-центр, когда ваш проект ИИ может работать на мощности 100 миллионов Mac?
Единственным недостатком в этом позитивном сценарии является то, что Apple пока не объявляла о планах сделать Minions доступными за пределами компании. Однако мы надеемся на это.
