Компания Qualcomm придерживается нестандартной стратегии при запуске своей новой, премиальной мобильной платформы Snapdragon. Вместо того, чтобы держать все в секрете до ежегодной конференции Snapdragon Summit, которая пройдет в Мауи в конце этого месяца, компания постепенно раскрывает информацию об архитектуре, которая станет основой для новых флагманских Android-смартфонов.
В первую очередь, компания представила новую архитектуру CPU Oryon, а затем – значительное обновление графического процессора Adreno. Сегодня Qualcomm подробно рассказала о следующей, передовой архитектуре Hexagon NPU, которая станет основным AI-движком платформы.
В совокупности, эти публикации позволяют нам получить достаточно четкое представление о том, в каком направлении движется компания, даже не зная официального названия чипа.
Безусловно, здесь присутствует акцент на производительность, основанный на CPU с частотой 5 ГГц, но более интересным аспектом архитектуры является оптимизация работы с памятью и специализированное ускорение задач искусственного интеллекта. Qualcomm стремится держать больше данных ближе к вычислительным ресурсам, которые в них нуждаются, при этом распределяя задачи искусственного интеллекта между CPU, GPU и NPU.
Эти архитектурные изменения имеют важное значение, поскольку компания продолжает развивать искусственный интеллект непосредственно на устройстве, переходя от относительно простых генеративных функций к более сложным и устойчивым задачам, требующим самостоятельного принятия решений.
Oryon достиг 5 ГГц благодаря технологии FlexCache
В августе компания Qualcomm объявила о новом процессоре Oryon, который станет первым мобильным чипом, способным работать на частоте 5 ГГц. Восьмиядерная архитектура включает два "Prime"-ядра на 5 ГГц и шесть "Performance"-ядер. Qualcomm связывает эту высокую частоту с полностью новой микроархитектурой Oryon, разработанной на базе Arm. Эта архитектура обеспечивает полный контроль над ядрами, кэшем и структурой памяти, а также над предсказанием переходов и основной подсистемой процессора.
Заявление о частоте 5 ГГц, безусловно, вызвало интерес. Однако, новая архитектура FlexCache от Qualcomm может оказать более значительное влияние на стабильную производительность. FlexCache позволяет "Prime"- и "Performance"-ядрам процессора Oryon использовать общий пулл-кэш, при этом объем кэша динамически распределяется в зависимости от нагрузки. Это означает, что ядро, требующее большого объема памяти, может использовать больше доступного кэша, когда это необходимо. Такая схема позволяет держать данные, необходимые процессору, ближе к ядрам, и снижает задержки при обращении к системной памяти.
Данный подход может быть полезен в самых разных сферах, от разработки игр и многозадачных систем до создания контента. Кроме того, он хорошо подходит для задач, связанных с "умными" AI-системами, где выполнение задач может включать несколько этапов обработки и использование различных ядер процессора. Главная цель – обеспечить непрерывную работу процессора и избежать дорогостоящих операций с внешней памятью.
Adreno нового поколения от Qualcomm получит специализированные аппаратные ускорители для искусственного интеллекта
Следующее важное заявление от Qualcomm посвящено графике, где компания вносит существенные изменения в свою графическую систему Adreno. Новая GPU включает выделенные Adreno Matrix Cores, предназначенные для прямого запуска моделей искусственного интеллекта непосредственно в графическом процессе. Они работают в связке с 18 МБ Adreno High-Performance Memory (HPM), обеспечивающей локальное хранилище с минимальной задержкой для рендеринга на основе плиток, буферов кадров и вычислений GPU.
Qualcomm заявляет, что HPM обеспечивает прирост производительности в 12% по сравнению с предыдущим поколением Snapdragon 8 Elite Gen 5.
Для пользователей наиболее заметной особенностью, вероятно, станет Adreno Neural Fusion, который объединяет супер-разрешение на основе ИИ, нейронную обработку и генерацию кадров в единой графической системе. Это позволяет провести аналогию с тем, что делают NVIDIA, AMD и другие компании в области нейронного рендеринга на ПК, хотя следующий по чипу Snapdragon от Qualcomm должен работать в гораздо более ограниченном мобильном энергопотреблении.
Qualcomm утверждает, что технология Neural Fusion позволяет снизить энергопотребление до 40% в ходе внутренних тестов, используя демонстрационную версию графического движка Dragon Alley. Это весьма значимый результат, однако, как всегда, нам потребуется увидеть, как эта технология работает в реальных играх и на различных устройствах, прежде чем делать какие-либо окончательные выводы.
Кроме того, Qualcomm помогла интегрировать технологию Neural Fusion в Unity и Unreal Engine. Это может оказаться не менее важным, чем сама аппаратная часть. Успех внедрения таких функций будет зависеть от того, станут ли они существенным преимуществом для платформы или просто еще одним параметром в технических характеристиках.
Qualcomm перерабатывает процессор Hexagon NPU для поддержки "агентов" искусственного интеллекта
Компания Qualcomm представила новую линейку процессоров, предназначенных для мобильных устройств.
Последний анонс посвящен процессору Hexagon NPU от Qualcomm. Архитектура этого чипа подходит к завершению. Следующее поколение процессоров Hexagon от компании включает в себя новый ускоритель, разработанный специально для задач, связанных с трансформерами. Кроме того, в нем сохранены существующие возможности для векторной и скалярной обработки. Qualcomm заявляет, что этот новый блок оптимизирован для высокой скорости обработки, ускорения операций key-value (KV) и работы с контекстами длиной до 32 тысяч токенов.
Компания Hexagon также увеличила общий объем памяти на 50%. И, повторюсь, этот объем памяти играет ключевую роль. Информация о состоянии модели, контекстная информация и данные KV-кэша могут генерировать значительный объем трафика, особенно при работе с большими языковыми моделями. Размещение большей части этих данных в непосредственной близости от NPU позволяет снизить задержку и энергопотребление. Qualcomm заявляет, что архитектура разработана для эффективной обработки длинных контекстов, работы с мультимодальными моделями, одновременной работы нескольких агентов и быстрого выполнения задач.
Компания Qualcomm анонсировала значительные улучшения в производительности моделей машинного обучения для мобильных устройств. В частности, для моделей, использующих квантизацию INT4, заявлено о достижении до 50% повышения скорости предварительной обработки данных по сравнению с предыдущим поколением – Snapdragon 8 Elite Gen 5. Кроме того, Qualcomm планирует использовать модели, основанные на архитектуре Mixture-of-Experts (MoE), с количеством параметров до 30 миллиардов. В качестве примера компания приводит модель в 30B параметров, которая активирует лишь около 3 миллиардов параметров на каждом шаге генерации токенов. Такой селективный подход идеально подходит для устройств с ограниченными ресурсами, такими как мобильные телефоны, в плане энергопотребления и объема оперативной памяти.
Компания не заявляет, что смартфон сможет запускать модель в 30B параметров полностью из оперативной памяти (DRAM). Однако, благодаря активации только необходимых "экспертов" для конкретной задачи, архитектура MoE может значительно снизить требования к вычислительным ресурсам и пропускной способности памяти, что потенциально делает возможным использование гораздо более крупных моделей искусственного интеллекта на мобильном оборудовании.
Snapdragon нового поколения: Qualcomm готовится к новой волне инноваций в мобильных устройствах
В сложившейся ситуации важную роль играет и конкурентная борьба. На протяжении многих лет, главным фактором, определяющим качество флагманских смартфонов, были производительность процессора, графического чипа, модема и энергоэффективность. Сейчас, искусственный интеллект стал еще одним ключевым фактором, и Qualcomm, безусловно, разрабатывает свою следующую мобильную платформу Snapdragon, ориентируясь именно на эту потребность.
Apple обладает преимуществом, так как контролирует весь процесс – от разработки чипа и операционной системы до программного обеспечения. MediaTek продолжает активно развиваться на рынке премиальных Android-устройств. В ответ, Qualcomm стремится сделать свои собственные процессоры Oryon, графические чипы Adreno и нейронные процессоры Hexagon более эффективными, создавая единую вычислительную платформу, оптимизированную для современных задач искусственного интеллекта и агентных вычислений.
Это значительное преимущество для производителей Android-устройств, поскольку многие не имеют ресурсов для самостоятельной разработки такого уровня интеграции аппаратного обеспечения. Qualcomm может предложить своим партнерам, включая Samsung, Xiaomi, Honor и другие, общую аппаратную основу для реализации искусственного интеллекта на устройстве, продвинутой графики и агентных вычислений. Это также дает Qualcomm дополнительный способ укрепить свои позиции на рынке премиальных Snapdragon-чипов.
Компания Qualcomm представила новую архитектуру Oryon, которая теперь применяется в смартфонах и компьютерах под управлением Windows, а также, в перспективе, в серверах. При этом, нагрузка на задачи, связанные с искусственным интеллектом, распределена между центральным процессором (CPU), графическим процессором (GPU) и нейронным процессором (NPU).
Для бизнеса это может означать, что больше задач, связанных с искусственным интеллектом, будет выполняться непосредственно на устройстве, что снизит зависимость от облачных сервисов и сети, повысит скорость работы и позволит хранить больше конфиденциальных данных локально. А для IT-отделов Qualcomm получит возможность предложить более надежную платформу для вычислений с искусственным интеллектом на компьютерах под управлением Windows, оснащенных процессорами Snapdragon X, а также на флагманских устройствах на базе Android.
Тем не менее, остается ряд нерешенных вопросов. Компания Qualcomm пока не опубликовала исчерпывающую информацию о характеристиках чипа, его производительности и энергопотреблении, а также о списке устройств, которые будут поставляться с ним. Многие из возможностей, связанных с искусственным интеллектом, будут во многом зависеть от операционной системы Android, разработчиков приложений и самих моделей искусственного интеллекта.
На предстоящем Snapdragon Summit, вероятнее всего, ключевым событием станет анонс нового процессора для мобильных устройств с тактовой частотой 5 ГГц. Однако, не менее значимыми могут оказаться и другие нововведения: увеличение объема встроенной оперативной памяти, специализированные вычислительные блоки для задач искусственного интеллекта, а также более тесная интеграция между центральным процессором, графическим процессором и нейронным процессором.
Если компания Qualcomm сможет реализовать эту архитектуру, обеспечив более стабильную производительность, повышенную энергоэффективность и полезные возможности искусственного интеллекта непосредственно на устройстве, это укрепит ее позиции на рынке премиальных Android-смартфонов и создаст дополнительное конкурентное давление на компанию Apple. Для бизнес-пользователей это может означать более мощный локальный ИИ, не снижая при этом производительность и время автономной работы, которые ожидаются от флагманского устройства.
Я буду особенно внимательно следить за этим, когда будет представлена полная информация о новом чипе на Snapdragon Summit в конце этого месяца. Возможно, мне даже удастся протестировать его в реальных условиях, как это было и в предыдущие годы, и тогда мы увидим результаты.
