Компания Apple, похоже, предприняла меры для предотвращения злоупотреблений своей неоднозначной функцией "Audio Intelligence". Вместе с iPhone Duo и новой линейкой iPhone 18 Pro, Apple во вторник представила новое Apple Watch, оснащенное совершенно новой функцией, которую компания называет "Audio Intelligence". О существовании этого неожиданного инструмента стало известно всего накануне презентации. Эта функция, работающая благодаря новому чипу S11 на последних моделях Apple Watch, на самом деле представляет собой комплекс из четырех функций:
Функция «Сводка дня» автоматически формирует краткий обзор ваших ежедневных переписок.
Функция "Live Rewind" позволяет просматривать последние 15 секунд разговора в текстовом формате.
Технология распознавания музыки, основанная на сервисе Shazam.
Распознавание звуков: технология, способная определять, например, звуки сирен или сигналов тревоги.
Все эти возможности должны быть явно включены пользователем. По умолчанию они не активны.
Все эти устройства используют искусственный интеллект и микрофоны, работающие постоянно. Несмотря на то, что все четыре устройства позиционируются как опциональные, их появление неизбежно вызовет вопросы о конфиденциальности, что вполне понятно.
Компания Apple предвидела возможные опасения и для обеспечения безопасности внедрила Secure Enclave на чип S11, установленный в новейших моделях Apple Watch. Это специальный защищенный блок внутри чипа, который обрабатывает звуковые данные в режиме реального времени, обеспечивая конфиденциальность. При этом, Secure Enclave не записывает окружающий звук, а данные, с которыми он работает, изолированы от остальной системы. Secure Enclave взаимодействует с iPhone посредством «новой системы аутентификации по звуку», которая, по заявлению Apple, является дополнительным способом подтверждения личности. Подробное описание принципов работы этой системы содержится в специальном техническом документе.
Siri Recap: как Google и OpenAI улучшают работу Copilot
Apple Watch может фиксировать разговоры.
Если да, то аудиосигнал передается в защищенное ядро устройства, где он шифруется и отправляется в аналогичное защищенное ядро вашего сопряженного iPhone.
После этого аудио мгновенно удаляется с часов.
Телефон расшифровывает аудио, создает текстовую расшифровку, сокращает ее и отправляет этот текст в облачный вычислительный центр для обработки.
Краткая расшифровка создается, передается пользователю и автоматически удаляется через семь дней.
Имена говорящих не фиксируются, записи не ведутся, и подробные расшифровки не создаются и не хранятся.
Компания также внедрила меры безопасности для окружающих. Система намеренно опускает некоторую информацию, включая потенциально опасный контент, финансовые данные или личную информацию. При использовании функции "Live Rewind" на вашем устройстве звучит сигнал, чтобы предупредить окружающих о том, что вы используете эту функцию.
Новые вызовы на горизонте: как компании борются с трудностями внедрения ИИ
Во-первых, остается неясным, будет ли компания предоставлять компаниям инструменты для управления IT-оборудованием, позволяющие отключать функцию "Аудио Интеллект" на управляемых устройствах. Очевидно, что устройства, постоянно собирающие данные, будут рассматриваться как потенциальные угрозы безопасности, особенно в регулируемых отраслях. И, похоже, гораздо логичнее предоставить новые API для отключения этой функции, чем настаивать на том, чтобы все, кто носит Apple Watch, помещали их в специальные контейнеры с свинцовой обшивкой перед совещаниями по вопросам безопасности, здравоохранения или разработки продуктов.
Еще одна проблема связана с Законом о цифровых рынках Европы. Скорее всего, конкуренты (включая Meta) захотят, чтобы их устройства имели равный доступ к информации, собираемой функцией "Аудио Интеллект". На основе решений, принятых Apple, можно предположить, что компания откажется предоставить такой доступ. Поэтому, новые функции изначально не будут доступны в Европейском Союзе.
Безусловно, хакеры попытаются проникнуть в систему. Однако, благодаря тщательно разработанной системе защиты, это будет непростая задача. Вероятно, основные усилия будут направлены на места, где происходит передача данных между устройствами, а не на защищенные области, где хранится информация. Кроме того, пользователям сервисов iCloud, использующим свои данные, настоятельно рекомендуется включить двухфакторную аутентификацию и использовать надежные пароли.
iCloud: как использовать для хранения данных
Еще одним серьезным вызовом для конфиденциальности пользователей станет вопрос шифрования. В частности, продолжаются попытки некоторых стран, включая Великобританию, взломать систему шифрования данных в iCloud. Однако, даже в случае успешного взлома, доступ к аудиозаписям, хранящимся в iCloud, предоставит лишь обобщенную информацию, а не саму запись. Система разработана таким образом, что создание аудиозаписей исключено.
В своем техническом документе, посвященном этой функции, Apple подробно объясняет этот процесс: «Аудио, поступающее с микрофона, попадает в защищенный раздел Apple Watch, где оно сразу же обрабатывается для распознавания речи, звуков или музыки, без создания транскрипции или сохранения исходного аудио. Этот буфер представляет собой постоянно перезаписываемый поток, который существует исключительно в защищенном аппаратном обеспечении и никогда не создает аудиозапись».
После того, как вы решили сохранить текст "Краткое изложение" или "Воспоминания", исходное аудио не сохраняется в iCloud, а сохраняется только текстовая версия. И это возможно только при использовании двухфакторной аутентификации и пароля устройства. Компания заявляет, что никто, включая Apple, не сможет получить доступ к зашифрованным данным, которые вы сохранили.
ИИ-ассистент Copilot: куда движется развитие?
Ранее появившаяся информация о наушниках AirPods с встроенной камерой и технологией Vision Intelligence, предназначенных для анализа окружающего пространства и улучшения работы голосового помощника Siri, не подтвердилась. Я уже высказывал сомнения в этом, но полагаю, что существующая система безопасности, разработанная Apple для обработки аудиоданных, будет адаптирована для обеспечения безопасности транзакций, связанных с Vision Intelligence.
Это предполагает появление нового чипа с "Silicon Enclave" для AirPods Pro, который позволит в режиме реального времени обмениваться данными для анализа контекста и содержания. Кроме того, предполагается, что в процессе работы не будет происходить запись аудио, а доступ к медиафайлам будет ограничен краткими, временными отчетами. Таким образом, Apple, вероятно, применит ту же систему безопасности.
Как другие: обзор новых инструментов для разработчиков
В целом, это неплохое решение. Однако, стоит отметить и другой аспект: в то время как Apple, похоже, искренне заинтересована в внедрении современных технологий, другие компании могут уделять меньше внимания вопросам приватности и безопасности. Таким образом, Apple не только способствует обсуждению использования этих инструментов, но и активно продвигает их широкое распространение.
Однако, остается вопрос: готовы ли мы к такому развитию событий?
