ServiceNow расширяет возможности своей платформы для управления искусственным интеллектом, чтобы обеспечить большую прозрачность и контроль над работой AI-агентов. Кроме того, платформа получит новое название – Super Intelligence Control Tower (SICT) – в соответствии с пожеланиями президента США. Компания также обновляет EmployeeWorks, чтобы упростить создание AI-агентов.
Новый модуль SICT, AI Passport, предоставляет каждому агенту – независимо от того, был он разработан в ServiceNow или сторонней компании – подтвержденную личность и позволяет контролировать его действия в режиме реального времени.
Как заявил Nenshad Bardoliwalla, вице-президент по управлению продуктами в области искусственного интеллекта в ServiceNow: «При масштабировании использования автономных агентов предприятия сталкиваются с новыми вызовами. Если компании не могут определить, какие агенты работают, что они делают и какие системы они могут использовать, то быстрое масштабирование становится рискованным».
AI Passport – это криптографически подписанный сертификат для AI-агентов, который проверяется в режиме реального времени для подтверждения авторизованного объема действий. Когда AI-агент действует в рамках своего сертификата, он может работать свободно. Однако, если он пытается выйти за рамки, применяются заранее определенные ограничения. Это может включать перенаправление, ограничение доступа или повторное подключение агента с необходимым контекстом, а также возможность немедленного отключения. Все действия тщательно отслеживаются, что позволяет контролировать активность агентов.
Эта система основана на открытых стандартах, что позволяет любому разработчику, предлагающему услуги управления, провайдеру идентификации или инструменту контроля, выпускать и проверять цифровые удостоверения для собственных и сторонних ИИ-агентов. Эти удостоверения могут быть проверены на каждом этапе взаимодействия с несколькими агентами.
Контроль доступа: Google, OpenAI и Copilot борются за внимание разработчиков
Это важный шаг вперед, – заявил Фрэнк Диксон, ведущий аналитик в Dickson Research. «В настоящее время контроль доступа часто сводится к простой системе видеонаблюдения, которая фиксирует события для последующего просмотра. AI Passport, напротив, можно сравнить с персональным охранником у каждой двери».
По словам Диксона, контроль доступа выходит за рамки агентов, предоставляемых самой компанией ServiceNow: «Passport заменяет традиционные "заявления" агентов о своих правах. Доверять словам агента относительно того, что ему разрешено делать, – это существенная уязвимость в системе искусственного интеллекта».
И, как отметил Диксон, «Надежность Passport напрямую зависит от организации, которая его выдает. В данном случае, это CMDB, политики GRC и процессы утверждения в ServiceNow. Если данные, используемые Passport, устарели, то и сам Passport становится неэффективным. Компания ServiceNow заслуживает похвалы за разработку решения на основе открытых спецификаций, однако открытые спецификации становятся действительно полезными, когда их принимают и другие компании. Nvidia выступает в роли партнера по внедрению, а ServiceNow сообщает, что процесс внедрения еще находится в разработке».
ServiceNow значительно расширила свои возможности в области управления искусственным интеллектом, помимо решения AI Passport. Теперь пользователи могут не только обнаруживать несанкционированное использование ИИ с помощью технологии "shadow-AI", но и использовать более 400 коннекторов для выявления потенциальных возможностей применения ИИ в различных платформах и у различных поставщиков. Кроме того, появилась возможность создания карт доступа к ИИ и непрерывного мониторинга его использования в рамках всей организации.
Компания также представила инструменты для контроля затрат, основанные на анализе ценности. Эти инструменты позволяют связывать потребление ресурсов, стоимость, качество и фактическую ценность для пользователей, что помогает командам оптимизировать использование искусственного интеллекта. Кроме того, компания объявила об интеграции управления затратами в ИИ в ServiceNow IT Asset Management, которая работает в связке с Control Tower, а также о механизмах для обеспечения соответствия установленным политикам.
Ожидается, что новые функции, включая "AI Passport" (систему идентификации ИИ), возможность обнаружения скрытых систем искусственного интеллекта и инструменты для управления затратами на ИИ, станут доступны к концу текущего года.
EmployeeWorks: новые возможности для повышения эффективности работы
Третье поколение платформы ServiceNow EmployeeWorks теперь дает сотрудникам возможность создавать собственные AI-ассистентов и автоматизировать их работу. Инструмент ToolSmith – это новая среда разработки, позволяющая, по словам компании, создавать инструменты "от нескольких дней до нескольких минут".
Как объясняет Bhavin Shah, вице-президент по работе с сотрудниками в ServiceNow, компания стремится предоставить разработчикам возможность создавать инструменты, при этом соблюдая установленные правила и ограничения, необходимые для безопасной, эффективной и глубокой работы, которую они хотят обеспечить своим коллегам внутри компании.
ToolSmith помогает решить эту задачу. Это среда разработки, основанная на "vibe-кодинге", которая позволяет разработчикам создавать автоматизацию для AI-ассистентов ServiceNow EmployeeWorks, описывая свои потребности на естественном языке. ServiceNow сообщает, что ToolSmith был обучен на более чем 75 000 API и оптимизирован для надежности и эффективного использования токенов. Разработчики могут тестировать и совершенствовать результаты, используя тот же интерфейс, что и для взаимодействия.
ServiceNow также сообщает, что ToolSmith может анализировать логи, чтобы определить, какие инструменты создавать дальше, выявляя возможности для улучшения или создания оптимальных рабочих процессов.
Сотрудники, не занимающиеся непосредственно программированием, теперь могут создавать собственные инструменты для повышения производительности, предназначенные для автоматизации задач, адаптированных к конкретному контексту или профилю пользователя, включая длительные и сложные процессы. Компания также предлагает готовые решения, в том числе для управления персоналом.
В EmployeeWorks уже доступны два встроенных помощника: исследовательский инструмент, который анализирует как внутренние, так и внешние источники информации для поиска ответов, основываясь на роли пользователя, и помощник по планированию, который, по словам ServiceNow, "превосходит стандартные решения для организации встреч, эффективно координируя сложные запросы, такие как планирование ежеквартальных совещаний с командой, учитывая необходимость минимизации влияния на текущие проекты, или поиск оптимального дня для проведения полноценной рабочей сессии".
Для автоматизации рутинных задач, Productivity Routines работают в фоновом режиме, автоматически повторяя необходимые шаги и предоставляя результаты без участия человека. Сотрудники просто описывают, какие задачи они хотят автоматизировать, выбирают нужные инструменты и запускают соответствующую процедуру.
"Этот подход вполне оправдан", – отметил Диксон. "Люди, непосредственно занимающиеся решением задач, лучше всего понимают суть проблемы".
Однако, он добавил: «Согласно концепции «эффективных рабочих процессов», разработанной компанией ServiceNow, эти процессы работают автоматически, без участия человека. Это означает автоматизацию, и кто-то должен нести ответственность за их функционирование».
Все эти улучшения для EmployeeWorks уже доступны в ограниченном режиме.
Ключевые выводы
Мелоди Брю, аналитик из Moor Insights & Strategy, отметила, что эти инициативы свидетельствуют о расширении возможностей платформы ServiceNow в сфере безопасности и управления рабочими процессами.
«AI Passport позволяет удостоверять личности и контролировать уровень доступа, Control Tower обеспечивает централизованный контроль и применение правил, а ToolSmith расширяет набор инструментов и интеграций, позволяющих сотрудникам действовать в рамках корпоративных ограничений», – заявила она, добавив, что, учитывая недавнее позиционирование ServiceNow как компании, ориентированной на безопасность, «это говорит о стремлении занять ключевую роль в обеспечении безопасности и автономии в корпоративной среде».
Однако, она подчеркнула, что «важно, насколько эффективно ServiceNow сможет применять эти ограничения и проверять результаты в тех системах, с которыми действительно работают сотрудники».
Диксон также выразил опасения.
«ServiceNow заявляет, что Control Tower отслеживает расходы по пользователю, отделу и времени выполнения, и связывает эти расходы с качеством и ценностью. Но механизм, обеспечивающий эти ограничения, – это отдельный вопрос», – отметил он. «Упоминается, что в будущем будут реализованы функции оповещения, ограничения и блокировки, а также интеграция с AI Cost Management, которая, как ожидается, станет доступна к концу года».
Однако, "мониторинг активности – это не универсальное решение", – подчеркнул эксперт. "Регулярная рутинная работа, выполняемая ежедневно, – это неизбежные затраты. Кто-то должен ее утвердить и контролировать".
Он рекомендовал назначить ответственного за каждого агента и за каждую конкретную рутину, а также установить бюджет до начала работы. Также, стоит обратиться в ServiceNow, чтобы узнать, как учитываются затраты на фоновые процессы, и существуют ли какие-либо ограничения. Необходимо сразу после запуска ограничить работу агентов и сравнить отображаемые данные с фактическими расходами.
Несмотря на эти опасения, эксперт считает, что ServiceNow движется в правильном направлении. "Агент должен иметь доступ к своим разрешениям, руководителю и бюджету, независимо от того, какую задачу он выполняет. Но пока не будут внедрены механизмы контроля, этот бюджет остается проблемой, которую необходимо решить".
Данная статья впервые была опубликована на CIO.
