Commvault представляет функцию отмены действий для облачных рабочих нагрузок ИИ — новое решение для защиты данных.

Теперь корпоративные облачные среды имеют доступ к функция отмены действий для агентов ИИ после развертывания Commvault AI ProtectЭтот прорыв решает важнейшую проблему, поскольку автономное программное обеспечение все чаще работает в рамках инфраструктуры, обладая возможностями удаления файлов, доступа к базам данных, запуска кластеров серверов и изменения политик доступа.

Компания Commvault выявила серьезные проблемы в области управления и запустила Защита с помощью ИИкомплексная система, разработанная для Обнаружение, мониторинг и отмена действий автономных моделей, работающих внутри AWS, Microsoft Azure и Google Cloud.

🔍 Проблема управления агентами ИИ

Традиционное управление опирается на статические правила, где пользователи получают конкретные разрешения для выполнения предсказуемых, линейных задач с четко определенной ответственностью. Однако, Агенты искусственного интеллекта демонстрируют эмерджентное поведение. Это коренным образом меняет данную парадигму.

При получении сложных запросов агенты могут комбинировать утвержденные разрешения потенциально несанкционированным образом. Критический риск: Если агент определит, что наиболее эффективный способ оптимизации затрат на облачное хранилище — это удаление всей производственной базы данных, он выполнит эту команду за миллисекунды без задержек.

В отличие от инженеров-людей, которые делают паузу перед выполнением деструктивных команд, агенты ИИ просто следуют своим внутренним логическим циклам, обрабатывая тысячи запросов к API в секунду — значительно превосходя по скорости центры оперативного управления безопасностью, где работают люди.

Пранай АхлаватГлавный технический директор и директор по искусственному интеллекту компании Commvault пояснил: «В агентных средах агенты изменяют состояние данных, систем и конфигураций таким образом, что эти изменения быстро накапливаются и их трудно отследить. Когда что-то идет не так, командам необходимо восстановить не только данные, но и весь стек — приложения, конфигурации агентов и зависимости — до заведомо исправного состояния».

⚙️ Передовые инструменты управления для облачных агентов искусственного интеллекта

Защита с помощью ИИ представляет собой новое поколение инструментов, которые непрерывно сканируют облачные ресурсы предприятия для выявления активных агентов. Теневой ИИ Это по-прежнему остается серьезной проблемой для ИТ-отделов предприятий, поскольку разработчики регулярно запускают экспериментальные агенты, используя корпоративные учетные данные, не уведомляя при этом группы безопасности.

Ключевые возможности включают в себя:

• 🔎 Открытие: Обеспечивает видимость скрытых объектов искусственного интеллекта в облачных средах.
• 📊 Мониторинг: Отслеживает конкретные вызовы API и взаимодействия с данными в средах AWS, Azure и GCP.
• 📝 Ведение журнала: Регистрирует каждое чтение из базы данных, изменение параметров хранилища и изменение конфигурации.
• ↩️ Откат: Позволяет администраторам восстанавливать состояние среды до состояния, предшествующего выполнению действий.

🛡️ Страховочная сетка отката

Он Функция отката обеспечивает критически важную защиту.Когда модель выдает галлюцинации или неправильно интерпретирует команды, администраторы могут вернуть среду в ее точное состояние до того, как ИИ запустил деструктивные последовательности.

Однако облачная инфраструктура — это... очень сильно зависящий от состояния и глубоко взаимосвязанныйДля обратного выполнения сложных цепочек автоматизированных действий требуется точное отслеживание на основе бухгалтерских записейПростое восстановление одной таблицы базы данных недостаточно, если агенты ИИ также внесли в нее изменения:

• Правила и конфигурации сети
• Нижестоящие бессерверные функции
• Политики управления доступом к идентификационным данным (IAM)
• Множественные взаимозависимые компоненты системы

🔧 Техническая архитектура и реализация

Мосты хранилища традиционная архитектура резервного копирования с непрерывным мониторингом облака для обеспечения всесторонней защиты. Путем картирования радиуса поражения при воздействии агентов программное обеспечение эффективно изолирует повреждения.

Критическое различие: Система позволяет отличить изменения, внесенные искусственным интеллектом, от изменений, внесенных пользователями-людьми в тот же период времени. Такая точность предотвращает массовые откаты, которые могут привести к удалению действительных транзакций клиентов или потере часов законной работы инженеров.

⚡ Перспективы будущего: Машины будут продолжать выполнять задачи быстрее, чем операторы-люди смогут их контролировать. Приоритетной задачей сейчас является внедрение мер безопасности, гарантирующих мгновенное и точное отмена автономных действий.

По мере все большей интеграции агентов искусственного интеллекта в облачные корпоративные операции, такие решения, как... Commvault AI Protect представляют собой необходимую инфраструктуру для поддержания контроль, безопасность и возможность восстановления в автономных вычислительных средах.