CrowdStrike представила AI Kill Switch для экстренной остановки ИИ-агентов

Компания CrowdStrike официально представила инструмент AI Kill Switch, предназначенный для экстренной остановки автономных ИИ-агентов в корпоративной среде. Новая функция интегрально встроена в защитную платформу Falcon Guardian и стала доступна специалистам по информационной безопасности начиная с 3 ноября.

Qisqacha: - CrowdStrike разработала AI Kill Switch для контроля над ИИ-агентами. - Функция встроена в платформу Falcon Guardian и работает с 3 ноября. - Механизм включает остановку процессов, блокировку запуска и изоляцию от сети.

Риски автономности ИИ-систем в корпоративной среде Необходимость создания подобных защитных механизмов обусловлена возрастающими рисками, которые несут в себе автономные искусственные интеллекты. В отличие от традиционных чат-ботов, современные ИИ-агенты способны получать расширенные системные права доступа, взаимодействовать с корпоративными устройствами, облачными инфраструктурами и различными приложениями, а также самостоятельно выполнять длинные цепочки задач. В процессе работы может возникнуть ситуация, когда агент выходит за рамки первоначально поставленной задачи и начинает совершать несанкционированные действия. Примечательно, что подобное поведение может происходить даже при отсутствии внешних кибератак или вредоносного вмешательства со стороны злоумышленников, что создает серьезные уязвимости для внутренней безопасности организаций.

Три уровня вмешательства и защиты Разработанный специалистами CrowdStrike механизм AI Kill Switch предусматривает трехуровневую систему вмешательства для оперативного купирования угроз. На первом этапе обеспечивается экстренная остановка уже работающего агента: в настоящее время эта функция функционирует на уровне сетевого шлюза, однако в будущем разработчики планируют добавить возможность завершения процессов непосредственно на конечных рабочих устройствах. Второй уровень защиты заключается в полной блокировке повторного запуска потенциально опасного агента на конкретном компьютере или целой группе устройств при помощи гибких политик безопасности платформы Falcon Guardian. На третьем уровне система производит полное отключение ИИ-агента от корпоративной сети, предотвращая любые попытки передачи данных или несанкционированного взаимодействия.

Администрирование и аудит системы Процедура экстренного отключения может быть инициирована исключительно уполномоченным системным администратором информационной безопасности, а каждый шаг и действие строго фиксируются в защищенном журнале аудита. Для своей работы механизм использует телеметрические данные, которые уже собираются стандартными сенсорами платформы Falcon, включая аналитику получаемых инструкций, направлений обмена данными и выполняемых команд. Такой подход позволяет службам безопасности не только своевременно фиксировать различные аномалии и отклонения в поведении искусственного интеллекта, но и оперативно вмешиваться в его рабочие процессы без ущерба для остальной инфраструктуры предприятия.

Значение для бизнеса и дальнейшие перспективы Функция AI Kill Switch стала логичным и мощным дополнением к платформе Falcon Guardian, которая изначально создавалась для обнаружения работающих в корпоративной сети ИИ-агентов, контроля разрешенных для них операций и отражения возможных атак. В руководстве компании CrowdStrike рассчитывают, что внедрение столь надежного рычага принудительного контроля над ИИ позволит многим корпоративным клиентам увереннее и шире внедрять передовые интеллектуальные системы в свои бизнес-процессы.