Набор методологий и практик по обеспечению безопасности систем, использующих искусственный интеллект.
Skill для ИИ-агента выглядит как обычный файл с инструкциями, но модель может считать его доверенным контекстом. Поэтому вредоносная строка способна сработать не сразу, а в следующей сессии....
ИИ помогает SOC искать аномалии, собирать данные и готовить гипотезы. Но уверенный текст модели не доказывает, что инцидент произошёл. Разбираем отличия галлюцинаций от ложных срабатываний SIEM и...
ИИ-агент получает доступ к AWS и запускает ресурсы быстрее, чем оператор успевает проверить цель. Один публичный кейс показывает риск: пять инстансов с заявленной пропускной способностью 20 Гбит/с...
Автономный ИИ-агент не становится отдельным субъектом ответственности только потому, что действует без прямой команды. После компрометации важны владелец системы, разработчик, оператор, поставщик...
Генеративный ИИ помогает мошенникам создавать убедительные письма без заметных ошибок. Поэтому одного чтения текста уже недостаточно. В статье разбираем признаки массовой кампании: повторяющиеся...
КиберЩит