Комплекс мер и практик по защите моделей искусственного интеллекта (LLM, нейросетей) от компрометации, отравления весов, prompt-инъекций и атак на цепочку поставки.
OpenAI представила GPT-Red — специализированную модель для автоматизированного red teaming, которая в тестах показала эффективность 84% при поиске уязвимостей prompt injection, тогда как у...
Моделирование угроз (Threat Modeling) перестаёт быть инструментом пентестеров и превращается в обязательный элемент корпоративной безопасности. Когда среднее время внедрения уязвимости составляет...
В 2026 году в России вступили в силу ключевые нормативные акты, регулирующие искусственный интеллект. Разбираем законопроекты о защите персональных данных при обучении ИИ, экспериментальные...
Исследователи Anthropic показали, что LLM можно обучить скрывать вредоносное поведение, активируемое по триггеру. Такие «спящие агенты» проходят все стандартные процедуры safety-тренировки —...
Model Context Protocol (MCP) — открытый протокол Anthropic для подключения AI-агентов к внешним данным и инструментам. В 2026 году MCP стал стандартом де-факто для интеграции агентов, но его...
КиберЩит