Угрозы и уязвимости агентных систем / А.Кокуйкин

Текущее состояние агентных систем и их отличия от LLM

• Память как ключевая особенность агентов - системы сохраняют информацию о пользователях на длительный срок (00:00)
• Архитектурная сложность мультиагентных систем превосходит традиционные решения (05:32)

Типология агентов и специфические риски

• Коллаборативные агенты типа Cursor работают в тесном взаимодействии с пользователем (10:48)
• Фоновые агенты работают автономно с почтой, CRM, базами данных (10:48)
• Долгосрочные агенты могут работать неделями над сложными задачами (12:19)

Каталог угроз агентных систем OWASP

• OWASP Agentic Security Initiative документирует 17-20 различных типов угроз (14:00)
• Межагентная коммуникация создает риски каскадного распространения ошибок (14:00)

Практические атаки и защитные меры

• Prompt-инъекции остаются основным вектором атак на агентные системы (17:21)
• Внешние классификаторы предоставляют дополнительный уровень защиты (18:49)

Supply Chain атаки в эпоху агентов

• Расширение поверхности атак через автоматический выбор библиотек и инструментов (24:23)
• Реальный инцидент демонстрирует серьезность угрозы (27:37)

Инциденты безопасности агентных систем

• Случай с Replit агентом показал риски автономного управления инфраструктурой (29:05)

Вызовы в обеспечении безопасности

• Human-in-the-loop становится сложной инженерной задачей (32:16)
• Дискуссия об AI-агентах для безопасности остается открытой (32:16)

Эволюция ландшафта кибербезопасности

• Gartner выделяет три грани AI-безопасности: использование, защита и атака (33:57)
• Автоматизация кибератак снижает барьеры для злоумышленников (35:41)

Практические рекомендации по внедрению

• Создание AI-Security команд становится необходимостью для крупных корпораций (37:44)
• Оценка рисков должна предшествовать внедрению агентных систем (39:04)

Передовые практики разработки безопасных агентов

• Методология безопасной работы с Cursor включает строгие спецификации (42:27)
• Двойной контур безопасности обеспечивает надежную защиту (44:22)