ИИ в реальном секторе: безопасность, ответственность, реальные кейсы внедрения

1. Риски и безопасность при внедрении ИИ

Основной вызов в безопасности ИИ-систем связан с новыми типами уязвимостей, которые требуют многоуровневой защиты.

• Внедрение чат-ботов приводит к неожиданным инцидентам, например, чат-бот логистической компании начал ругаться на саму компанию после запроса пользователя, что вызвало негатив в соцсетях (02:00)
• Информационная безопасность чат-ботов осложняется утечками конфиденциальных данных при неправильной работе с базами знаний (04:47)
• Пример атаки через голосовые ассистенты демонстрирует, как промпт-инъекции могут привести к опасным действиям — открытию окон или отправке писем сотрудникам без явного согласия (07:38)
• Многоуровневая защита и мониторинг — ключ к снижению рисков при эксплуатации агентных систем (12:11)
• Техническое решение guardrail-систем работает как Firewall, проверяя запросы и ответы с задержкой от 50 до 1000 мс (18:04)

2. Оптимизация B2B-продаж с помощью ИИ

Оптимайзер повышает эффективность продаж через приоритизацию сделок и управление задачами менеджеров на основе анализа коммуникаций.

• Основная задача проекта Optimizer — увеличить эффективность отдела продаж, разделяя процесс на три ключевые этапа: работа с базой, конверсия сделок и поддержание долгосрочных отношений с клиентами (24:15)
• Оптимайзер приоритизирует сделки по вероятности получения заявки, снижая случайные действия менеджера и увеличивая конверсию (30:16)
• Оптимайзер формирует для менеджера подробные задачи с опорными вопросами и мотивационными акцентами, автоматически отслеживая их исполнение (33:25)
• Оптимайзер интегрируется с основными CRM-системами: Bitrix, Ama, Pipedrive, Salesforce и поддерживает несколько воронок продаж (43:15)

3. Внедрение мультиагентных систем в Enterprise

Ключевые уроки внедрения ИИ в крупные компании показывают важность качества и тесного сотрудничества бизнеса с IT.

• Успешное внедрение ИИ требует качества не менее 95%, что пока является серьезным барьером для автоматизации бизнес-процессов (46:29)
• Кейс крупной страховой компании демонстрирует, как мультиагентная система обрабатывает сложные и неструктурированные данные, сокращая время операторов и повышая качество обслуживания (51:33)
• Техническая архитектура состоит из пяти агентов для сбора контекста, агентов-исполнителей и модуля контроля качества с обратной связью в реальном времени (54:07)
• Ключевые бизнес-инсайты: датасеты — основа качества мультиагентов, а хранение метаинформации о причинах решений критично для обучения и развития систем (57:41)
• Внедрение ИИ в Enterprise требует экспериментальной фазы с быстрыми прототипами и тесным взаимодействием IT и бизнеса для построения рабочих дорожных карт процессов (01:01:27)