Microsoft научит Windows выбирать между локальным и облачным ИИ

Microsoft предложила объединить локальный и облачный ИИ в Windows. Одновременно компания описала концепцию Hybrid Intelligence для Windows: компьютер будет выбирать, где выполнять каждый ИИ-запрос — локально или в облаке.

Локальные модели обычно уступают крупным облачным системам в мощности. Зато им не нужно отправлять пользовательские данные на внешний сервер. Это особенно важно при работе с документами, перепиской и другой конфиденциальной информацией.

Microsoft хочет объединить оба подхода. Для этого Windows нужны производительная локальная модель, среда для её быстрого запуска и система маршрутизации запросов. Система будет при необходимости выбирать между локальной и облачной моделью.

Такой подход компания называет гибридным интеллектом. Он должен расширить возможности Copilot в Windows: помощник сможет учитывать контекст с компьютера и выполнять действия от имени пользователя. По заявлению Microsoft, доступ к локальным данным будет предоставляться только с разрешения владельца устройства.

Гибридная схема также позволяет экономнее расходовать облачные ресурсы и лимиты запросов. Если с задачей справляется модель на компьютере, обращаться к серверу не требуется. При этом облачный ИИ остаётся доступен там, где возможностей устройства недостаточно.

Локальные модели становятся частью гибридной системы Microsoft. Windows будет при необходимости выбирать между локальным и облачным ИИ.