GPT-5.6 Sol разогнали в 14 раз: OpenAI показала режим Ultrafast

OpenAI представила Ultrafast — ускоренный режим для своей флагманской модели GPT-5.6 Sol. По данным компании, он генерирует текст в 14 раз быстрее стандартного режима и выдает до 750 токенов в секунду.

Токены — это небольшие части текста, из которых модель собирает ответ. Чем быстрее они появляются, тем меньше пользователь ждет завершения задачи.

Раньше для работы в реальном времени компаниям часто приходилось выбирать компактные или узкоспециализированные модели. Они отвечают быстрее, но обычно уступают крупным системам на сложных задачах. Ultrafast должен совместить скорость с возможностями GPT-5.6 Sol.

OpenAI называет несколько сценариев для нового режима: реакция на технические сбои, поддержка клиентов, анализ финансовых рынков и работа интернет-магазинов. Медленный ответ может означать потерянного покупателя, запоздалое решение или более долгий простой сервиса.

Ultrafast работает на инфраструктуре производителя ИИ-чипов Cerebras, с которым сотрудничает OpenAI.

Похожий подход уже использует Anthropic: у Claude есть быстрый режим. Однако заявленная OpenAI скорость заметно выше.

Новый режим вышел в предварительной версии и доступен только небольшой группе клиентов. OpenAI обещает расширять доступ по мере появления дополнительных вычислительных мощностей.