Writer пытается сократить счета за ИИ вдвое — за счёт модели и «обвязки»

Компания Writer представила флагманскую модель Palmyra X6 и обновила систему запуска ИИ-агентов. Клиентам обещают снижение расходов на простые задачи до 50%. Обе разработки уже доступны заказчикам компании.

Palmyra X6 создана на основе открытой модели GLM-5.2 от Z.ai и дополнительно обучена для корпоративного использования. Она рассчитана прежде всего на сложные задачи из нескольких шагов, которые требуют долгих цепочек действий.

Но экономия связана не только с самой моделью. Writer переработала так называемый агентный harness — программную «обвязку», которая передаёт модели инструкции, подключает инструменты и управляет каждым этапом работы. От неё зависит, сколько лишних запросов и токенов потратит агент до получения результата.

Исследователи Writer протестировали небольшие изменения такой обвязки на нескольких моделях. По данным компании, оптимизация в среднем снизила расходы на 40%. В ряде случаев она давала более стабильную экономию, чем простая замена одной модели на другую.

Для клиентов платформа останется независимой от конкретного поставщика. Palmyra X6 можно будет использовать вместе с другими моделями Writer, а также с внешними системами, подключёнными через Azure или Amazon Bedrock.

Мэй Хабиб, глава Writer, считает, что корпоративным заказчикам надоела гонка за результатами тестов. Теперь их больше интересует предсказуемая стоимость реальной эксплуатации. По её словам, рост расходов уже заставляет руководителей ИТ-направлений меньше доверять крупным лабораториям, которые зарабатывают на использовании токенов.

Подход Writer показывает сдвиг на корпоративном рынке ИИ. Стоимость зависит не только от цены модели за токен, но и от того, насколько экономно построен весь путь от запроса до готового результата.