Moonshot AI выложила в открытый доступ модель на 3 триллиона параметров

Компания Moonshot AI выложила на HuggingFace веса Kimi K3 — по её собственному заявлению, первую в мире открытую модель класса 3 триллионов параметров.

Moonshot AI — китайская лаборатория, стоящая за чат-ботом Kimi и уже знакомая рынку по семейству K2: K2.5, K2.6 и K2.7-Code. K3 — следующий шаг: не косметическое обновление, а новая архитектура.

В её основе — Kimi Delta Attention и Attention Residuals, механизмы, которые должны удешевить работу с очень длинным контекстом. Разработчики целятся в задачи, где контекст измеряется не страницами, а целыми репозиториями кода: модель заявлена как способная удерживать в памяти масштаб полноценного проекта, а не отдельного файла.

Вторая заявленная особенность — агентность «из коробки». K3 умеет вызывать внешние инструменты, работать с браузером и планировать многошаговые действия без дополнительной надстройки поверх модели. Это ставит её в один ряд с моделями, которые компании продают именно как основу для автономных агентов, а не просто для чата.

Релиз ждали: на странице модели ещё до публикации весов накопилось почти три тысячи подписок на уведомление о выходе. Публикация на HuggingFace в открытом доступе — сама по себе заявление: пока крупнейшие лаборатории держат топовые модели закрытыми, Moonshot AI выкладывает модель такого масштаба с открытыми весами.

Обсуждение релиза на Hacker News набрало почти 500 голосов и больше 200 комментариев за первые часы — для анонса модели это высокий показатель интереса сообщества.