Zhipu AI выпустила GLM-5.1-highspeed — специальную версию своего флагмана, оптимизированную под экстремальную пропускную способность. Главная цифра релиза — 400 токенов в секунду (TPS). Для сравнения: это вдвое быстрее, чем показатели Gemini 3.5 Flash в аналогичных сценариях.
Такой скачок стал возможен благодаря движку TileRT. Разработчики внедрили микропланирование задач на уровне тайлов и передачу данных на уровне регистров, минуя медленную запись в глобальную память (Global Memory). Это не просто пиковый показатель, а стабильная скорость для продакшн-нагрузок.
Технические характеристики
- Скорость: 400 токенов/сек (стабильно).
- Контекстное окно: 200 000 токенов.
- Максимальный выход (Output): до 128 000 токенов — идеально для генерации огромных кусков кода.
- Интеграции: Полная поддержка MCP (Model Context Protocol), что делает модель отличным кандидатом для «прокачки» Cursor или кастомных AI-агентов.
- Совместимость: OpenAI-совместимый API через платформу BigModel или DashScope (Alibaba Cloud).
Что это значит для вайбкодеров
Когда мы строим сложные агентские циклы (agentic loops), где один агент вызывает другого, задержка (latency) становится критическим фактором. При 400 TPS ответ на 1000 токенов приходит за ~2.5 секунды. В привычных флагманах это занимает 5–7 секунд.
Для тех, кто использует MCP-инструменты и сложные пайплайны генерации кода, GLM-5.1-highspeed превращает ожидание «пока допишет» в мгновенный результат. Модель также поддерживает режим глубокого рассуждения (thinking mode) на той же высокой скорости, что позволяет использовать её в задачах, требующих сложной логики, не жертвуя временем отклика.
Сейчас модель доступна на платформе bigmodel.cn и через DashScope. Если у вас уже есть ключи для Qwen на Alibaba Cloud, вы можете достучаться до GLM-5.1 через тот же эндпоинт.