Китайский AI-гигант Zhipu (Z.ai) представил GLM-5.1-highspeed — специальную версию своей флагманской модели, оптимизированную для экстремально низкой задержки. Модель выдает невероятные 400 токенов в секунду, что на данный момент является мировым рекордом для API-доступа среди моделей такого класса.

Что изменилось под капотом

Обычно высокая скорость — это удел «легких» моделей (вроде GPT-4o-mini или Claude Haiku). Zhipu заявляет, что им удалось сохранить возможности полноценного флагмана GLM-5.1, внедрив системные оптимизации совместно с командой TileRT:

• Отказ от динамического планирования: На уровне рантайма используется статическая оркестрация, что снижает задержки «хвоста» (tail latency).
• Повышение пропускной способности: Оптимизация архитектуры позволила выжать максимум из видеокарт, увеличив single-card throughput.

Почему это важно для вайбкодеров

Для тех, кто использует AI-агентов (Cursor, Windsurf) или строит сложные цепочки вызовов, скорость — это не просто комфорт, а критический фактор.

1. Мгновенный кодинг: При генерации больших блоков кода задержка в 400 токенов/сек делает взаимодействие практически бесшовным.
2. Real-time агенты: Модель идеально подходит для сценариев, где AI должен принимать решения мгновенно (например, в визуальном программировании с использованием их же новой модели GLM-5V-Turbo).

Доступность и контекст

На данный момент API highspeed-версии доступно корпоративным клиентам на платформе Zhipu MaaS. Релиз состоялся на фоне недавнего открытия исходного кода базовой GLM-5.1 и повышения цен на 10% (теперь стоимость сопоставима с продуктами Anthropic).

Несмотря на рост выручки на 131.9% за 2025 год, Zhipu продолжает агрессивно инвестировать в R&D, зафиксировав чистый убыток в 4.72 млрд юаней. Это подтверждает, что гонка за скоростью и качеством в AI-секторе требует колоссальных ресурсов.