🎯 О чём этот конспект: Подробный разбор и тестирование новой открытой модели GLM 4.7 (300B параметров) от Zhipu AI. В видео сравниваются режимы с включенным и выключенным «мышлением» (Reasoning), тестируются возможности написания сложного кода (клонирование Photoshop), работа с регулярными выражениями и использование внешних инструментов (Tool Calling).

👤 Кому будет полезно: Вайбкодерам, разработчикам на базе AI-агентов и энтузиастам локальных LLM, которые ищут мощную альтернативу Claude 3.5 Sonnet и DeepSeek.

✨ Что получите: Понимание того, когда стоит использовать GLM 4.7, как эффективно настраивать промпты для обхода языковых барьеров и как модель справляется с созданием комплексных веб-приложений «с нуля».

1. Настройка и преодоление языкового барьера

Контекст: GLM 4.7 — китайская модель, которая по умолчанию часто отвечает на китайском языке, даже если запрос на английском. Однако её внутреннее «мышление» (Chain of Thought) происходит на английском. Для комфортной работы вайбкодеру необходимо принудительно задать системные инструкции или использовать специфические настройки токенов, чтобы получать ответы на нужном языке без потери качества рассуждений.

Выгода: Экономия времени на переводе и получение прямого доступа к одной из лучших моделей в мире (топ-1 в тестах «Humanity's Last Exam»).

Как применить:

• Шаг 1: Принудительный выбор языка — В системном промпте или в конце запроса всегда добавляйте инструкцию отвечать на конкретном языке.
• Шаг 2: Игнорирование токенов (Advanced) — Если вы используете локальные интерфейсы (например, Inference), можно настроить негативные токены, чтобы модель физически не могла использовать китайские иероглифы.

Prompt: "Explain how to use React Hooks. Respond strictly in English."

Результат: Модель переключается на чистый английский (или русский) язык, сохраняя высокую скорость генерации (около 19-20 токенов/сек на мощном железе).

2. Режим «Thinking» (Reasoning) vs Обычный режим

Контекст: GLM 4.7 поддерживает глубокое рассуждение (по аналогии с OpenAI o1 или DeepSeek-R1). В тестах на сложные регулярные выражения (RegEx для парсинга имен файлов квантования GGUF) модель в режиме мышления тратит до 6000 токенов на обдумывание, но находит верное решение там, где обычные модели ошибаются. Однако режим мышления может быть избыточным для простых задач.

Выгода: Точное решение сложнейших логических и архитектурных задач, которые «не по зубам» стандартным LLM.

Как применить:

• Вариант А: Сложный кодинг — Включите Thinking Mode для задач, связанных с архитектурой, сложной математикой или отладкой запутанного кода. Будьте готовы к долгому ожиданию (до 480 секунд на генерацию).
• Вариант Б: Two-Shot Prompting — Если не хотите ждать, используйте 2 примера (Two-Shot) с выключенным мышлением. Это часто дает тот же результат, но за 1000 токенов вместо 6000.

Результат: Правильно составленный RegEx, учитывающий регистр и специфические символы (например, замена [KM0] на \w для поддержки всех типов квантования).

3. Создание сложных UI-приложений: Клон Photoshop на JS

Контекст: Модель тестировалась на создание полноценного веб-приложения — клона Photoshop с поддержкой слоев, инструментов рисования и фильтров. GLM 4.7 способна генерировать более 10 000 токенов кода за один проход, создавая рабочую структуру с меню, холстом и функционалом манипуляции слоями.

Выгода: Возможность быстрого прототипирования сложных инструментов без ручного написания бойлерплейта.

Как применить:

• Шаг 1: Запрос на генерацию — Используйте подробный промпт для создания структуры.

Create a full-featured Photoshop clone using HTML, CSS, and vanilla JavaScript. 
Include: 
1. Layer management (add, delete, hide layers).
2. Drawing tools (brush, shapes, text).
3. Image filters (Sepia, Invert, Blur).
4. A professional UI with toolbars and menus.

• Шаг 2: Использование Batching — Если ваше железо позволяет, запускайте генерацию двух вариантов (с мышлением и без) одновременно для сравнения результатов.

Результат: Готовый HTML-файл с работающим функционалом: переключение слоев, выбор цветов, применение фильтров и инструменты рисования. Версия с «Thinking» обычно добавляет более продуманные меню и дополнительные фильтры.

4. Продвинутый Tool Calling (Вызов инструментов)

Контекст: GLM 4.7 показывает выдающиеся результаты в работе с внешними инструментами. В тестах она обходит GPT-4o и Claude в сценариях, где нужно не просто вызвать функцию, а проанализировать результат и сделать повторный вызов с уточненными параметрами (например, пагинация при чтении Wikipedia).

Выгода: Создание автономных агентов, которые могут эффективно искать информацию в сети и работать с API.

Как применить:

• Шаг 1: Настройка функции поиска — Подключите инструмент для получения содержимого веб-страниц (например, через fetch или специализированный API).
• Шаг 2: Сложный запрос — Попросите модель найти специфическую информацию, которая требует глубокого скроллинга или перехода по страницам.

Пример логики модели:

1. Вызов get_web_page(url, start=0, length=8000).
2. Анализ текста. Если ответ не найден:
3. Автоматический повторный вызов get_web_page(url, start=8000, length=8000).

Результат: Модель успешно находит данные (например, продолжительность жизни рабочих муравьев), даже если они находятся глубоко в тексте статьи.

FAQ

В: Насколько GLM 4.7 требовательна к ресурсам? О: Это модель на 300 миллиардов параметров. Для локального запуска в полном объеме требуются значительные мощности (видеопамять уровня H100/A100 или мощные Mac с объединенной памятью), однако квантованные версии могут работать на более доступном железе. В тестах использовалось около 270 ГБ памяти.

В: Можно ли использовать GLM 4.7 коммерчески? О: Да, модель распространяется под лицензией MIT, что является большой редкостью для моделей такого уровня и позволяет свободное коммерческое использование.

В: Стоит ли всегда держать режим Thinking включенным? О: Нет. Для простых задач (написать простой скрипт, ответить на вопрос) лучше его выключать — это сэкономит токены и время. Включайте его только для «неразрешимых» логических задач.

В: Как модель справляется с русским языком? О: Как и большинство SOTA-моделей, она хорошо понимает русский язык, но для гарантии ответа на русском стоит добавлять четкую инструкцию в системный промпт.

В: Чем GLM 4.7 лучше DeepSeek? О: Согласно бенчмаркам (Software Engineering, Tool Calling), GLM 4.7 превосходит DeepSeek в задачах программирования и использования инструментов, хотя DeepSeek может быть быстрее в некоторых узких сценариях.

Конспект создан на основе видео «GLM 4.7 - The New King of Coding?» канала Inference. Все права на оригинальный материал принадлежат авторам. Источник: https://www.youtube.com/watch?v=E-8KJpUFalM