Token limit
Также: Лимит токенов
Максимальный объем текста, который ИИ-модель может обработать за один раз, включая ваш запрос и свой ответ.
Лимит токенов — это «объем оперативной памяти» у ИИ в рамках одного диалога. Токен — это не всегда целое слово, а скорее кусочек текста, который модель считывает как единицу информации.
Представьте, что вы пишете письмо на листе бумаги ограниченного размера. Как только место заканчивается, вы не можете дописать мысль, а если начнете писать новое, придется стереть самое начало. Лимит токенов работает так же: если ваш проект или переписка становятся слишком длинными, модель «забывает» то, что было в самом начале, чтобы освободить место для новых данных.
Зачем это нужно
Для вайбкодера это критически важно, чтобы понимать, почему ИИ вдруг теряет нить разговора или перестает видеть ваш код. Знание лимитов помогает правильно разбивать задачи на части и не перегружать контекст лишней информацией, сохраняя фокус модели на главном.