Logprobs
Также: Логарифмические вероятности
Logprobs — это числовой показатель уверенности ИИ-модели в каждом выбранном слове (токене) при генерации ответа.
Представьте, что вы спрашиваете у друга дорогу, а он не просто указывает направление, а добавляет: «Я уверен на 90%, что нужно повернуть направо, и на 5% — что налево». Logprobs (логарифмические вероятности) — это именно такой «индекс уверенности» для нейросети. Когда модель генерирует текст, она выбирает следующее слово из тысяч вариантов, и logprobs показывают, насколько сильно она «сомневалась» в своем выборе.
В техническом плане это логарифм вероятности того, что конкретный токен является правильным продолжением фразы. Если значение высокое, модель «уверена» в ответе. Если низкое — модель, скорее всего, начинает галлюцинировать или просто перебирает варианты, в которых сама не уверена.
Зачем это нужно
Для вайбкодера logprobs полезны тем, что позволяют отслеживать качество ответов модели в реальном времени. Если вы видите, что модель выдает слова с очень низкими показателями вероятности, это сигнал, что пора переписать промпт или изменить параметры генерации, чтобы избежать ошибок и некачественного кода.