Top-p
Также: Nucleus sampling
Top-p — это настройка ИИ, которая ограничивает выбор слов для ответа, оставляя только самые вероятные варианты в пределах заданного процента вероятности.
Top-p, или Nucleus sampling, определяет, из какого «пула» слов модель будет выбирать следующее слово. Если вы ставите Top-p на 0.9, модель рассматривает только те слова, суммарная вероятность которых составляет 90%. Остальные, менее вероятные варианты, она просто отбрасывает.
Представьте, что вы выбираете блюдо в ресторане. Если Top-p высокий, вам дают меню из 50 позиций, включая экзотические и редкие блюда. Если вы снижаете Top-p, официант убирает из меню все «странные» варианты и оставляет только самые популярные и предсказуемые позиции, чтобы вы точно не заказали что-то невкусное.
Зачем это нужно
Для вайбкодера понимание Top-p помогает точнее управлять креативностью ИИ. Если нужно, чтобы модель писала строгий код, значение Top-p лучше снизить, чтобы избежать случайных ошибок. Если же нужно написать творческий текст или придумать идею, его можно поднять для большей вариативности ответов.