POPA ReconВидите зеленую штучку 5 % справа?
Видите зеленую штучку 5 % справа? Это количество заполненного контекста. Кто работает в терминал, это супер удобная штука чтобы следить за ним. За количеством контекса и вовремя очищать его /clear или сжимать /compact Для чего это нужно? Когда контекст превышает 25 % . Модель начинает работать хуже. И чем выше заполняется контекстом тем тупее становится. Помните как раньше GPT начинал тупить когда работали с ним в одном окне очень долго. Оказывается он перегружался контекстом со временем. Из-за чего начинал плохо работать. Opus 4.8 может осилить до 1 милиона токенов. А джипити…
The excerpt is quoted from a public Telegram channel, which owns its text.