POPA Reconдобавил выбор режима в llmass: cheap / fast / ultrafast
добавил выбор режима в llmass: cheap / fast / ultrafast cheap — привычный выбор по цене. fast и ultrafast открываются после отдельных проверок. сейчас быстрые режимы набирают замеры: пока стоит «тестируется» выбрать их нельзя режимы видны на сайте и в боте. у каждого готового режима своя цена и замеры первого ответа. для OpenAI Chat Completions можно указать model@fast. ключ и адрес api прежние https://llmass.arbitron.dev/?src=channel_speed_modes
The excerpt is quoted from a public Telegram channel, which owns its text.
Read the original post on Telegram