POPA Recon💰 Как вычисления превращаются в товар
💰 Как вычисления превращаются в товар У нейросети есть два режима работы. Сначала её обучают, и это долго и дорого. Потом она отвечает на запросы пользователей, что называют инференсом. Долгие годы обучение забирало основные ресурсы видеокарт, но теперь всё перевернулось, и львиную долю мощностей съедают повседневные ответы моделей. Вместе с этим появился и новый тип клиента. Это программа, которая сама решает, какую задачу отдать модели, и сама за неё расплачивается без чьего-либо участия. Такой клиент работает круглосуточно, поэтому спрос на вычисления растёт ещё быстрее. 🧮 Galaxy считают…
The excerpt is quoted from a public Telegram channel, which owns its text.