POPA ReconSemiAnalysis / A Brain Too Big to Carry — On-Device vs Datacenter Inference
SemiAnalysis / A Brain Too Big to Carry — On-Device vs Datacenter Inference Передовые модели роботов остаются намного меньше передовых LLM. π0.7 — 5 миллиардов / GR-3 от ByteDance — 4 миллиарда / DreamZero от NVIDIA — 14 миллиардов LLM уже ушли в триллионы параметров. лаборатории робототехники выбирают размер по тому, что может поместиться в Jetson. Законы масштабирования LLM = законам масштабирования робототехники. Но есть две проблемы: 1) Данные - нет такого кол-ва накопленных данных интернета для реального мира 2) Сеть = большие модели для роботов могут работать через облако, но ес…
The excerpt is quoted from a public Telegram channel, which owns its text.