POPA ReconПамять выходит из тени GPU
Память выходит из тени GPU "Память - циклическая штука, все это знают, а недавний рост акций производителей памяти - очевидный пузырь." Это удобный, рефлекторный взгляд. Но те, кто его придерживается, упускают элементарный масштаб того, что ИИ делает со спросом на память. Первый намёк появился в январе этого года - стало известно, что новая платформа NVDA Rubin потребует 16 TB NAND на каждый GPU, или 1152 TB на стойку, а необходимая пропускная способность HBM окажется на 70% выше, чем сообщалось ранее. Тогда сторонним наблюдателям впервые стало очевидно: память придётся масштабировать эксп…
The excerpt is quoted from a public Telegram channel, which owns its text.