POPA Recon한 대의 Waymo 차량은 스스로 운전하기 위해 4개의 H100 GPU를 사용합니다. 이는 한 대의 차량에 약 20만 달러 상당의 컴퓨팅 파워가 들어간다는 의미입니다.
한 대의 Waymo 차량은 스스로 운전하기 위해 4개의 H100 GPU를 사용합니다. 이는 한 대의 차량에 약 20만 달러 상당의 컴퓨팅 파워가 들어간다는 의미입니다. 현재 Mercedes 팩에 사용되는 Nvidia Orin 자율주행 모듈과 Tesla FSD는 64GB의 LPDDR5X RAM을 사용합니다. 대부분의 사람들은 더 나은 기술이 시간이 지나면서 메모리 사용량을 줄일 것이라고 생각합니다. 하지만 정확히 그 반대가 일어나고 있습니다. Tesla의 다가오는 AI5 칩은 96GB로 급증할 것이고, AI6 칩은 바로 144GB로 직행할 예정입니다. 심지어 스마트 냉장고와 스마트 TV도 이제 RAM이 필요합니다. 곧, 우리 주변의 모든 물리적 물건에 메모리가 내장될 것입니다. 로보틱스가 본격화되면, 그 메모리 수치들은 훨씬 더 커질 것입니다. 하드웨어 병목 현상을 피할 방법은 없습니다: AI 로봇이 클라우드에서 실행된다면, 메모리로 가득 찬 대규모 데이터 센터가 필요합니다. AI 로봇이 온디바이스에서 실행된다면, 기계에 직접 엄청난 양의 RAM을 탑재해야 합니다. 어느 쪽이든, 세상은 미친 듯한 양의 메모리가 필요하게 될 것입니다. 이것은 쉽게…
The excerpt is quoted from a public Telegram channel, which owns its text.