POPA Recon티보 소티오 × 매튜 버먼: AI 에이전트와 오픈AI의 미래
티보 소티오 × 매튜 버먼: AI 에이전트와 오픈AI의 미래 ■ AI 에이전트의 병목은 모델 성능에서 시스템 전체로 이동 “Ultra Fast처럼 토큰 생성 속도가 10~14배 빨라지면 CPU, 툴콜, 네트워크 등 다른 부분이 병목이 된다.” → 모델 추론 속도가 충분히 빨라질수록 실제 에이전트 작업시간을 결정하는 요소는 토큰 생성 자체가 아니라 툴 호출, 네트워크, CPU, 애플리케이션 실행 등으로 이동 → 실제로 코드 생성처럼 툴콜이 적은 작업은 Ultra Fast에서 약 10배 빨라질 수 있지만, 툴콜이 많은 에이전트 작업은 체감 개선폭이 3~4배에 그친다고 설명 → 향후 AI 인프라 경쟁은 단순 GPU 및 tok/s 경쟁을 넘어 추론, CPU, 네트워크, 툴 실행, 오케스트레이션까지 포함한 전체 에이전트 스택 최적화로 확장될 가능성 ■ 미래 에이전트는 노트북이 아닌 클라우드 컴퓨팅 환경에서 작동 “노트북은 인간이 처리할 수 있는 작업량에 맞춰 설계됐다. 모델은 같은 제약을 받지 않는다. 미래 모델은 노트북 이상의 자원에 접근해야 한다.” → 현재 컴퓨터는 인간의 입력 속도와 멀티태스킹 능력을 기준으로 설계됐지만, AI는 동시에 수십~수백…
The excerpt is quoted from a public Telegram channel, which owns its text.