오픈AI가 초당 750토큰을 뽑기 시작했습니다 — 세레브라스가 만든 GPT-5.6 솔 '울트라패스트' 모드
오픈AI가 GPT-5.6 솔을 최대 14배 빠르게 돌리는 '울트라패스트' 모드를 프리뷰 공개했습니다. 초당 750토큰을 만든 건 GPU가 아니라 접시만 한 칩 한 장, 세레브라스의 웨이퍼 스케일 엔진이었어요.
오픈AI가 GPT-5.6 솔을 최대 14배 빠르게 돌리는 '울트라패스트' 모드를 프리뷰 공개했습니다. 초당 750토큰을 만든 건 GPU가 아니라 접시만 한 칩 한 장, 세레브라스의 웨이퍼 스케일 엔진이었어요.
7월 28일 AMD와 세레브라스가 발표한 분리형 AI 추론 시스템. 추론을 프리필과 디코드로 쪼개 각각 최적 칩에 맡겨 와트당 최대 5배 효율을 노리는 전략을, 비유로 쉽게 풀었어요.