GPU를 반으로 쪼갠다 — AMD·세레브라스가 손잡고 노리는 '와트당 5배' AI 추론
7월 28일 AMD와 세레브라스가 발표한 분리형 AI 추론 시스템. 추론을 프리필과 디코드로 쪼개 각각 최적 칩에 맡겨 와트당 최대 5배 효율을 노리는 전략을, 비유로 쉽게 풀었어요.
7월 28일 AMD와 세레브라스가 발표한 분리형 AI 추론 시스템. 추론을 프리필과 디코드로 쪼개 각각 최적 칩에 맡겨 와트당 최대 5배 효율을 노리는 전략을, 비유로 쉽게 풀었어요.