GPU를 반으로 쪼갠다 — AMD·세레브라스가 손잡고 노리는 '와트당 5배' AI 추론
AI 뉴스 AI SVIL AMD Cerebras 반도체 AI추론

GPU를 반으로 쪼갠다 — AMD·세레브라스가 손잡고 노리는 '와트당 5배' AI 추론

SVIL - Singularity Visual Intelligence Lab 12 min read

GPU 한 장이 반으로 쪼개지고 있어요

이상한 제목처럼 들리시죠? 그런데 2026년 반도체 업계에서 진짜로 벌어지고 있는 일이에요. 7월 28일, AMD와 세레브라스(Cerebras)라는 두 회사가 손을 잡고 "AI 추론을 지금보다 와트당 최대 5배 더 빠르게" 만들겠다고 발표했어요. 비결은 하나의 칩에 모든 걸 시키는 대신, 일을 성격별로 둘로 쪼개서 각각 다른 칩에 맡기는 거예요. 오늘은 이 '칩을 반으로 나누는' 이야기를 쉽게 풀어볼게요.

무슨 발표가 있었던 걸까요

AMD와 세레브라스는 AMD의 'Helios(헬리오스)' 랙스케일 시스템과 세레브라스의 '웨이퍼-스케일 엔진(WSE)'을 결합한 분리형(disaggregated) AI 추론 시스템을 함께 만들기로 했어요. 쉽게 말해 서로 잘하는 걸 하나씩 맡아서 이어 붙이는 협업이에요. 첫 서비스는 2026년 하반기 세레브라스 클라우드를 통해 제공될 예정이고요.

그런데 'AI 추론'이 뭐예요?

AI는 크게 두 가지 국면이 있어요. 하나는 '학습(training)'으로, 모델을 똑똑하게 키우는 과정이에요. 다른 하나가 오늘의 주인공 '추론(inference)'인데, 다 자란 모델이 실제로 여러분 질문에 답을 만들어내는 순간이에요. 챗봇에 질문을 넣고 답이 또르르 나오는 그 과정이 전부 추론이에요. 사용자가 많아질수록 추론 비용이 회사의 진짜 부담이 돼요.

하나의 칩이 두 개로 쪼개지는 개념 이미지
하나의 칩에 다 맡기지 말고, 성격별로 둘로 쪼갠다

추론에도 '두 얼굴'이 있어요

추론은 다시 두 단계로 나뉘어요. 첫째는 프리필(prefill). 여러분이 입력한 질문과 긴 맥락을 한꺼번에 읽어들이고 내부적으로 소화하는 단계예요. 둘째는 디코드(decode). 답변을 한 글자(토큰)씩 만들어내는 단계고요. 비유하자면 프리필은 '문제를 다 읽고 이해하는 시간', 디코드는 '답안을 한 자 한 자 써 내려가는 시간'이에요.

왜 한 칩에 다 시키면 손해일까요

여기가 핵심이에요. 프리필은 계산량이 많은(compute-bound) 일이고, 디코드는 메모리 대역폭이 중요한(memory-bandwidth-bound) 일이에요. 성격이 완전히 달라요. 한 칩에 둘 다 시키면, 그 칩은 어느 쪽에도 완벽하게 최적화될 수 없어요. 마치 단거리 스프린터와 마라토너에게 똑같은 신발을 신기는 것과 같아요. 둘 다 어중간해지죠. 두 일을 섞어 돌리면 처리량(throughput)에 구조적인 천장이 생겨버려요.

그래서 '분리(disaggregation)'가 나왔어요

분리형 추론은 프리필과 디코드를 서로 다른 전용 하드웨어에서 따로 돌리는 구조예요. 각 단계를 독립적으로 확장할 수 있으니 하드웨어 활용률이 올라가고, 지연은 줄고, 같은 인프라로 더 많은 일을 처리할 수 있어요. 이미 딥시크(DeepSeek)와 제미나이(Gemini) 같은 곳이 실제 서비스 규모로 쓰고 있을 만큼 업계 표준으로 자리잡는 중이에요.

세레브라스의 '웨이퍼-스케일 엔진'이란

보통 반도체는 커다란 실리콘 원판(웨이퍼)을 잘게 잘라서 수백 개 칩으로 만들어요. 세레브라스는 발상을 뒤집어서, 웨이퍼 하나를 통째로 칩 한 장으로 만들어요. 손바닥보다 큰 단일 칩이에요. 이렇게 하면 칩 내부에 어마어마한 SRAM(초고속 메모리)을 담을 수 있어서, 메모리 대역폭이 생명인 디코드 단계에서 거의 실시간으로 토큰을 뽑아낼 수 있어요.

웨이퍼 하나를 통째로 칩으로 만든 개념 이미지
웨이퍼 한 장을 통째로 만든 세레브라스의 초대형 단일 칩

AMD Helios가 맡는 몫

반대로 AMD의 Helios 랙스케일 시스템(에픽 EPYC 프로세서 기반)은 계산이 무거운 프리필 단계를 담당해요. 사용자 입력을 받아들이고, 커다란 맥락 창을 처리하고, 내부 표현을 만들어내는 '무거운 사고' 파트를 고성능·고확장 처리량으로 소화하는 거예요. 힘세고 든든한 일꾼 역할이죠.

둘을 어떻게 이어 붙였나

정리하면 이렇게 흘러가요. 무겁고 계산 집약적인 프리필은 AMD Helios가 처리하고, 그 결과를 넘겨받아 메모리 대역폭이 관건인 토큰 생성(디코드)은 세레브라스 WSE가 초저지연으로 뽑아내요. 한 칩이 억지로 다 하던 걸, 각자 잘하는 두 칩이 릴레이하듯 나눠 맡는 구조예요.

'와트당 5배'가 진짜 뜻하는 것

두 엔진을 합치면 와트당 초당 토큰 수(T/s/W)가 최대 5배까지 올라간다고 해요. 여기서 '와트당'이 중요해요. 그냥 빠른 게 아니라, 같은 전기를 쓰고도 5배 더 많이 뽑는다는 뜻이거든요. 데이터센터 운영비의 큰 덩어리가 전기요금이라, 전력 효율은 곧 돈이에요. 성능 5배보다 '효율 5배'가 업계엔 더 짜릿한 숫자예요.

같은 전력으로 5배 더 많은 토큰을 뽑는 효율 개념
같은 전기를 쓰고도 최대 5배 많은 토큰을 뽑는다

왜 하필 지금 이게 중요해졌나

2026년 들어 '추론(reasoning) 모델'과 '에이전트'가 쏟아지면서 상황이 바뀌었어요. 이런 모델은 답을 내기 전에 스스로 길게 생각을 풀어놓아요. 예전 챗봇이 답변에 500토큰을 쓸 때, 요즘 추론 모델은 한 요청에 1만 토큰 넘게 뽑기도 해요. 무려 10~50배예요. 디코드 부담이 폭발했다는 뜻이고, 그래서 디코드에 특화된 하드웨어가 갑자기 귀해진 거예요.

엔비디아 독주에 던지는 작은 돌

AI 칩 하면 사실상 엔비디아 한 곳이 지배해왔죠. 이번 협업은 "엔비디아 GPU 한 장에 다 맡기지 말고, 단계별로 최적 칩을 조합하자"는 대안적 그림이에요. AMD와 세레브라스가 각자의 약점을 서로의 강점으로 메우며 연합 전선을 짠 셈이에요. 판을 단숨에 뒤집진 못해도, 균열을 내는 시도로는 의미가 커요.

실제 사례 ① — TSMC 실적이 말해주는 것

이 모든 흐름의 배경엔 폭발하는 AI 수요가 있어요. 세계 최대 파운드리 TSMC는 2026년 2분기 매출이 전년 대비 36% 뛰고 순이익은 77% 급증하며 분기 최대 실적(약 396억 달러)을 기록했어요. 엔비디아와 애플의 주력 칩을 만드는 회사의 이 숫자는, AI 컴퓨팅 수요가 식지 않았다는 가장 확실한 증거예요. 추론 효율 경쟁이 왜 뜨거운지 알 수 있죠.

폭발하는 AI 칩 수요를 보여주는 반도체 공장
식지 않는 AI 컴퓨팅 수요가 이 경쟁의 배경이다

실제 사례 ② — 이미 쓰고 있는 딥시크와 제미나이

분리형 추론은 이론이 아니라 현실이에요. 프리필-디코드 분리(PD disaggregation)는 이미 주요 서빙 프레임워크가 모두 지원하고, 딥시크와 제미나이 같은 서비스가 실제 프로덕션 규모로 운영하고 있어요. AMD·세레브라스의 이번 발표는 이 흐름을 '전용 하드웨어 조합'으로 한 단계 더 밀어붙인 거라고 보면 돼요.

배포 일정과 냉정한 현실

다만 김칫국은 조금 참을게요. 이 결합 시스템은 2026년 하반기에 세레브라스 클라우드를 통해 먼저 제공돼요. 즉, 당장 아무 데이터센터에나 꽂아 쓰는 물건은 아니고, 클라우드 형태로 검증부터 시작하는 단계예요. 실제 성능 5배가 다양한 워크로드에서 재현되는지는 지켜봐야 할 부분이고요.

진짜 병목은 결국 '전기'예요

AI 데이터센터의 최대 제약은 이제 칩이 아니라 전력이라는 말이 나와요. 아무리 칩을 많이 사도 꽂을 전기가 없으면 못 돌리거든요. 그래서 '와트당 효율'을 5배로 끌어올린다는 접근은 단순 스펙 자랑이 아니라, 전력이라는 근본 한계를 우회하는 전략적 방향이에요. 같은 발전소로 5배 더 많은 답을 만들 수 있다면, 그건 게임 체인저예요.

투자자들은 어떻게 봤을까요

시장 반응도 흥미로웠어요. 세레브라스 관련 주식이 한 달 최고가를 찍는 등 협업 소식에 반응했고요. 다만 같은 시기 TSMC는 호실적에도 예상보다 큰 설비투자 계획에 주가가 3% 넘게 빠지고 엔비디아도 2.2% 하락하는 등, AI 반도체 섹터의 변동성도 함께 드러났어요. 기대와 불안이 공존하는 국면이에요.

한국 반도체엔 어떤 의미일까요

디코드 단계가 '메모리 대역폭 싸움'이라는 건 우리에게 특히 중요해요. 고대역폭 메모리(HBM)의 핵심 공급자가 삼성전자와 SK하이닉스거든요. 추론 시대가 '더 빠른 메모리'를 요구할수록, HBM 수요는 더 뜨거워질 가능성이 커요. 세레브라스 같은 접근이 SRAM으로 일부를 대체하려 하지만, 전체 시장에서 HBM의 자리는 여전히 크고요. 칩 설계 경쟁이 결국 우리 메모리 산업의 기회로 이어질 수 있다는 이야기예요.

두 칩이 배턴을 주고받는 릴레이 개념
각자 잘하는 두 칩이 릴레이하듯 나눠 맡는 구조

핵심 정리

오늘 이야기를 묶어볼게요. 2026년 7월 28일, AMD와 세레브라스가 AI 추론을 와트당 최대 5배 빠르게 하는 분리형 시스템을 함께 내놓기로 했어요. 비결은 추론을 프리필(계산 집약)과 디코드(메모리 집약)로 쪼개, 각각 AMD Helios와 세레브라스 웨이퍼-스케일 엔진에 맡기는 거예요. 추론 모델이 토큰을 폭발적으로 뽑아내는 시대라 이 효율 경쟁은 더없이 시의적절하고요. TSMC의 폭발적 실적, 딥시크·제미나이의 실사용이 이 흐름을 뒷받침해요. 진짜 병목이 '전기'로 옮겨간 지금, '와트당 5배'는 스펙이 아니라 생존 전략이에요. 그리고 그 끝엔 우리 HBM 산업의 기회도 놓여 있어요.

여러분은 어떻게 보세요? 엔비디아 독주 구도에 AMD·세레브라스 연합이 균열을 낼 수 있을까요, 아니면 찻잔 속 태풍일까요? 반도체 이야기 좋아하시는 분들, 댓글에서 같이 떠들어봐요. 🙂

출처

  • AMD and Cerebras Announce AI Inference Solution — AMD Newsroom: https://newsroom.amd.com/news/aai-2026-cerebras-inference/
  • AMD and Cerebras Launch AI Inference Solution — Cerebras: https://www.cerebras.ai/press-release/amd-and-cerebras-announce-industry-leading-ultra-low-latency-and-high-throughput-ai-inference
  • AMD, Cerebras partner on Helios rack-scale platform — SDxCentral: https://www.sdxcentral.com/news/amd-cerebras-partner-on-joint-helios-rack-scale-ai-inference-platform/
  • AMD and Cerebras pair Helios with WSE — Tom's Hardware: https://www.tomshardware.com/tech-industry/artificial-intelligence/amd-and-cerebras-partner-on-low-latency-high-throughput-ai-inference-epyc-processors-in-helios-rack-scale-infrastructure-paired-with-cerebras-wafer-scale-engine-wse-solutions
  • The GPU Is Being Split in Half — Cerebras: https://www.cerebras.ai/blog/disaggregated-inference
  • TSMC Sales Soar 36% — Bloomberg: https://www.bloomberg.com/news/articles/2026-07-13/tsmc-sales-surge-36-in-fresh-sign-of-ai-spending-momentum