메타가 300억 파라미터 모델을 그래픽카드 한 장에 넣었습니다 — 뮤즈 글리머와 오픈 가중치 복귀
그래픽카드 한 장이면 됩니다. 300억 개 파라미터를 가진 모델이, 클라우드에 접속하지 않고 책상 위 PC 안에서 도구를 쓰고 코드를 고치고 이미지를 읽습니다. 메타가 2026년 8월 10일에 공개한 뮤즈 글리머(Muse Glimmer) 이야기입니다.
1. 24GB 카드 한 장에 300억 파라미터가 들어갔습니다
지금까지 "제대로 일하는 AI 에이전트"는 사실상 임대 GPU 위에서만 돌았습니다. 모델이 크면 클수록 좋았고, 크면 클수록 내 컴퓨터에서는 못 돌렸습니다.
메타가 이번에 내놓은 모델은 그 전제를 정면으로 건드립니다. 300억 파라미터 멀티모달 모델을 4비트로 압축해 20GB 아래로 내렸고, 24GB 소비자용 그래픽카드 한 장에 올라가도록 설계했습니다.
수치보다 중요한 건 그 다음입니다. 이 모델은 "돌아가기만 하는" 축소판이 아니라, 처음부터 에이전트로 일하는 것을 목표로 만들어졌습니다.
2. 2026년 8월 10일, 무슨 일이 있었나
메타 초지능 연구소(Meta Superintelligence Labs)가 뮤즈 글리머를 허깅페이스에 올렸습니다. 라이선스는 아파치 2.0입니다.
같은 날 마크 저커버그와 연구소 책임자 알렉산더 왕이 각각 X와 스레드에 글을 올려, 상위 모델인 뮤즈 스파크 1.2의 가중치도 공개할 뜻을 밝혔습니다. 시점은 "앞으로 몇 주 안"이라고만 했습니다.
즉 이번 공개는 단발성 모델 출시가 아니라, 메타가 방향을 다시 돌린다는 신호에 가깝습니다.
3. 뮤즈 글리머는 어떤 모델인가
한 문장으로 줄이면 "내 기기에서 늘 켜져 있는 에이전트를 위한 300억 파라미터 멀티모달 모델"입니다.
여러 단계를 스스로 계획하는 추론, 외부 도구를 정확히 호출하는 능력, 이미지까지 함께 이해하는 멀티모달 처리, 그리고 중간에 실패했을 때 되돌아와 다시 시도하는 복구 능력이 한 모델 안에 들어가 있습니다.
컨텍스트 길이는 13만 1천 토큰이고, 100개가 넘는 언어를 지원합니다.
4. 300억이라는 크기가 왜 절묘한가
70B급은 소비자 그래픽카드 한 장에 올리기 어렵습니다. 반대로 7B급은 가볍지만 여러 단계짜리 일을 맡기면 중간에 무너집니다.
30B는 그 사이에 있습니다. 양자화를 세게 걸면 24GB에 들어가고, 그러면서도 도구를 여러 번 호출하는 작업을 끝까지 끌고 갈 만한 체력이 남습니다.
메타가 이 크기를 고른 것은 성능 욕심이 아니라 하드웨어 제약에서 거꾸로 계산한 결과로 보입니다.
5. 4비트 양자화 — 무게를 4분의 1로
양자화는 모델 안의 숫자를 더 거친 단위로 바꿔 저장하는 기법입니다. 16비트로 저장하던 값을 4비트로 줄이면 용량이 대략 4분의 1이 됩니다.
당연히 정밀도는 떨어집니다. 그래서 어디를 얼마나 거칠게 줄일지가 기술의 핵심이 됩니다.
메타는 이 작업을 20GB 아래까지 밀어붙였습니다.
6. 왜 하필 "20GB 아래"였나
24GB 카드에 20GB짜리 모델을 올리면 4GB가 남습니다. 이 여유가 없으면 모델은 켜져도 일을 못 합니다.
남은 자리에는 두 가지가 들어갑니다. 대화가 길어질수록 쌓이는 KV 캐시, 그리고 이미지를 처리하는 비전 인코더입니다.
이 여백을 계산에 넣었다는 점이, 이 모델이 벤치마크용이 아니라 실사용을 상정하고 만들어졌다는 근거입니다.
7. 아파치 2.0이라는 라이선스의 무게
아파치 2.0은 상업적 이용, 수정, 재배포를 폭넓게 허용합니다. 라마 시절의 커뮤니티 라이선스처럼 사용자 수 제한이나 별도 조건이 붙지 않습니다.
회사 제품에 넣어도 되고, 파인튜닝해서 다시 배포해도 됩니다.
모델 성능만큼이나 이 조항이 개발자들의 반응을 갈랐습니다.
8. 메타가 오픈 가중치를 놓았던 2026년 4월
메타는 라마 시리즈로 오픈 가중치 진영의 중심에 있었습니다. 그런데 2026년 4월, 새로 만든 초지능 연구소가 내놓은 첫 프런티어 모델 뮤즈 스파크는 가중치 없이 호스팅 제품으로만 나왔습니다.
업계에서는 이것을 메타의 노선 변경으로 읽었습니다. 오픈 진영의 무게 중심이 중국 모델 쪽으로 기울던 시기이기도 했습니다.
이번 공개는 그로부터 넉 달 만의 방향 전환입니다.
9. 닫힌 트랙과 열린 트랙, 두 갈래로 간다
메타가 오픈으로 완전히 되돌아간 것은 아닙니다. 지금 구조는 두 개의 트랙을 동시에 굴리는 것에 가깝습니다.
한쪽은 API로만 제공하는 폐쇄형 프런티어 모델(뮤즈 스파크 계열), 다른 한쪽은 로컬 하드웨어에 맞춰 줄인 오픈 가중치 모델(뮤즈 글리머)입니다.
가장 센 모델은 팔고, 그 아래를 열어 생태계를 잡는 구도입니다.
10. 증류 — 큰 모델에서 작은 모델을 뽑아내는 법
뮤즈 글리머는 처음부터 새로 학습한 모델이 아닙니다. 상위 모델인 뮤즈 스파크에서 증류(distillation)해 만들었습니다.
증류는 큰 모델이 내놓는 답의 분포를 작은 모델이 따라 배우게 하는 방식입니다. 정답만 외우는 게 아니라 "그 답에 얼마나 확신하는지"까지 함께 옮깁니다.
같은 크기를 맨땅에서 학습시킨 모델보다 훨씬 안정적인 결과가 나옵니다.
11. 로짓 증류 뒤에 붙은 에이전트 후속 학습
메타는 로짓 증류로 기본기를 옮긴 뒤, 에이전트 작업만 따로 모아 후속 학습을 걸었습니다.
도구를 호출하고, 결과를 읽고, 실패하면 다른 경로를 잡는 과정을 반복해서 훈련시킨 것입니다.
그래서 이 모델은 "대화를 잘하는 축소판"이 아니라 "일을 끝내는 데 최적화된 축소판"이 됐습니다.
12. DFlash 스펙큘레이티브 디코딩 — 3.1배
메타는 여기에 블록 단위 스펙큘레이티브 디코딩을 얹었습니다. 작은 보조 모델이 다음에 나올 토큰들을 미리 추측하고, 본 모델은 그 추측이 맞는지 한 번에 확인합니다.
맞으면 여러 토큰을 한꺼번에 확정할 수 있어서 속도가 크게 오릅니다. 메타가 밝힌 수치는 3.1배입니다.
허깅페이스 컬렉션에는 BF16 원본 가중치, GGUF 양자화본, ExecuTorch 빌드, 그리고 이 추측용 드래프터 모델까지 함께 올라와 있습니다.
13. 에이전트에서 속도가 결정적인 이유
사람과 대화할 때는 답이 조금 느려도 견딜 만합니다. 하지만 에이전트는 한 번의 요청 안에서 도구를 열 번, 스무 번 호출합니다.
한 번의 응답이 3초면 스무 번이면 1분입니다. 여기서 3.1배는 체감상 "못 쓰겠다"와 "쓸 만하다"를 가르는 차이가 됩니다.
로컬 모델의 진짜 병목이 성능이 아니라 속도였다는 점을 메타가 정확히 짚은 셈입니다.
14. 13만 토큰 컨텍스트가 뜻하는 것
13만 1천 토큰이면 어지간한 코드베이스 한 덩어리, 또는 긴 문서 여러 편을 한꺼번에 물릴 수 있는 크기입니다.
에이전트가 여러 단계를 거치면 그동안의 도구 호출 기록이 계속 쌓입니다. 컨텍스트가 짧으면 앞부분을 잘라내야 하고, 그때부터 판단이 어긋나기 시작합니다.
긴 컨텍스트는 성능 자랑이 아니라 에이전트가 자기 기억을 유지하기 위한 최소 조건에 가깝습니다.
15. 멀티모달이 로컬로 내려온다는 것
이 모델은 텍스트만 읽지 않습니다. 이미지를 함께 처리합니다.
화면 캡처를 보고 무엇이 잘못됐는지 말하거나, 스캔한 문서를 읽어 정리하는 작업이 인터넷 연결 없이 가능해진다는 뜻입니다.
개인 사진, 업무 화면, 진료 기록처럼 밖으로 내보내기 꺼려지는 자료에서 특히 의미가 큽니다.
16. 벤치마크 — 이긴 것과 진 것
여기서는 솔직해질 필요가 있습니다. 메타가 직접 낸 비교표에서도 뮤즈 글리머가 모든 항목에서 앞서지는 않습니다.
퀀(Qwen) 계열이 OSWorld-Verified에서 75.6 대 65.9, TerminalBench 2.1에서 60.7 대 51.7로 앞섰습니다. GDPval-AA에서는 1141 대 953으로 격차가 더 큽니다. 멀티모달 항목 대부분도 퀀 쪽이 우세했습니다.
메타가 이 표를 그대로 실었다는 점은 평가해 줄 만합니다.
17. SWE-Bench Verified 76.0을 어떻게 읽을까
실제 깃허브 이슈를 고쳐 내는 SWE-Bench Verified에서는 76.0을 기록했습니다. 퀀의 77.2와 거의 붙어 있습니다.
코드 수정은 에이전트 작업 중에서도 난도가 높은 축입니다. 문제를 읽고, 파일을 찾고, 고치고, 테스트를 돌려야 합니다.
24GB 카드 한 장에서 이 점수가 나온다는 게 이번 공개의 실질적인 알맹이입니다.
18. OSWorld·TerminalBench에서 밀린 이유
이 두 벤치마크는 운영체제 화면이나 터미널을 직접 다루는 능력을 봅니다. 화면을 해석하고, 긴 세션을 유지하고, 예상 못 한 상태에서 회복해야 합니다.
모델을 4비트로 줄이면 이런 긴 호흡의 상태 유지에서 손해가 납니다. 압축의 대가가 여기서 드러난 셈입니다.
바꿔 말하면 무엇을 포기하고 무엇을 지켰는지가 꽤 분명한 모델입니다.
19. "범용 1등"이 아니라 "로컬 특화"라는 자리
숫자를 종합하면 결론은 이렇습니다. 뮤즈 글리머는 모든 모델을 이기는 모델이 아니라, 내 기기에서 도는 조건을 붙였을 때 가장 쓸 만한 모델입니다.
비교 대상을 "클라우드의 모든 모델"로 잡으면 실망스럽고, "내 GPU 한 장에 올라가는 모델들"로 잡으면 판이 달라집니다.
이 구분을 놓치면 뉴스를 잘못 읽게 됩니다.
20. 실제 사례 ① — 연결이 끊긴 작업실
영상 편집이나 음악 작업을 하는 1인 창작자를 생각해 봅시다. 대용량 파일을 다루는 동안에도 파일 정리, 자막 초안, 메타데이터 정리 같은 잡일은 계속 생깁니다.
이 작업을 클라우드 모델에 맡기면 원본을 업로드해야 하고, 네트워크가 흔들리면 작업이 멈춥니다.
로컬 에이전트는 인터넷이 끊긴 상태에서도 같은 속도로 계속 돕습니다.
21. 실제 사례 ② — 저시력 사용자의 화면 읽기
저시력 사용자에게 화면 해석은 매일 반복되는 일입니다. 어떤 버튼이 어디 있는지, 오류 메시지가 무엇을 말하는지 확인하는 데 시간이 듭니다.
멀티모달 로컬 모델은 화면을 캡처해 즉시 설명해 줄 수 있고, 그 화면이 개인 정보를 담고 있어도 밖으로 나가지 않습니다.
응답 속도가 빠르다는 점도 중요합니다. 화면을 다시 확인하려고 몇 초씩 기다리는 일이 하루에 수십 번이면 그게 곧 피로가 됩니다.
22. 실제 사례 ③ — 밖으로 나가면 안 되는 자료
법률 사무소, 병원, 회계 사무소처럼 자료를 외부 서버로 보내기 어려운 곳이 있습니다. 규정 때문에 AI 도입 자체를 미뤄 온 조직도 많습니다.
가중치가 아파치 2.0으로 공개된 모델을 사내 장비에 올리면 이 문제가 구조적으로 사라집니다. 데이터가 건물 밖으로 나가지 않기 때문입니다.
성능이 최상위가 아니어도 도입되는 이유가 여기 있습니다.
23. 아직 확인되지 않은 것들
4비트 양자화본의 장시간 안정성, 실제 사용자 환경에서의 도구 호출 실패율, 한국어를 포함한 비영어권 품질은 아직 충분한 실측이 나오지 않았습니다.
공개 직후의 벤치마크 수치는 만든 쪽이 고른 조건이라는 점도 감안해야 합니다.
일주일에서 한 달 정도 커뮤니티 검증이 쌓인 뒤에 판단하는 편이 안전합니다.
24. 다음 수순 — 뮤즈 스파크 1.2
저커버그와 알렉산더 왕은 뮤즈 스파크 1.2의 가중치 공개를 예고했습니다. 다만 "앞으로 몇 주 안"이라는 표현 외에 구체적인 일정은 없습니다.
만약 프런티어급 모델의 가중치가 실제로 열린다면, 이번 뮤즈 글리머보다 훨씬 큰 사건이 됩니다.
그때까지는 예고 단계로 보는 게 맞습니다.
25. 핵심 정리
· 메타가 8월 10일 뮤즈 글리머 30B를 아파치 2.0으로 공개했습니다.
· 4비트 양자화로 20GB 아래, 24GB 소비자 GPU 한 장에서 돕니다.
· 뮤즈 스파크에서 로짓 증류 후 에이전트 작업으로 후속 학습했습니다.
· DFlash 스펙큘레이티브 디코딩으로 디코딩 속도 3.1배.
· 컨텍스트 13만 1천 토큰, 100개 이상 언어, 멀티모달 지원.
· SWE-Bench Verified 76.0으로 퀀(77.2)에 근접, 다만 OSWorld·TerminalBench·GDPval-AA에서는 밀립니다.
· 2026년 4월 뮤즈 스파크를 닫은 뒤 넉 달 만의 오픈 가중치 복귀이고, 뮤즈 스파크 1.2 공개가 예고돼 있습니다.
26. 그래서 지금 무엇을 해 볼까
24GB급 그래픽카드를 쓰고 있다면 GGUF 양자화본을 내려받아 직접 돌려 보는 것이 가장 빠른 확인 방법입니다. 올라마(Ollama)에도 이미 올라와 있습니다.
확인할 항목을 세 가지만 정해 두면 좋습니다. 첫째, 도구를 여러 번 부르는 작업을 끝까지 끌고 가는지. 둘째, 한국어 응답의 품질. 셋째, 긴 세션에서 속도가 유지되는지입니다.
SVIL 연구소도 로컬 워크스테이션 환경에서 같은 항목을 검증해 결과를 따로 정리할 예정입니다.
27. 출처
· Meta AI Research — Introducing Muse Glimmer: An Open Agentic Model That Runs on Your Device
· VentureBeat — Meta returns to open source with Muse Glimmer
· CNBC — Meta to open source its most powerful AI model
· Hugging Face — meta-models/Muse-Glimmer-30B
· Hugging Face Blog — Meta is back with Muse Glimmer
· Constellation Research — Meta releases open weight Muse Glimmer with Muse Spark 1.2 on tap
· MarkTechPost — Meta AI Releases Muse Glimmer
· Hardware Busters — Engineered to fit a 24GB graphics card
협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://kuroicode-beep.github.io/svil-homepage/