Liquid AI LFM2.5-VL-DSpark 공개 — 시각언어 모델의 답변 생성을 가속합니다

SVIL - Singularity Visual Intelligence Lab 2026. 09. 25 14 min read

공식 발표의 새 사실과 실제 제공 범위를 구분해 살펴봅니다. 확인 기준은 2026년 9월 25일 밤이며, 아래 분석과 가상 적용 예시는 발표된 사실과 구별해 표시했습니다.

작은 보조 모델이 바꾸는 대기 시간

AI가 사진을 이해하는 속도와 문장을 내보내는 속도는 같은 값이 아닙니다. 이번 공개가 겨냥한 곳은 뒤쪽입니다. 작은 모델이 다음 단어를 미리 제안하고 원래 모델이 확인하는 구조라, 모델을 통째로 교체하지 않고 답변을 기다리는 시간을 줄일 가능성이 생겼습니다. 다만 사진을 넣자마자 반응하는 시간까지 같은 비율로 짧아지는 것은 아닙니다.

이번에 공개된 것은 무엇인가

Liquid AI가 공개한 LFM2.5-VL-DSpark는 LFM2.5-VL-3B에 붙이는 실험적 초안 모델입니다. 회사는 엣지 환경에서 디코딩 최대 3.13배, 전체 처리 최대 2.62배의 개선을 보고했습니다. 여기서 최대값은 정해진 장비와 과제에서 나온 회사 측 측정치입니다. 모든 사진과 모든 컴퓨터에 적용되는 고정 배수가 아닙니다. [1]

발표 날짜와 확인 범위

공식 발표문에는 2026년 9월 24일이 표시돼 있습니다. 이 글은 9월 25일 밤 기준으로 공개 자료를 확인했습니다. 정확한 발표 시각과 시간대까지는 확정하지 못했으므로 엄밀히 24시간 안이라고 단정하지 않습니다. 새로 공개된 비전용 보조 모델과 파일이 있다는 점을 이번 소식의 근거로 삼았으며, 기존 텍스트 모델의 재소개와 구분했습니다.

사진을 읽는 모델의 두 단계

사진은 먼저 모델이 처리할 수 있는 표현으로 바뀌고, 질문과 함께 읽힌 뒤 답변 토큰이 생성됩니다. 앞의 입력 처리와 뒤의 출력 생성은 서로 다른 병목을 가질 수 있습니다. 큰 사진 여러 장을 읽는 작업과 작은 사진 한 장을 길게 설명하는 작업은 같은 모델을 사용해도 시간 배분이 달라집니다. 그래서 출력 속도 하나만 보면 실제 체감이 가려집니다.

초안을 먼저 제안하는 방식

추측 디코딩은 가벼운 모델이 여러 토큰의 초안을 만들고, 대상 모델이 이를 검증하는 방식입니다. 초안이 많이 받아들여지면 비싼 대상 모델의 순차적인 일을 줄일 수 있습니다. 반대로 예측이 자주 틀리면 초안을 만드는 추가 비용이 이득을 잠식합니다. 초안은 승인 없는 지름길이 아니라, 원래 계산을 더 효율적으로 조직하려는 제안입니다.

최종 결정권은 대상 모델에

공식 자료는 탐욕적 디코딩에서 대상 모델이 제안을 검증하므로 원래 모델 단독 실행과 같은 출력을 얻는다고 설명합니다. 이것은 답변의 사실성이 높아진다는 뜻과 다릅니다. 원래 모델이 사진을 잘못 읽으면 같은 오답을 더 빨리 내놓을 수도 있습니다. 속도 검증과 내용 정확도 검증은 따라서 별도의 평가로 남겨 두는 것이 맞습니다. [2]

모델 크기와 메모리를 구별하기

보조 모델은 약 2억 8천만 매개변수로 소개됐으며 대상 대비 매개변수 증가분은 약 8.9%입니다. 이 비율을 전체 메모리 증가율로 읽으면 안 됩니다. 실행 중에는 가중치뿐 아니라 입력 크기, 캐시, 실행기의 작업 공간이 메모리를 씁니다. 작은 추가 모델이므로 부담이 작다는 설명과, 자기 장치에서 여유 메모리를 실제로 확인하는 일은 구분됩니다. [1]

가속 수치에서 봐야 할 두 분모

디코딩 가속은 문장을 생성하는 구간의 변화이고, 전체 가속은 입력부터 완료까지의 변화입니다. 두 수치를 한 문장에 섞으면 짧은 응답이 과장되기 쉽습니다. 운영 판단에는 총 지연 시간과 함께 첫 토큰까지의 시간도 필요합니다. 독자가 기다리는 것은 토큰 처리량 표가 아니라, 자신이 요청한 답변이 끝나는 순간이기 때문입니다.

온디바이스 결과의 의미

회사 측 Apple silicon 측정은 실행기와 하드웨어를 함께 지정합니다. MLX와 llama.cpp의 결과를 서로 다른 장치에서 얻었기 때문에 그 차이를 소프트웨어의 우열로 곧바로 해석하기 어렵습니다. 로컬 사용자에게 의미 있는 비교는 자기 장치에서 대상 모델 단독 실행과 보조 모델 사용을 번갈아 측정하는 방식입니다. [1]

서버 가속 결과의 의미

공식 발표의 GPU 최대값은 H100에서 디코딩 2.66배, 전체 처리 2.27배입니다. 이 결과를 소비자용 그래픽카드나 동시 요청이 많은 서버에 그대로 대입할 근거는 없습니다. 실제 서비스는 요청 크기와 배치 방식, 다른 작업의 점유 때문에 조건이 달라집니다. 발표 수치는 재현해 볼 출발점으로 읽는 편이 정확합니다. [1]

전처리는 그대로 남는다

DSpark의 핵심 가속 대상은 디코딩입니다. 비전 인코더와 입력 프리필에 걸리는 시간이 큰 작업에서는 전체 개선 폭이 제한됩니다. 이미지 해상도를 크게 올리거나 입력 장수를 늘리면 이 앞단의 비중이 커질 수 있습니다. 반대로 출력이 긴 작업에서는 생성 구간의 개선이 전체 시간에 더 크게 반영될 여지가 있습니다. [1]

숫자로 보는 전체 시간의 상한

이 원리를 보여 주는 가상의 계산을 해 보겠습니다. 원래 10초 중 입력 처리가 6초, 출력 생성이 4초인 작업에서 출력만 두 배 빨라지면 총시간은 8초입니다. 전체 개선은 1.25배입니다. 이 숫자는 제품의 실측 결과가 아니라 병목을 설명하기 위한 예시입니다. 일부 구간의 가속이 전체를 같은 비율로 바꾸지 못한다는 점을 보여 줍니다.

짧은 답과 긴 답은 다르다

한 단어 분류처럼 답이 짧으면 초안 준비 비용의 비중이 커질 수 있습니다. 반대로 긴 이미지 설명에서는 연속해서 받아들여지는 초안이 도움이 될 여지가 있습니다. 어느 쪽이 유리한지는 입력과 출력의 조합으로 결정됩니다. 평가용 사진만 고정하고 답변 길이를 자유롭게 두면, 속도 차이와 답변 분량 차이를 혼동할 수 있습니다.

초안 수락률이 중요한 이유

수락률은 초안이 대상 모델의 계산을 얼마나 잘 따라갔는지 보여 주는 단서입니다. 그러나 수락률만 높다고 운영 지연이 반드시 작아지지는 않습니다. 초안을 만드는 비용도 있기 때문입니다. 따라서 수락 토큰 수, 총 토큰 수, 전체 소요시간을 함께 기록하면 원인을 해석하기 쉬워집니다. 한 번의 빠른 응답보다 반복 측정의 분포가 더 유용합니다.

GGUF 보조 파일의 역할

공개 GGUF 자료는 보조 파일이 단독 대화 모델이 아니라 대상 모델과 함께 쓰는 구성임을 설명합니다. 초안 파일 하나만 내려받아 일반 언어 모델처럼 여는 방식과 구분해야 합니다. 파일 형식이 같아 보여도 각각의 역할이 다르면 실행 인자도 달라집니다. 설치 안내에서는 대상 모델과 보조 모델을 분명하게 구분하는 것이 혼동을 줄입니다. [3]

대상 모델과 비전 프로젝터

대상 모델의 GGUF 저장소에는 비전 처리를 위한 프로젝터와 모델 파일이 함께 안내됩니다. 사진 입력을 다루는 구성은 텍스트 가중치만 준비하는 경우보다 조합이 많습니다. 대상, 프로젝터, 초안 모델의 호환성을 확인하는 이유입니다. 보조 모델을 붙이기 전에 사진 한 장을 대상 모델 단독으로 처리할 수 있는지 확인하면 문제의 위치를 좁히기 쉽습니다. [4]

실행기 호환성을 먼저 확인

발표는 llama.cpp, MLX-VLM, SGLang 지원 경로를 소개합니다. 다만 새 기능이 들어간 빌드와 설치돼 있는 안정판은 같지 않을 수 있습니다. 문서의 예제에서 지원 변경이나 PR을 지목한다면 실행기 버전을 함께 기록할 필요가 있습니다. 이 글은 특정 설치 명령의 성공을 검증한 가이드가 아니라 공개된 가속 방식과 확인 지점을 설명하는 기사입니다. [2][5]

양자화 결과로 확대하지 않기

공개 자료의 정밀도 조건과 다른 양자화 파일을 사용하면 속도와 출력이 함께 달라질 수 있습니다. 메모리를 줄이려는 변경과 추측 디코딩을 추가하는 변경을 동시에 적용하면 무엇이 결과를 바꿨는지 가르기 어렵습니다. 대상 단독, 동일 정밀도 보조 사용, 별도 양자화 구성처럼 변수를 나눠 비교하면 재현 기록의 의미가 선명해집니다. [3]

실제 공개 사례와 재현 범위

실제로 공개된 것은 회사의 벤치마크와 모델 저장소, 실행기 연결 안내입니다. 우리가 해당 장비에서 재실험해 얻은 성능표는 아닙니다. 대상 모델 카드는 OCR, 객체 위치 파악, 이미지 대화 등의 활용을 소개하면서 긴 맥락의 고난도 시각 추론에는 주의를 줍니다. 보조 모델 공개를 대상 모델의 새로운 지능 개선으로 설명하지 않는 이유입니다. [6]

문서 읽기 적용을 가정하면

예를 들어 개인 문서의 사진을 읽고 설명하는 로컬 앱을 만든다고 가정해 보겠습니다. 한 줄의 분류 결과가 필요한지, 긴 서술이 필요한지에 따라 가속 효과가 달라질 수 있습니다. 스캔 방향 보정이나 파일 열기에서 시간이 많이 들면 모델만 바꿔도 체감은 작습니다. 이 예시는 적용 아이디어이며, 특정 고객이 검증했다는 사례로 제시하는 것은 아닙니다.

한국어 환경의 검증 항목

한국어 문서라면 속도 외에도 띄어쓰기, 작은 글자, 표의 읽기 순서가 중요합니다. 영문 벤치마크의 결과로 이 항목을 대신 확인할 수는 없습니다. 원문 사진과 추출 결과를 짝으로 남기고, 같은 입력에 대해 대상 단독 실행과 보조 사용을 비교하면 오류가 원래 모델에서 왔는지 실행 변화에서 왔는지 구분할 수 있습니다.

단독 실행으로 되돌아갈 경로

새 가속기를 붙일 때 기존 단독 실행 설정을 함께 보존하면 실패를 복구하기 쉽습니다. 설정 파일과 모델 버전을 기록하고, 문제 발생 시 보조 모델만 제외한 결과를 확인하는 방식입니다. 이는 이번 공개의 기능이라는 뜻이 아니라 운영 설계에 대한 제안입니다. 모델이 빠르게 발전할수록 변경 범위를 작게 나눠 놓은 실험이 오래 도움이 됩니다.

핵심 정리

이번 소식의 핵심은 작은 초안 모델로 기존 시각언어 모델의 출력 생성을 가속한다는 점입니다. 최대 배수는 회사가 측정한 조건 안의 값이며 입력 처리까지 모두 빨라지는 것은 아닙니다. 공개 파일의 역할, 실행기 지원, 정밀도와 응답 길이를 함께 확인해야 실제 장치에서의 의미를 판단할 수 있습니다.

원문과 실측을 함께 읽기

아래 공식 발표와 모델 카드를 함께 읽으면 성능 수치와 설치 구성의 연결을 확인할 수 있습니다. 자체 실험 결과를 나누실 때는 장치, 실행기 버전, 입력 장수, 출력 길이와 전체 시간을 같이 적어 주시면 비교에 도움이 됩니다. 기사에 사용한 삽화는 설명을 위한 개념 이미지이며 실제 모델 구조도나 제품 화면이 아닙니다.

출처

협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://svil.dev/