퍼플렉시티 에이전트가 내 컴퓨터에서 돕니다 — 엔비디아와 만든 포터블 컴퓨터와 토큰 0원

AI 에이전트를 쓰다 보면 요금이 먼저 걸립니다. 작업 하나를 돌릴 때마다 토큰이 깎이니, 자동화를 걸어 두기가 망설여집니다.

8월 25일 퍼플렉시티(Perplexity)가 엔비디아와 함께 포터블 컴퓨터(Portable Computer)를 내놓았습니다. 자기 컴퓨터 안에서 전부 도는 에이전트이고, 로컬에서 끝난 작업에는 요금이 붙지 않습니다.

요금 이야기로 들리지만 실제 쟁점은 다른 데 있습니다. 내 파일이 어디까지 나가는가입니다.

토큰 요금이 붙지 않는 작업

가장 먼저 눈에 띄는 대목입니다. 기기에서 처리한 작업은 청구 크레딧을 쓰지 않습니다.

클라우드 에이전트는 단계마다 모델을 부르고, 그 호출이 전부 비용입니다. 여러 단계를 도는 작업일수록 비용이 빠르게 붙습니다.

로컬에서 도는 동안에는 그 계산기가 멈춥니다.

무엇을 내놓았나

퍼플렉시티에는 이미 컴퓨터(Computer)라는 에이전트 플랫폼이 있었습니다. 포터블 컴퓨터는 그것을 이용자 하드웨어에서 돌게 만든 버전입니다.

모델과 도구, 파일 처리, 여러 단계로 이어지는 작업 흐름이 전부 기기 안에서 돕니다.

엔비디아와 함께 만들었고, 지원 하드웨어도 엔비디아 제품에서 출발합니다.

기존 컴퓨터 플랫폼과의 차이

기능 목록만 보면 두 제품은 비슷해 보입니다. 차이는 어디서 도는가 하나입니다.

그런데 그 하나가 비용과 프라이버시, 오프라인 가능 여부를 한꺼번에 바꿉니다.

실행 위치는 부수적인 설정이 아니라 제품의 성격을 정하는 축입니다.

기본값이 내 기기다

설계에서 중요한 지점이 있습니다. 모든 작업이 기본적으로 기기에서 시작합니다.

클라우드를 쓸지 말지를 매번 고르는 것이 아니라, 로컬이 출발점이고 클라우드가 예외입니다.

기본값이 어디냐에 따라 실제 데이터 흐름이 크게 달라집니다.

클라우드로 나가기 전에 묻는다

더 큰 모델이나 최신 정보가 필요한 단계가 생기면, 시스템이 그 단계를 클라우드로 보내도 되는지 묻습니다.

묻는다는 것은 이용자가 거절할 수 있다는 뜻입니다. 조용히 나가지 않습니다.

단계 단위로 확인한다는 점이 특히 눈에 띕니다. 작업 전체를 통째로 승인하는 방식보다 촘촘합니다.

어떤 하드웨어에서 도는가

지원은 엔비디아 DGX 스파크(DGX Spark)와, RTX GPU를 단 리눅스 PC에서 시작합니다.

요구 사양은 VRAM 24GB 이상입니다. 대략 RTX 3090 이후 세대가 여기 해당합니다.

즉 데이터센터 장비가 아니라 책상 위 기계를 겨냥했습니다.

DGX 스파크라는 기계

DGX 스파크는 엔비디아가 내놓은 데스크톱 크기의 AI 개발 장비입니다. 가격은 4,679달러 선입니다.

서버 랙이 아니라 책상에 올려 두는 형태입니다. 개인 개발자와 소규모 팀을 겨냥한 자리입니다.

포터블 컴퓨터의 첫 지원 대상이 이 기계라는 점이 방향을 말해 줍니다.

GB10과 128기가 통합 메모리

이 기계의 핵심은 GB10 그레이스 블랙웰 슈퍼칩과 128GB 통합 메모리입니다.

CPU와 GPU가 같은 메모리를 나눠 쓰기 때문에, 큰 모델을 올릴 때 데이터를 옮겨 담는 과정이 사라집니다.

속도로는 고성능 그래픽카드에 밀리지만, 담을 수 있는 크기에서 앞섭니다.

RTX 24기가 이상이면 된다

DGX 스파크가 없어도 됩니다. VRAM 24GB 이상인 RTX 카드를 단 리눅스 PC면 돌아갑니다.

이 조건은 이미 로컬 AI를 만지던 이용자층과 정확히 겹칩니다. 새 장비를 사야 하는 이야기가 아닙니다.

가진 장비를 그대로 쓴다는 점이 이 제품의 실질적인 진입 문턱을 결정합니다.

윈도우 지원은 9월

지금은 리눅스가 먼저입니다. 윈도우 지원은 9월로 예고돼 있습니다.

국내 개인 이용자 상당수가 윈도우를 쓰는 것을 생각하면, 실제 확산은 그때부터로 보는 편이 맞습니다.

한 달 차이지만 사용자층의 폭은 크게 달라집니다.

로컬에서 도는 모델들

출시 시점에 기기에서 돌릴 수 있는 모델은 두 가지입니다. Qwen 3.8 27B와 퍼플렉시티가 자체 후속 학습한 PPLX 27B입니다.

둘 다 270억 파라미터급으로, 24GB VRAM에 올릴 수 있는 크기를 겨냥한 선택입니다.

엔비디아의 네모트론 3.5 라이트닝이 다음 순서로 예고돼 있습니다.

Qwen 3.8 27B와 PPLX 27B

Qwen 계열은 공개 가중치 모델 중 성능 대비 크기가 좋은 축입니다. 로컬 실행에서 자주 선택됩니다.

PPLX 27B는 퍼플렉시티가 자사 용도에 맞춰 추가 학습한 모델입니다. 검색과 도구 사용에 맞춰져 있을 가능성이 큽니다.

프런티어급 모델과 같은 성능을 기대할 자리는 아닙니다. 대신 늘 켜 둘 수 있습니다.

네모트론이 뒤따른다

엔비디아 네모트론 3.5 라이트닝이 다음 지원 모델로 예고됐습니다.

이 협업이 하드웨어 지원에서 끝나지 않고 모델까지 이어진다는 신호로 읽힙니다.

엔비디아가 자사 칩에 최적화한 모델을 얹는 흐름은 앞으로 더 늘어날 가능성이 큽니다.

파일이 밖으로 나가지 않는다

포터블 컴퓨터는 파일을 분석하고 작업 흐름을 실행하는 동안 그 내용을 클라우드로 보내지 않습니다.

회계 자료, 계약서, 미공개 원고처럼 밖으로 나가면 곤란한 파일을 다룰 때 의미가 큽니다.

약관으로 보장하는 것과 애초에 나가지 않는 것은 다릅니다.

왜 이것이 보안 문제인가

클라우드 AI를 업무에 못 쓰게 막는 조직이 많습니다. 성능이 아니라 데이터 반출 규정 때문입니다.

한 번 나간 데이터가 어디에 얼마나 남는지 확인할 방법이 없다는 점이 핵심입니다.

로컬 실행은 이 논쟁 자체를 없애 버립니다.

비용 구조가 뒤집히는 지점

클라우드 에이전트의 비용은 쓴 만큼 늘어납니다. 많이 쓸수록 많이 냅니다.

로컬은 장비값을 먼저 치르고 이후 사용량에는 값이 붙지 않습니다. 고정비와 변동비의 교환입니다.

매일 반복해서 돌리는 작업이 많을수록 이 교환이 유리해집니다.

크레딧을 태우지 않는 자동화

요금이 붙지 않으면 사람의 행동이 달라집니다. 실험을 더 많이 하고, 자동화를 더 자주 걸어 둡니다.

지금은 반복 자동화를 걸기 전에 한 번 계산해 보게 됩니다. 그 계산이 사라집니다.

가격이 0이 되면 쓰임새가 바뀝니다.

다단계 워크플로에서의 의미

에이전트 작업은 대개 여러 단계를 거칩니다. 읽고, 판단하고, 도구를 부르고, 결과를 다시 확인합니다.

단계가 늘어날수록 클라우드에서는 비용이 곱해집니다. 로컬에서는 시간만 더 듭니다.

비용이 아니라 시간을 쓰는 구조라 야간 배치 같은 방식이 열립니다.

엔비디아가 얻는 것

엔비디아 입장에서 이 협업의 의미는 분명합니다. 자사 하드웨어를 쓸 이유를 하나 더 만드는 일입니다.

AI 수요가 데이터센터에만 몰리면 개인·소규모 시장은 열리지 않습니다.

DGX 스파크 같은 제품에 실제로 돌릴 소프트웨어가 붙는 것이 이 회사에는 필요합니다.

퍼플렉시티가 얻는 것

퍼플렉시티는 검색으로 알려진 회사이지만, 최근에는 에이전트 쪽으로 무게를 옮기고 있습니다.

로컬 실행은 클라우드 추론 비용을 이용자 장비로 넘기는 일이기도 합니다. 서비스 원가 구조에 직접 영향을 줍니다.

동시에 보안 규정 때문에 못 들어가던 시장이 열립니다.

로컬 우선 흐름의 맥락

이 발표는 혼자 나온 것이 아닙니다. 공개 가중치 모델이 좋아지고 소비자 GPU 메모리가 늘면서, 기기에서 돌리는 시도가 계속 늘어 왔습니다.

달라진 것은 이번에 대형 서비스 회사가 그 방향을 정식 제품으로 내놓았다는 점입니다.

실험에서 제품으로 넘어가는 문턱을 넘은 셈입니다.

남는 한계 — 최신 정보와 큰 모델

한계는 분명합니다. 270억 파라미터급 모델은 프런티어 모델의 판단력을 대신하지 못합니다.

최신 정보도 기기 안에는 없습니다. 오늘 일어난 일을 물으면 결국 밖으로 나가야 합니다.

그래서 이 제품은 클라우드를 없애는 것이 아니라, 나가는 횟수를 줄이는 쪽에 가깝습니다.

실제 사례 — 로컬 워크스테이션 이용자

이미지 생성이나 음성 합성을 로컬에서 돌리는 분들은 24GB 안팎의 GPU를 이미 갖고 계신 경우가 많습니다.

그 장비는 대개 특정 작업을 돌릴 때만 쓰이고 나머지 시간에는 놀고 있습니다. 에이전트가 그 빈 시간을 씁니다.

장비를 새로 사지 않고 쓰임새를 하나 더 얹는 방식이라, 이 층에게는 도입 비용이 사실상 없습니다.

프로·맥스·엔터프라이즈 어디까지

포터블 컴퓨터는 퍼플렉시티 프로와 맥스 구독자에게 제공됩니다. 기업용으로는 엔터프라이즈 프로와 엔터프라이즈 맥스가 대상입니다.

무료 구간에는 열려 있지 않습니다. 구독자를 붙잡아 두는 기능으로 배치한 셈입니다.

다만 로컬 실행분에는 사용량 요금이 없으므로, 구독료 안에서 쓰는 양이 사실상 열려 있습니다.

핵심 정리

첫째, 퍼플렉시티와 엔비디아가 기기에서 완결되는 에이전트 포터블 컴퓨터를 내놓았습니다.

둘째, 로컬에서 끝난 작업에는 청구 크레딧이 붙지 않고, 클라우드로 넘길 때는 단계마다 이용자에게 묻습니다.

셋째, DGX 스파크와 VRAM 24GB 이상 RTX 리눅스 PC에서 돌고 윈도우는 9월입니다. Qwen 3.8 27B와 PPLX 27B로 시작합니다.

넷째, 한계는 모델 크기와 최신 정보이며, 클라우드를 대체하기보다 밖으로 나가는 횟수를 줄이는 제품입니다.

참고하실 만한 것

이미 24GB급 GPU를 갖고 계신다면 추가 비용 없이 시험해 볼 수 있는 구성입니다. 다만 윈도우 이용자는 9월 지원을 기다리셔야 합니다.

밖으로 내보내기 곤란한 파일을 다루신다면, 이 방식이 규정 문제를 푸는 실마리가 될 수 있습니다.

SVIL은 로컬 AI 워크스테이션 운영 경험을 블로그에 계속 기록하고 있습니다. 관련 글을 함께 보시면 도움이 됩니다.

출처

• Introducing Portable Computer for local-first AI — Perplexity
• Perplexity partners with Nvidia to launch Portable Computer, a fully local AI agent with zero token costs — VentureBeat
• Perplexity Launches Local AI Model That Will Run on Your GPU Instead of the Cloud — Gizmodo
• Perplexity and NVIDIA team up to release a local AI agent — How-To Geek
• Perplexity Portable Computer: AI agent now runs locally on Nvidia DGX Spark — Basic Tutorials
• Perplexity opts for local AI with Nvidia — Techzine
• NVIDIA DGX Spark In-Depth Review: A New Standard for Local AI Inference — LMSYS Org
• NVIDIA DGX Spark: Specs, Price, and Who Should Buy It — AI Tool Discovery

협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://svil.dev/