로컬 모델로 구글 드라이브·지메일·슬랙·깃허브 연동…파일·도구·웹까지 하나의 에이전트로 처리
(씨넷코리아=윤현종 기자) 엔비디아가 26일 자사 개인용 AI 슈퍼컴퓨터 ‘DGX 스파크’에서 퍼플렉시티의 새로운 로컬 AI 에이전트 앱 ‘포터블 컴퓨터(Portable Computer)’를 실행할 수 있다고 밝혔다.
포터블 컴퓨터는 사용자 기기에서 작업을 시작하고 로컬에서 완료된 작업에는 별도 크레딧을 부과하지 않는 로컬 우선 방식의 AI 에이전트다.
퍼플렉시티는 25일(현지 시간) 사용자가 보유한 하드웨어에서 ‘퍼플렉시티 컴퓨터’를 사용할 수 있도록 하는 포터블 컴퓨터를 출시했다. 모델과 파일, 도구, 웹을 넘나들며 수행하던 에이전트 작업을 로컬 환경으로 확장한 것이 특징이다.
포터블 컴퓨터는 구글 드라이브와 지메일, 슬랙, 깃허브 등 주요 생산성 서비스와 연동된다. 사용자의 로컬 파일을 직접 다루거나 셸 명령을 실행하고 PDF를 읽는 것은 물론 음성 받아쓰기와 웹 검색 등도 지원한다.
작업은 기본적으로 사용자의 기기에서 시작된다. 로컬 모델이 처리하기 어려운 단계에 도달하면 해당 작업을 클라우드의 프론티어 모델로 보내기 전 사용자에게 확인을 요청한다. 클라우드에서 처리된 결과는 다시 동일한 로컬 작업으로 전달된다.
이를 통해 사용자는 모델과 파일, 작업을 기기에 유지하면서 어떤 정보가 외부로 전달되는지와 클라우드가 언제 개입하는지 직접 통제할 수 있다. 로컬에서 완료한 작업에는 크레딧이 사용되지 않으며, 클라우드에서 처리한 부분에 대해서만 크레딧이 부과된다.
퍼플렉시티는 사용자가 별도로 프라이버시 모드를 선택하거나 모델 라우팅 규칙을 작성하고 모델을 직접 전환하지 않아도 포터블 컴퓨터가 작업 과정에 맞춰 이를 판단하도록 구성했다.
로컬 AI 환경 구축에 필요한 구성 요소도 하나의 시스템으로 통합했다. 로컬 모델과 에이전트 하네스, 추론 엔진, 도구, 앱 연결, 샌드박스 등을 함께 제공해 사용자가 각각의 요소를 직접 조합하고 관리해야 하는 부담을 줄였다.
코드 실행과 도구 사용은 사용자의 기기 안에 마련된 격리된 샌드박스에서 이뤄진다. 퍼플렉시티는 이를 통해 로컬 기반 작업을 수행하면서도 실행 환경을 분리할 수 있도록 했다.
DGX 스파크에서는 빠른 대규모 언어 모델 추론과 24시간 상시 가동을 지원해 장시간 실행되는 자율형 AI 에이전트 업무에 활용할 수 있다.
출시 시점에는 큐원 3.8 27B와 큐원 3.6 35B 모델을 사용할 수 있다. 퍼플렉시티는 두 모델을 퍼플렉시티 컴퓨터에 맞춰 사후 훈련하고 있으며, 사용자가 직접 보유한 모델과 추론 서버를 연결하는 방식도 지원한다.
한편, 퍼플렉시티는 초고속 응답을 위해 파인튜닝한 ‘네모트론 3.5 라이트닝’ 변형 모델도 개발하고 있으며 추후 지원할 예정이다. 원클릭 로컬 추론 설정과 엔비디아 하드웨어에 최적화된 사용 환경도 제공한다.
포터블 컴퓨터는 프로, 맥스, 엔터프라이즈 프로, 엔터프라이즈 맥스 가입자를 대상으로 리눅스에서 우선 제공된다. 출시 시점에는 엔비디아 DGX 스파크를 지원하며, 향후 윈도우와 DGX 스테이션으로 지원 범위를 확대할 예정이다.