퍼플렉시티, 엔비디아 칩 기반 온디바이스 AI 에이전트 출시

퍼플렉시티(Perplexity)가 엔비디아(Nvidia) 칩 기반 데스크톱에서 구동되는 온디바이스 AI 에이전트 ‘포터블 컴퓨터(Portable Computer)’를 출시했다. 웹 애플리케이션 개발과 온라인 조사, 데이터 분석, 코딩 같은 여러 단계의 작업을 수행하도록 설계된 제품이다.

실리콘앵글(SiliconANGLE)은 8월 26일 퍼플렉시티가 포터블 컴퓨터를 공개했다고 보도했다. 이번 출시는 엔비디아가 퍼플렉시티에 투자해 기업 가치를 300억달러 이상으로 평가하는 방안을 검토 중이며, 퍼플렉시티 기술의 라이선스와 핵심 인력 영입도 제안했다는 보도에 이어 나왔다.

포터블 컴퓨터는 지난 2월 공개된 클라우드 기반 에이전트 ‘퍼플렉시티 컴퓨터’를 기기 안에서 실행하는 버전이다. 두 제품 모두 복잡한 작업을 여러 단계로 나눠 처리하며, 시간이 오래 걸리는 작업은 작은 단위로 쪼갠 뒤 각각을 별도 하위 에이전트에 배정한다. 온디바이스 버전은 엔비디아의 DGX 스파크(DGX Spark)에서 유사한 기능을 제공한다.

DGX 스파크는 엔비디아의 블랙웰(Blackwell) 아키텍처 기반 그래픽카드와 20코어 중앙처리장치, 128GB 메모리를 탑재한 데스크톱 컴퓨터다. 포터블 컴퓨터는 출시 시점에 오픈소스 언어 모델 큐웬 3.8 27B(Qwen 3.8 27B)와 퍼플렉시티가 DGX 스파크에 맞게 최적화한 PPLX 27B를 지원한다. 프롬프트 처리 속도를 높이기 위해 여러 토큰을 한 번에 예측하는 기능도 적용했다.

큐웬 3.8 27B의 문맥 창은 25만6000토큰이지만, 퍼플렉시티는 실제 환경에서 10만토큰을 넘는 프롬프트를 처리할 때 성능이 떨어진다고 판단했다. 이에 긴 프롬프트를 요약해 10만토큰 아래로 줄이는 ‘문맥 압축’ 기능을 넣었다. 온라인 조사, 데이터 과학, 코딩에 필요한 지침과 자료를 묶은 사전 구성 스킬도 제공하며, 생성된 응답의 정확성을 확인하는 기능도 포함했다.

온디바이스 모델이 작업을 완수하지 못하면 클라우드 신경망에 지원을 요청할 수 있고, 깃허브(GitHub) 같은 서비스형 소프트웨어와도 연결된다. 외부 도구로 데이터를 보내기 전에는 사용자 허가를 요구하며, 외부 서비스가 기기 내부 파일에 접근하도록 허용하지 않는다. 샌드박스는 모델이 작업과 무관한 운영체제 영역에 접근하지 못하게 하고, 승인되지 않은 네트워크 연결도 차단한다.

퍼플렉시티는 향후 지원 범위를 DGX 스파크에서 엔비디아 RTX 그래픽카드를 탑재한 윈도 머신으로 확대할 예정이다. 엔비디아의 최신 모델인 네모트론 3.5 라이트닝(Nemotron 3.5 Lightning)도 추가 지원한다. 이 모델은 300억개 매개변수를 가진 전문가 혼합 방식으로, 처리 능력이 제한된 기기에서 실행되도록 최적화됐다.

원문 보기 (siliconangle.com)

RELATED ARTICLES