라마앱(llama.app)은 8월 12일 사이트에서 frontier AI를 PC 등 사용자의 로컬 환경에서만 돌릴 수 있다고 밝혔다. 라마앱은 API 키가 필요 없고, 텔레메트리 전송도 없으며, 사용 한도도 없다고 설명했다. 모델과 대화 데이터는 사용자의 기기 안에 남는다고 덧붙였다.
라마앱은 llama serve를 실행한 뒤 pi-라마 플러그인(pi-llama plugin)을 설치하고 Pi를 띄우면 로컬 모델을 자동으로 찾는다고 안내했다. 별도 설정이나 API 키 없이 동작하며, 파일은 기기에 그대로 유지되고 요청은 외부로 나가지 않는다고 강조했다.
라마앱은 llama.cpp가 노트북부터 클러스터까지 사용 가능한 단일 바이너리 형태로 구동된다고 전했다. 같은 바이너리로 동일한 모델을 쓰고, GPU와 CPU에 맞춰 손으로 튜닝한 커널이 적용된다고 설명했다.
라마앱은 지원 모델군도 소개했다. 알리바바(Alibaba)는 차세대 네이티브 멀티모달 추론 모델을 제시했고, 구글(Google)은 제미나이(Gemini) 3 기술 기반의 오픈 모델과 140개+ 언어 지원, 에이전트형 작업 흐름, 멀티모달 추론을 지원한다고 했다. 오픈AI(OpenAI)는 GPT-2 이후 처음으로 공개 가중치(open-weight) 모델을 내놨으며, 개발자용 추론·에이전트형 작업과 함수 호출·도구 사용 기능을 갖췄다고 밝혔다. 또 구글은 제미나이 기술 기반 멀티모달 모델이 최대 128K 컨텍스트를 지원하며, 엣지부터 클라우드까지 배치할 수 있다고 설명했다.