AI 모델
무료로 받은 오픈 웨이트 모델… 내 PC에 찍힌 ’16GB VRAM’의 청구서
무료 모델도 실행 장비 비용이 든다. 월 10만건 기준 API는 15만~35만원, RTX 5060 Ti PC는 8만4806~11만7806원이다. 실제 비용은 보유 장비와 사용 빈도에 따라 달라진다.
태그
기사 2건
무료 모델도 실행 장비 비용이 든다. 월 10만건 기준 API는 15만~35만원, RTX 5060 Ti PC는 8만4806~11만7806원이다. 실제 비용은 보유 장비와 사용 빈도에 따라 달라진다.
무료로 공개된 AI 모델을 내 컴퓨터에서 직접 돌리는 순서를 단계별로 정리했다. 올라마(Ollama) 설치와 첫 대화, 모델 이름과 태그 읽는 법, 허깅페이스 연동 및 외부 코딩…