← 용어
GGUF 포맷
llama.cpp, Ollama, LM Studio, 대부분 로컬 추론 도구가 쓰는 양자화 LLM 표준 파일 포맷. .gguf 파일은 가중치·토크나이저·메타데이터를 단일 크로스플랫폼 바이너리에 담음. 구 GGML 포맷의 후속. 2026년 로컬 LLM 돌린다면 거의 GGUF 사용 중.
llama.cpp, Ollama, LM Studio, 대부분 로컬 추론 도구가 쓰는 양자화 LLM 표준 파일 포맷. .gguf 파일은 가중치·토크나이저·메타데이터를 단일 크로스플랫폼 바이너리에 담음. 구 GGML 포맷의 후속. 2026년 로컬 LLM 돌린다면 거의 GGUF 사용 중.