**GGUF(Georgi Gerganov Unified Format)**는 딥러닝 모델을 저장하는 단일 파일 형식입니다. 주로 GGML 라이브러리 기반의 런타임에서 사용되며, 특히 대규모 언어 모델(LLM) 추론에 많이 활용됩니다.
GGUF 파일은 기존 GGJT 형식을 기반으로 하지만, 더욱 확장 가능하고 사용하기 쉬운 형식으로 개선되었습니다.
**GGUF 파일의 주요 특징은 다음과 같습니다.**
* **단일 파일 형식:** 모델의 모든 정보가 하나의 파일에 저장됩니다.
* **확장 가능성:** 새로운 모델 및 데이터 형식을 쉽게 지원할 수 있습니다.
* **사용 편의성:** 모델 로딩 및 저장이 간편합니다.
* **압축:** 모델 크기를 줄여 저장 공간을 절약할 수 있습니다.
**GGUF 파일은 다음과 같은 경우에 유용합니다.**
* **딥러닝 모델을 저장하고 공유**해야 할 경우
* **모델을 빠르게 로딩하고 추론**해야 할 경우
* **모델 크기를 줄여 저장 공간을 절약**해야 할 경우