> ## Documentation Index
> Fetch the complete documentation index at: https://arka-agent-mintlify-f21cea86.mintlify.site/llms.txt
> Use this file to discover all available pages before exploring further.

# Local model quantization

> एक सुरक्षित preview-first workflow के साथ छोटे GGUF मॉडल बनाएँ।

```bash theme={null}
arka quantize model-f16.gguf --output model-q4.gguf --type Q4_K_M
arka quantize model-f16.gguf --output model-q4.gguf --type Q4_K_M --run
```

पहला command `llama-quantize` command को preview करता है। इसे निष्पादित करने के
लिए `--run` जोड़ें; Arka output directory स्वतः बनाता है। Conversions
चलाने से पहले `llama-quantize` को expose करने वाला llama.cpp build install करें।


## Related topics

- [Local model optimization और setup](/hi/guides/local-models.md)
- [Integrations](/hi/guides/integrations.md)
- [Security model और prompt-injection रक्षा](/hi/concepts/security.md)
- [Cursor और Claude के लिए MCP integration](/hi/guides/mcp.md)
- [Local LLM रिसर्च नोट्स](/hi/guides/local-llm-research.md)


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.