> ## Documentation Index
> Fetch the complete documentation index at: https://arka-agent-mintlify-f21cea86.mintlify.site/llms.txt
> Use this file to discover all available pages before exploring further.

# vLLM fallback

> एक लोकल vLLM OpenAI-compatible सर्वर को Arka fallback provider के रूप में उपयोग करें।

vLLM शुरू करें, फिर इसे Arka की fallback chain में सक्षम करें:

```bash theme={null}
export VLLM_HOST=127.0.0.1:8000
export VLLM_MODEL=your-loaded-model
export VLLM_FALLBACK=1
arka doctor
```

जब vLLM उपलब्ध हो या स्पष्ट रूप से configured हो तो Arka उसे आज़माता है, फिर लोकल
सर्वर विफल होने पर सामान्य provider chain में आगे बढ़ता है। Opt-in fallback
व्यवहार को अक्षम करने के लिए `VLLM_FALLBACK=0` सेट करें।


## Related topics

- [pytest suite के साथ Arka का Testing](/hi/guides/testing.md)
- [Integrations](/hi/guides/integrations.md)
- [Operation modes](/hi/guides/operation-modes.md)
- [3D model से transparent image](/hi/guides/model-to-image.md)
- [मुफ़्त मॉडल खोजें](/hi/guides/free-models.md)


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.