> ## Documentation Index
> Fetch the complete documentation index at: https://arka-agent-mintlify-f21cea86.mintlify.site/llms.txt
> Use this file to discover all available pages before exploring further.

# vLLM 兜底

> 将本地的 vLLM OpenAI 兼容服务器用作 Arka 的兜底提供商。

先启动 vLLM，然后在 Arka 的兜底链中启用它：

```bash theme={null}
export VLLM_HOST=127.0.0.1:8000
export VLLM_MODEL=your-loaded-model
export VLLM_FALLBACK=1
arka doctor
```

当 vLLM 可达或被显式配置时，Arka 会尝试它；若本地服务器失败，则继续沿常规的提供商链推进。设置 `VLLM_FALLBACK=0` 可关闭这一可选的兜底行为。


## Related topics

- [Apple Intelligence（设备端）](/cn/guides/apple-intelligence.md)
- [OCR + vLLM 证据](/cn/guides/vision-evidence.md)
- [使用 pytest 套件测试 Arka](/cn/guides/testing.md)
- [有界数据采集](/cn/guides/data-collection.md)
- [多提供商故障切换的 LLM 编排](/cn/concepts/llm.md)


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.