docker 搭建的服务与 官网提供的智能解析之间存在什么区别吗？

[CUsopp]

感觉官网提供的智能解析 的pipe 比自己docker 搭建的pipe 效果好上很多。

[CUsopp]

vlm 的效果更是绝了，求指教

[dosubot[bot]]

Docker 部署使用 VLM 后端的关键步骤如下：

1. 切换后端

命令行使用 -b 参数指定后端 [1]：

# 本地 GPU 推理（需要 Volta 架构以上 GPU，8GB+ 显存）
mineru -p <input_path> -o <output_path> -b vlm-auto-engine

# 或连接远程 OpenAI 兼容服务（无需本地 GPU）
mineru -p <input_path> -o <output_path> -b vlm-http-client -u http://<host>:30000/v1

2. Docker 启动时注意关键参数

--shm-size 和 --ipc=host 对 vLLM 性能至关重要 [2]：

docker run --gpus all -it \
  --shm-size 32g \
  --ipc=host \
  -p 30000:30000 -p 8000:8000 \
  mineru:latest /bin/bash

3. 启动 OpenAI 兼容服务

容器内运行 [3]：

mineru-openai-server --host 0.0.0.0 --port 30000

多卡可用：

CUDA_VISIBLE_DEVICES=0,1 mineru-openai-server --data-parallel-size 2 --port 30000

4. 关键环境变量（需 v2.6.6+）

• MINERU_MODEL_SOURCE：设为 local/huggingface/modelscope [4]
• MINERU_MIN_BATCH_INFERENCE_SIZE：批大小，显存充足可设 256+
• MINERU_VIRTUAL_VRAM_SIZE：每进程显存上限
• --max_concurrency 建议设为 10 以下，过高容易 crash [5]

硬件方面，VLM auto-engine 最低需要 8GB 显存的 GPU（Volta 架构及以上），注意 vLLM 会预分配显存，同一台机器上不能同时跑多个 vLLM 服务 [3]。

To reply, just mention @dosu.

---

^{How did I do? Good | Irrelevant | Incorrect | Verbose | Hallucination | Report 🐛 | Other}
   

[CUsopp]

@myhloli 官网在线提供的是什么版本啊？为什么效果会那么好？3.0以及2.6.8的部署版感觉都没有 官网在线效果好。有什么办法能让线下部署和官网同步吗？或者有什么必要参数？或者有提供什么接口服务吗？

[myhloli]

在线版的核心解析模块和开源版完全一致。线上版针对解析后的预览渲染做了一些额外优化，内核并不本质区别。

[CUsopp]

难以置信，在线版的pipe 准确度好高，而且vlm 解析速度和 pipe的解析速度基本上一样，6、7s一张图片，我本地部署的解析速度就特别特别慢，要几十s；