v3版本当前支持在昇腾910B多卡部署推理吗？

[jonnyzqq]

v3版本当前支持在昇腾910B多卡部署推理吗？

[dosubot[bot]]

MinerU v3 支持在昇腾 NPU 上部署推理，并且代码中已有在 Ascend 910B2（昆鹏920 CPU + CTyunOS 22.06）上的测试记录 [1]。

多卡部署方面，MinerU 支持通过 ASCEND_RT_VISIBLE_DEVICES 环境变量指定使用的 NPU 设备 [2]，同时提供了 mineru-router 组件，可以在多卡间进行任务路由和自动负载均衡 [3]。

推理后端支持两种框架 [1]:

• vLLM — 兼容 Atlas A2、A3、800I 系列
• LMDeploy — 兼容 Atlas A2、800I A2 系列

此外，MinerU 也提供了针对 ARM(AArch64) CPU + Ascend NPU 的 Docker 部署方案，可以简化环境配置。

总体来说，910B 硬件是兼容的，多卡部署也支持。不过官方文档主要以 Atlas A2/A3 系列为主，910B 相关的专门说明较少，实际部署中如遇到问题可以进一步反馈。

To reply, just mention @dosu.

---

Share context across your team and agents. Try Dosu.

[jonnyzqq]

按照您提到的npu多卡部署方式，还是只占了一张卡

[sizhongyibanhts]

能请问您怎么在910上部署起来吗？我们遇到下面issue中的报错。

第一次使用昇腾显卡，没什么经验，麻烦您了

问题

我们启动的时候，会遇到报错呀！问了ai，貌似是图片渲染导致的，已经提了issue：

#4884

核心报错

doc_analyze_streaming
└→ load_images_from_pdf_doc
└→ _load_images_from_pdf_bytes_range
└→ TimeoutError: PDF image rendering timeout after 300s for pages 1-1

[myhloli]

非cuda兼容gpu需要分别在不同终端内通过api命令启动多个实例，并通过router手动输入api地址聚合

[sizhongyibanhts]

能请问您怎么在910上部署起来吗？我们遇到下面issue中的报错。

第一次使用昇腾显卡，没什么经验，麻烦您了

问题

我们启动的时候，会遇到报错呀！问了ai，貌似是图片渲染导致的，已经提了issue：

#4884

核心报错

doc_analyze_streaming
└→ load_images_from_pdf_doc
└→ _load_images_from_pdf_bytes_range
└→ TimeoutError: PDF image rendering timeout after 300s for pages 1-1

[sizhongyibanhts]

问题

我们启动的时候，会遇到报错呀！问了ai，貌似是图片渲染导致的，已经提了issue：

#4884

核心报错

doc_analyze_streaming
└→ load_images_from_pdf_doc
└→ _load_images_from_pdf_bytes_range
└→ TimeoutError: PDF image rendering timeout after 300s for pages 1-1