在线试用版本是否优于自己部署

[Isfate]

我自己部署了最新的模型, 环境如下:
A100 * 1
VLLM 0.18.0
参数指定了 --gpu-memory-utilization
其余未指定
然后使用vllm-http-client
解析的效果比在线试用版本要差

自己部署版:

在线试用版:

圈出位置内容丢失

[Isfate]

坝河（砖角楼至酒仙桥路段）滨水空间建设工程造价咨询项目合同.pdf
这是原始文件

[myhloli]

丢失的部分是被识别成页眉了，可以通过json和可视化pdf确认

[myhloli]

header和footer都是追加在当页正文后的

[Isfate]

而且线上版本的layout识别每次都是正确的, 是否是我的部署方式有问题, 导致类型识别错误

[myhloli]

线上的是2.7.6老版本，还没更新

[Isfate]

反而新模型在一些方面, 效果变差了

[myhloli]

新模型整体精度是上升的，不能只看个例