Skip to content

基于arm+npu 的服务器,可以实现 用 FastDeploy 部署 PaddleOCR-VL + TableMagic 这2条产线吗,主要为了解决越跑越慢的问题 #7291

Description

@lyleft591882338

现在服务器是 arm + npu ,部署了多实例的2条产线,PaddleOCR-VL + TableMagic ,PaddleOCR-VL 使用的是官方的 docker compose , TableMagic 使用的是 paddlex --serve 启动的多实例,最后用 nginx 统一转发,现在的问题是越跑越慢,查了些资料,说是 FastDeploy 可以解决这个问题,但是在官方github 没有找到基于 arm + npu 的部署文档,不确定是否支持,麻烦大佬们给解答下,或者有其他方案也可以,万分感谢!

Activity

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

Labels

No labels
No labels

Type

No type

Projects

No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions