You cannot select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
|
8 months ago | |
---|---|---|
.. | ||
fastdeploy_serving | 8 months ago | |
simple_serving | 8 months ago | |
README.md | 8 months ago |
README.md
English | 简体中文
PaddleOCR 使用 FastDeploy 服务化部署PP-OCR系列模型
1. FastDeploy 服务化部署介绍
在线推理作为企业或个人线上部署模型的最后一环,是工业界必不可少的环节,其中最重要的就是服务化推理框架。FastDeploy 目前提供两种服务化部署方式:simple_serving和fastdeploy_serving
- simple_serving:适用于只需要通过http等调用AI推理任务,没有高并发需求的场景。simple_serving基于Flask框架具有简单高效的特点,可以快速验证线上部署模型的可行性
- fastdeploy_serving:适用于高并发、高吞吐量请求的场景。基于Triton Inference Server框架,是一套可用于实际生产的完备且性能卓越的服务化部署框架
2. 支持的PaddleOCR推理模型
下表中的推理模型为FastDeploy测试过的模型, 下载链接由PaddleOCR模型库提供, 更多的模型, 详见PP-OCR系列模型列表, 欢迎用户尝试.
PaddleOCR版本 | 文本框检测 | 方向分类模型 | 文字识别 | 字典文件 | 说明 |
---|---|---|---|---|---|
ch_PP-OCRv3[推荐] | ch_PP-OCRv3_det | ch_ppocr_mobile_v2.0_cls | ch_PP-OCRv3_rec | ppocr_keys_v1.txt | OCRv3系列原始超轻量模型,支持中英文、多语种文本检测 |
en_PP-OCRv3[推荐] | en_PP-OCRv3_det | ch_ppocr_mobile_v2.0_cls | en_PP-OCRv3_rec | en_dict.txt | OCRv3系列原始超轻量模型,支持英文与数字识别,除检测模型和识别模型的训练数据与中文模型不同以外,无其他区别 |
ch_PP-OCRv2 | ch_PP-OCRv2_det | ch_ppocr_mobile_v2.0_cls | ch_PP-OCRv2_rec | ppocr_keys_v1.txt | OCRv2系列原始超轻量模型,支持中英文、多语种文本检测 |
ch_PP-OCRv2_mobile | ch_ppocr_mobile_v2.0_det | ch_ppocr_mobile_v2.0_cls | ch_ppocr_mobile_v2.0_rec | ppocr_keys_v1.txt | OCRv2系列原始超轻量模型,支持中英文、多语种文本检测,比PPOCRv2更加轻量 |
ch_PP-OCRv2_server | ch_ppocr_server_v2.0_det | ch_ppocr_mobile_v2.0_cls | ch_ppocr_server_v2.0_rec | ppocr_keys_v1.txt | OCRv2服务器系列模型, 支持中英文、多语种文本检测,比超轻量模型更大,但效果更好 |