支持模型

目前,Paddle-Lite已严格验证28个模型的精度和性能。对视觉类模型做到了充分的支持,覆盖分类、检测和定位,也包含了特色的OCR模型的支持。对NLP模型也做到了广泛支持,包含翻译、语义表达等等。

除了已严格验证的模型,Paddle-Lite对其他CV和NLP模型也可以做到大概率支持。

类别 类别细分 模型 支持平台
CV 分类 MobileNetV1 ARM, X86, GPU(OPENCL), NPU, RKNPU, APU
CV 分类 MobileNetV2 ARM, X86, GPU(OPENCL), NPU
CV 分类 ResNet18 ARM, GPU(OPENCL), NPU, RKNPU
CV 分类 ResNet50 ARM X86, GPU(OPENCL), NPU, XPU, RKNPU
CV 分类 MnasNet ARM, GPU(OPENCL), NPU
CV 分类 EfficientNet* ARM, GPU(OPENCL)
CV 分类 SqueezeNet ARM, GPU(OPENCL), NPU
CV 分类 ShufflenetV2* ARM, GPU(OPENCL)
CV 分类 ShuffleNet ARM, GPU(OPENCL)
CV 分类 InceptionV4 ARM, X86, GPU(OPENCL), NPU
CV 分类 VGG16 ARM, GPU(OPENCL)
CV 分类 VGG19 ARM, GPU(OPENCL), XPU
CV 分类 GoogleNet ARM, X86, XPU
CV 检测 MobileNet-SSD ARM, GPU(OPENCL), NPU*
CV 检测 YOLOv3-MobileNetV3 ARM, GPU(OPENCL), NPU*
CV 检测 Faster RCNN ARM, GPU(OPENCL)
CV 检测 Mask RCNN* ARM
CV 分割 Deeplabv3 ARM, OPENCL(GPU)
CV 分割 UNet ARM, GPU(OPENCL)
CV 人脸 FaceDetection ARM
CV 人脸 FaceBoxes* ARM
CV 人脸 BlazeFace* ARM
CV 人脸 MTCNN ARM, GPU(OPENCL)
CV OCR OCR-Detection-DB ARM
CV OCR OCR-Recognition-CRNN ARM, GPU(OPENCL)
CV OCR OCR-angle classifier ARM, GPU(OPENCL)
CV OCR OCR-Attention ARM
CV GAN CycleGAN* NPU
NLP 机器翻译 Transformer* ARM, NPU*
NLP 机器翻译 BERT XPU
NLP 语义表示 ERNIE XPU

注意:

  1. 模型列表中 * 代表该模型链接来自PaddlePaddle/models, 否则为推理模型的下载链接
  2. 支持平台列表中 NPU* 代表ARM+NPU异构计算, 否则为NPU计算
  3. 寻找更多的可支持的模型还可以转至PaddleOCRPaddleDetectionpaddle-modelsPaddleHub