硬件支持及示例

ARM CPU

Paddle Lite 支持 ARM Cortex-A 系列处理器，支持列表如下:

32bit (ARMv7a)

• Cortex-A5
• Cortex-A7
• Cortex-A8
• Cortex-A9
• Cortex-A12
• Cortex-A15
• Cortex-A17 (RK3288)
• Cortex-A32

64bit (ARMv7a, ARMv8a)

• Cortex-A35
• Cortex-A53 (树莓派 3)
• Cortex-A55
• Cortex-A57 (Nvidia tx1，Nvidia tx2， 高通 810 等)
• Cortex-A72 (麒麟 95X，高通 820, RK3399，树莓派 4 等)
• Cortex-A73 (麒麟 960，麒麟 970，高通 835, 联发科 X30 等)
• Cortex-A75 (高通 845等)
• Cortex-A76 (麒麟 980，麒麟 990，高通 855，高通 730，联发科 G90 等）
• Cortex-A77
• ARMv8-A compatible (Apple A 系列处理器, Nvidia tegra, Qualcomm Kryo, Falkor, Samsung Mongoose)

ARM CPU 环境准备及示例程序

• Android: Android apps
• iOS: iOS apps
• Linux: Linux apps

X86 CPU

Paddle Lite 当前支持 AVX 及 FMA 指令集的 X86 CPU，正在完善 SSE 指令集的实现。因为 X86 设备众多，不一一列举。

• 下面列举判断当前 CPU 是否同时支持 AVX 及 FMA 指令集（判断 Paddle Lite 是否支持该 CPU）的方法：
  • 目标设备是 linux：执行命令 cat /proc/cpuinfo 查看
  • 目标设备是 windows：利用免费工具 CPU-Z 查看

X86 CPU 环境准备及示例程序

• x86

移动端 GPU

Paddle Lite 支持多种移动端 GPU，包括 ARM Mali、Qualcomm Adreno、Apple A Series 等系列 GPU 设备，支持列表如下：

• ARM Mali G 系列
• Qualcomm Adreno 系列
• Apple A 系列

移动端 GPU 环境准备及示例程序

• OpenCL

昆仑芯 (kunlunxin) XPU

Paddle Lite 支持昆仑芯 XPU，支持列表如下：

• 昆仑芯 818-100 芯片
• 昆仑芯 818-300 芯片

昆仑芯 (kunlunxin) XPU 环境准备及示例程序

• 昆仑芯 XPU

昆仑芯 (kunlunxin) XTCL

Paddle Lite 支持 昆仑芯 (kunlunxin) XTCL，支持列表如下：

• 支持芯片: 昆仑芯1代 AI 芯片 CK10 / CK20, 昆仑芯2代 AI 芯片 CR20
• 支持加速卡: 昆仑芯 AI 加速卡 K100 / K200, 昆仑芯 AI 加速卡 R200

昆仑芯 (kunlunxin) XTCL 环境准备及示例程序

• 昆仑芯 XTCL

华为 (Huawei) 麒麟 NPU

Paddle Lite 支持华为达芬奇架构麒麟 NPU，支持列表如下：

• 支持芯片：Kirin 810/990/985/9000
• 支持设备：
  • Kirin 9000：HUAWEI Mate40 pro 系列
  • Kirin 9000E：HUAWEI Mate40 系列
  • Kirin 990 5G：HUAWEI Mate30 pro 系列，P40 pro 系列
  • Kirin 990：HUAWEI Mate30 系列, 荣耀 V20 系列, nova6 系列，P40 系列，Mate Xs
  • Kirin 985：HUAWEI nova7 5G，nova7 Pro 5G，荣耀 30
  • Kirin 820：HUAWEI nova7 SE 5G，荣耀 30S
  • Kirin 810：HUAWEI nova5 系列，nova6 SE，荣耀 9X 系列，荣耀 Play4T Pro

华为 (Huawei) 麒麟 NPU 环境准备及示例程序

• 华为麒麟 NPU

华为 (Huawei) 昇腾 NPU

Paddle Lite 已支持华为昇腾 NPU（Ascend310、Ascend710和Ascend910）在 X86 和 ARM 服务器上进行预测部署

• 支持芯片
  • Ascend 310 （CANN Version ≥ 3.3.0）
  • Ascend 710 （CANN Version ≥ 5.0.2.alpha005)
  • Ascend 910 （CANN Version ≥ 5.0.2.alpha005)
• 已验证的支持设备
  • Atlas 300I 推理卡（型号：3000/3010)（CANN Version ≥ 3.3.0）
  • Atlas 200 DK 开发者套件（CANN Version ≥ 3.3.0）
  • Atlas 800 推理服务器（型号：3000/3010）（CANN Version ≥ 3.3.0）
  • Atlas 300I Pro（CANN Version ≥ 5.0.2.alpha005)
  • Atlas 300T 训练卡（CANN Version ≥ 5.0.2.alpha005)

华为 (Huawei) 昇腾 NPU 环境准备及示例程序

• 华为昇腾 NPU

Intel OpenVINO

Paddle Lite 支持 Intel OpenVINO 预测部署

• 支持设备:
  • CPU, CPU 型号可查看 OpenVINO 官方数据

Intel OpenVINO 示例程序

• Intel OpenVINO

Android NNAPI

Paddle Lite 支持 Android NNAPI，支持列表如下：

• 支持设备：Android 8.1(Oreo) 及以上的终端设备（Android SDK version 需在 27 及以上）

Android NNAPI 环境准备及示例程序

• Android NNAPI

联发科 (MediaTek) APU

Paddle Lite 支持 联发科 (MediaTek) APU，支持列表如下：

• 支持芯片：MT8168/MT8175，及其他智能芯片
• 支持设备：MT8168-P2V1 Tablej

联发科 (MediaTek) APU 环境准备及示例程序

• 联发科 APU

芯原 TIM-VX

Paddle Lite 支持 芯原 TIM-VX，支持列表如下：

• 支持芯片：搭载了芯原 NPU 的 SoC，驱动版本需为 6.4.4.3

芯原 TIM-VX 环境准备及示例程序

• 芯原 TIM-VX

颖脉 (Imagination) NNA

Paddle Lite 支持 颖脉 (Imagination) NNA，支持列表如下：

• 支持芯片：紫光展锐虎贲 T7510
• 支持设备：海信 F50，Roc1 开发板(基于 T7510 的微型电脑主板)

颖脉 (Imagination) NNA 环境准备及示例程序

• 颖脉 NNA

高通 (Qualcomm) QNN

Paddle Lite 支持 高通 QNN，支持列表如下：

• 支持芯片: 高通 8295 芯片

高通 (Qualcomm) QNN 环境准备及示例程序

• 高通 QNN

寒武纪 (Cambricon) MLU

Paddle Lite 支持 寒武纪 (Cambricon) MLU，支持列表如下：

• 支持设备: 370-X4 （CNToolkit Version ≥ 3.0.2）, 370-S4 （CNToolkit Version ≥ 3.0.2)

寒武纪 (Cambricon) MLU 环境准备及示例程序

• 寒武纪 MLU

亿智 (Eeasytech) NPU

Paddle Lite 支持 亿智 (Eeasytech) NPU，支持列表如下：

• 支持芯片: SH506, SH510, SV806, SV810
• 支持设备: SH506/510 开发板, SV810/806 开发板

亿智 (Eeasytech) NPU 环境准备及示例程序

• 亿智 NPU