Adlik —— 加速深度学习推理的工具包
Adlik是深度学习模型的端到端优化框架。Adlik 的目标是在云和嵌入式环境中加速深度学习推理过程。 使用 Adlik 框架,不同的深度学习模型可以以非常灵活和简单的方式以高性能部署到不同的平台。 在云环境中,编译后的模型和 Adlik 推理引擎应构建为 docker 镜像,并部署为容器。 在边缘环境中,应将 Adlik 推理引擎部署为容器。编译后的模型应该转移到边缘环境,Adlik 推理引擎应该自动更新和加载模型。 在设备环境中,Adlik Inference Engine 和编译后的模型应编译为二进制文件。想要在设备上运行模型推理的用户应该将用户定义的 AI 函数和 Adlik 二进制文件链接到执行文件,并直接运行。 构建 本指南用于在Ubuntu系统上构建 Adlik。 首先,安装Git和Bazel。 然后,克隆 Adlik 并将工作目录更改为源目录: git clone https://github.com/ZTE/Adlik.git cd Adlik 构建客户端 安装以下软件包: python3-setuptools python3-wheel 构建客户端: bazel b...

