首页 文章 精选 留言 我的

精选列表

搜索[工具模块],共10000篇文章
优秀的个人博客,低调大师

Adlik —— 加速深度学习推理的工具

Adlik是深度学习模型的端到端优化框架。Adlik 的目标是在云和嵌入式环境中加速深度学习推理过程。 使用 Adlik 框架,不同的深度学习模型可以以非常灵活和简单的方式以高性能部署到不同的平台。 在云环境中,编译后的模型和 Adlik 推理引擎应构建为 docker 镜像,并部署为容器。 在边缘环境中,应将 Adlik 推理引擎部署为容器。编译后的模型应该转移到边缘环境,Adlik 推理引擎应该自动更新和加载模型。 在设备环境中,Adlik Inference Engine 和编译后的模型应编译为二进制文件。想要在设备上运行模型推理的用户应该将用户定义的 AI 函数和 Adlik 二进制文件链接到执行文件,并直接运行。 构建 本指南用于在Ubuntu系统上构建 Adlik。 首先,安装Git和Bazel。 然后,克隆 Adlik 并将工作目录更改为源目录: git clone https://github.com/ZTE/Adlik.git cd Adlik 构建客户端 安装以下软件包: python3-setuptools python3-wheel 构建客户端: bazel build //adlik_serving/clients/python:build_pip_package -c opt 构建 pip 包: mkdir /tmp/pip-packages && bazel-bin/adlik_serving/clients/python/build_pip_package /tmp/pip-packages 构建服务 首先,安装以下软件包: automake libtbb2 libtool make python3-six 使用 OpenVINO 运行时构建服务 从OpenVINO安装intel-openvino-runtime-ubuntu<OS_VERSION>-<VERSION>包。 假设 OpenVINO 的安装路径为/opt/intel/openvino_VERSION,运行如下命令: export INTEL_CVSDK_DIR=/opt/intel/openvino_VERSION export InferenceEngine_DIR=$INTEL_CVSDK_DIR/deployment_tools/inference_engine/share bazel build //adlik_serving \ --config=openvino \ -c opt 使用 TensorFlow CPU 运行时构建服务 运行以下命令: bazel build //adlik_serving \ --config=tensorflow-cpu \ -c opt 使用 TensorFlow GPU 运行时构建服务 假设使用 CUDA 版本 11.0 构建。 从这里和这里安装以下软件包: cuda-cupti-dev-11-0 libcublas-dev-11-0 libcudnn8=*+cuda11.0 libcudnn8-dev=*+cuda11.0 libcufft-dev-11-0 libcurand-dev-11-0 libcusolver-dev-11-0 libcusparse-dev-11-0 libnvinfer7=7.2.*+cuda11.0 libnvinfer-dev=7.2.*+cuda11.0 libnvinfer-plugin7=7.2.*+cuda11.0 libnvinfer-plugin-dev=7.2.*+cuda11.0 运行以下命令: env TF_CUDA_VERSION=11.0 TF_NEED_TENSORRT=1 \ bazel build //adlik_serving \ --config=tensorflow-gpu \ -c opt \ --incompatible_use_specific_tool_files=false 使用 TensorFlow Lite CPU 运行时构建服务 运行以下命令: bazel build //adlik_serving \ --config=tensorflow-lite-cpu \ -c opt 使用 TensorRT 运行时构建服务 假设使用 CUDA 版本 11.0 构建。 从这里和这里安装以下软件包: cuda-cupti-dev-11-0 cuda-nvml-dev-11-0 cuda-nvrtc-11-0 libcublas-dev-11-0 libcudnn8=*+cuda11.0 libcudnn8-dev=*+cuda11.0 libcufft-dev-11-0 libcurand-dev-11-0 libcusolver-dev-11-0 libcusparse-dev-11-0 libnvinfer7=7.2.*+cuda11.0 libnvinfer-dev=7.2.*+cuda11.0 libnvonnxparsers7=7.2.*+cuda11.0 libnvonnxparsers-dev=7.2.*+cuda11.0 运行以下命令: env TF_CUDA_VERSION=11.0 \ bazel build //adlik_serving \ --config=TensorRT \ -c opt \ --action_env=LIBRARY_PATH=/usr/local/cuda-11.0/lib64/stubs \ --incompatible_use_specific_tool_files=false 使用 TF-TRT 运行时构建服务 假设使用 CUDA 版本 11.0 构建。 从这里和这里安装以下软件包: cuda-cupti-dev-11-0 libcublas-dev-11-0 libcudnn8=*+cuda11.0 libcudnn8-dev=*+cuda11.0 libcufft-dev-11-0 libcurand-dev-11-0 libcusolver-dev-11-0 libcusparse-dev-11-0 libnvinfer7=7.2.*+cuda11.0 libnvinfer-dev=7.2.*+cuda11.0 libnvinfer-plugin7=7.2.*+cuda11.0 libnvinfer-plugin-dev=7.2.*+cuda11.0 运行以下命令: env TF_CUDA_VERSION=11.0 TF_NEED_TENSORRT=1 \ bazel build //adlik_serving \ --config=tensorflow-tensorrt \ -c opt \ --incompatible_use_specific_tool_files=false 使用 Tvm 运行时构建服务 安装以下软件包: build-essential cmake tvm 运行以下命令: bazel build //adlik_serving \ --config=tvm \ -c opt

优秀的个人博客,低调大师

ClickHouse 可视化工具 CH Visualize Release 1.11.0

DBM1.11.0版本发布! 发布时间:2022-02-22 功能 (增强) 支持Nullable修改列类型 构建数据表支持可选参数 支持版本更新检查 支持通过过滤条件清除分区数据 支持数据迁移 文档 中文文档支持 优化 优化数据库删除UI Bug 修复了无法构建日志相关引擎表的问题 修复了慢查询列表无法显示DDL的问题 修复README.md文件无法logo 修复新版本导致的CI异常 https://github.com/EdurtIO/dbm/releases/tag/1.11.0

优秀的个人博客,低调大师

VSDB —— 数据库版本管理工具

VSDB 是一个 Key-Value 数据库形式的 'Git'。基于 VSDB 强大的版本控制功能,开发者可轻松为数据结构赋予版本管理能力。 功能亮点 支持类似 Git 的版本控制操作,例如: 创建无数分支并将它们合并到它们的父级 将“分支”回滚到指定的历史“版本” 查询指定'branch'上某个 key 的历史值 大多数 API 类似于标准库中对应的数据结构 使用Vecx就像Vec 使用Mapx就像HashMap 使用MapxOrd就像BTreeMap ... 示例 struct GreatAlgo { a: Vec<...>, b: BTreeMap<...>, c: u128, d: HashMap<...>, e: ... } #[dervive(Vs, Default)] struct GreatAlgo { a: VecxVs<...>, b: MapxOrdVs<...>, c: OrphanVs<u128>, d: MapxVs<...>, e: ... } let algo = GreatAlgo.default(); algo.get_by_branch_version(...); algo.branch_create(...); algo.branch_create_by_base_branch(...); algo.branch_create_by_base_branch_version(...); algo.branch_remove(...); algo.version_pop(...); algo.prune();

优秀的个人博客,低调大师

IPython 8.0 发布,Python 命令行交互工具

IPython 是 Python 的原生交互式 shell 的增强版,可以完成许多不同寻常的任务,比如帮助实现并行化计算;主要使用它提供的交互性帮助,比如代码着色、改进了的命令行回调、制表符完成、宏功能以及改进了的交互式帮助。 IPython8.0 酝酿了许久,主要对现有代码库和几个新功能进行了改进。新功能包括在 CLI 中使用 Black 重新格式化代码、ghost 建议以及突出错误节点的更好的回溯,从而使复杂的表达式更易于调试。 追溯改进 之前的错误回溯显示一个散列表(hash),用于编译 Python AST: In [1]: def foo(): ...: return 3 / 0 ...: In [2]: foo() --------------------------------------------------------------------------- ZeroDivisionError Traceback (most recent call last) <ipython-input-2-c19b6d9633cf> in <module> ----> 1 foo() <ipython-input-1-1595a74c32d5> in foo() 1 def foo(): ----> 2 return 3 / 0 3 ZeroDivisionError: division by zero 现在错误回溯的格式正确,会显示发生错误的单元格编号: In [1]: def foo(): ...: return 3 / 0 ...: Input In [2]: foo() --------------------------------------------------------------------------- ZeroDivisionError Traceback (most recent call last) input In [2], in <module> ----> 1 foo() Input In [1], in foo() 1 def foo(): ----> 2 return 3 / 0 ZeroDivisionError: division by zero 第二个回溯改进是 stack_data 包的集成;在回溯中提供更智能的信息;它会突出显示发生错误的 AST 节点,这有助于快速缩小错误范围,比如 def foo(i): x = [[[0]]] return x[0][i][0] def bar(): return foo(0) + foo( 1 ) + foo(2) 调用 bar() 会在IndexError 的返回行上引发一个 foo,IPython 8.0 可以告诉你索引错误发生在哪里: IndexError Input In [2], in <module> ----> 1 bar() ^^^^^ Input In [1], in bar() 6 def bar(): ----> 7 return foo(0) + foo( ^^^^ 8 1 ^^^^^^^^ 9 ) + foo(2) ^^^^ Input In [1], in foo(i) 1 def foo(i): 2 x = [[[0]]] ----> 3 return x[0][i][0] ^^^^^^^ 用 ^ 标记的位置在终端会高亮显示。 第三个回溯改进是最谨慎的,但对生产力有很大影响,在回溯中的文件名后面附加一个冒号:: 和行号: ZeroDivisionError Traceback (most recent call last) File ~/error.py:4, in <module> 1 def f(): 2 1/0 ----> 4 f() File ~/error.py:2, in f() 1 def f(): ----> 2 1/0 许多终端和编辑器具有的集成功能,允许在使用此语法时直接跳转到错误相关的文件/行。 自动建议 Ptpython 允许用户在 ptpython/config.py 中启用自动建议功能,此功能包含丰富的代码补全建议,如图: 目前,自动建议仅在 emacs 或 vi 插入编辑模式中显示: ctrl e、ctrl f 和 alt f 快捷键默认在 emacs 模式下工作。 要在 vi 插入模式下使用这些快捷键,必须在 config.py 中创建自定义键绑定。 使用“?”和"??"查看对象信息 在 IPDB 中,现在可以使用“?”和”? ?“来显示对象的信息,在使用 IPython 提示符时也可如此操作: ipdb> partial? Init signature: partial(self, /, *args, **kwargs) Docstring: partial(func, *args, **keywords) - new function with partial application of the given arguments and keywords. File: ~/.pyenv/versions/3.8.6/lib/python3.8/functools.py Type: type Subclasses: 历史范围全局功能 之前使用 %history功能时,用户可以指定会话和行的范围,例如: ~8/1-~6/5 # see history from the first line of 8 sessions ago, # to the fifth line of 6 sessions ago.`` 或者可以指定全局模式(global): -g <pattern> # glob ALL history for the specified pattern. 但无法同时指定两者,如果用户确实指定了范围和全局模式,则将使用 glob 模式(通配所有历史记录),并且将忽略范围。 现在此功能获得了增强,如果用户同时指定范围和 glob 模式,则 glob 模式将应用于指定的历史范围。 此外,Ipython 8.0 还取消了对 Python 3.7 的支持,仅支持 3.8 以上版本。有关Ipython 8.0 的更多新功能,可在发布页面查看。

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

用户登录
用户注册