首页 文章 精选 留言 我的

精选列表

搜索[腾讯乐享],共10000篇文章
优秀的个人博客,低调大师

腾讯云ubuntu安装tensorflow

1.安装python 首先我的云主机系统是ubuntu 64位的,预装有python2.7 2.安装python-pip和python-dev $ sudo apt-get install python-pip python-dev 3.安装TensorFlow pip安装软件是默认先读到内容,在安装,又因为我的云主机内存只有1个G,带宽也只有1Mbps,所有必须设置no-cache安装。可以这样 先执行 export TF_BINARY_URL=https://storage.googleapis.com/tensorflow/linux/cpu/tensorflow-0.8.0-cp27-none-linux_x86_64.whl 再执行 sudo pip --no-cache-dir install --upgrade $TF_BINARY_URL 0.8.0是tensorflow的版本,正常的话等一会儿就安装好了 image.png

优秀的个人博客,低调大师

注册即送 500 积分,畅享云上推理新体验🎉

Xorbits Inference(Xinference)是一个 性能强大且功能全面的 分布式 推理框架。可用于大语言模型(LLM),语音识别模型,多模态模型等各种模型的推理。通过 Xorbits Inference,你可以轻松地 一键部署你自己的模型或内置的前沿开源模型 - https://github.com/xorbitsai/inference。无论你是研究者,开发者,或是数据科学家,都可以通过 Xorbits Inference 与最前沿的 AI 模型,发掘更多可能。 Xinference 的功能和亮点有: * 🌟 模型推理,轻而易举:大语言模型,语音识别模型,多模态模型的部署流程被大大简化。一个命令即可完成模型的部署工作。 * ⚡️ 前沿模型,应有尽有:框架内置众多中英文的前沿大语言模型,包括 baichuan,chatglm2 等,一键即可体验!内置模型列表还在快速更新中! * 🖥 异构硬件,快如闪电:通过 ggml,同时使用你的 GPU 与 CPU 进行推理,降低延迟,提高吞吐! * ⚙️ 接口调用,灵活多样:提供多种使用模型的接口,包括 OpenAI 兼容的 RESTful API(包括 Function Calling),RPC,命令行,web UI 等等。方便模型的管理与交互。 * 🌐 集群计算,分布协同:支持分布式部署,通过内置的资源调度器,让不同大小的模型按需调度到不同机器,充分使用集群资源。 * 🔌 开放生态,无缝对接:与流行的三方库无缝对接,包括 LangChain, LlamaIndex, Dify,以及 Chatbox。 🎉 Xinference v0.16.0 发布,本次发布会同时带来企业版和云上版本更新。 社区版 📋 更新指南 * 🏷️ pip:pip install 'xinference==0.16.0’ * 🐳 Docker:拉取最新版本即可,也可以直接在镜像内用 pip 更新 🆕 更新日志 * 新功能 * 🏎️ transformers 引擎的 continuous batching 成为默认推理行为,原来的推理逻辑已被废弃。参考文档 📖: Continuous Batching * 🖼️ FLUX.1 的文生图接口支持动态 batch,提升吞吐。详情请参考文档 📖 * 👁️ 部分 vllm 引擎的 vision 模型支持 awq / gptq 量化 * ⚙️ qwen2.5-instruct 支持 MLX 引擎 * 🕒 xinference 命令行响应时间缩短 * 🐞 BUG修复 * 修复 glm4-chat 模型 padding 相关问题 * ⏳ 即将废弃 * v0.17.0 将支持 Python 3.12,移除对 Python 3.8 的支持 企业版 📦 已更新至 v0.0.6 版本,企业版包含社区全部功能,并提供高可用、可观测性、国产卡支持。详细请联系 📞 @李鹏 🆕 主要更新内容 1. 🎥 支持 minicpm base64 格式视频解析 2. 🚀 默认开启 SGLANG 引擎 3. 🔧 暴露删除运行实例的接口,便于处理数据不一致 4. 🛠️ 修复运行实例列表的一致性问题 5. 在社区版 v0.16.0 正式发布前,其功能已提前更新并可供使用 云上版本 访问 🔗 inference.top。注册即送 🎁 500 积分! * 💳 微信支付功能上线,充值后享受更少的并发限制 * 💬 文本对话滚动优化 * 🖼️ 图像模型添加进度条显示 我们感谢每一位参与的社区伙伴对 Xinference 的帮助和支持,也欢迎更多使用者和开发者参与体验和使用 Xinference。 欢迎您在 https://github.com/xorbitsai/inference 给我们一个 星标,这样你就可以在 GitHub 上及时收到每个新版本的通知。

资源下载

更多资源
Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册