搜索[部署]结果-低调大师优秀个人博客

精选列表

搜索[部署]，共10000篇文章

SamWaf v1.3.9 已经发布，开源、轻量级、可私有化部署的网站应用防火墙

20250116 (v1.3.9) ::: warning 重要修改: v1.3.9 新增了超时访问时长控制，之前没有限制，无限等待，可能存在尝试占用不释放资源的问题，新版本默认是60秒，如果修改成0则是不限制，请依据情况进行修改 ::: 提升稳定性新增支持同时绑定多个域名新增防护主机可以按照创建时间排序新增日志可进行脱敏拷贝新增支持SSL免费证书自动申请，到期提前自动延期自动申请SSL操作手册新增SSL证书批量检测 SSL证书批量检测新增支持网站帐号密码访问新增支持超时配置新增内部任务管理界面修正网站导入、导出功能优化Docker发布策略正式版本latest,最新测试版本单独发标签

2025-01-16

RWKV 模型已部署到 5 亿台 Windows 电脑？真正开源的新一代 AI 架构

2024 年 9 月，RWKV 社区成员发现：Office 系统在自动更新后（版本 2407 及以后）已自带 RWKV 运行库。在 Windows 系统的 C:\Program Files\Microsoft Office\root\vfs\ProgramFilesCommonX64\Microsoft Shared\OFFICE16 目录，可以找到一系列 rwkv dll（动态链接库）文件。由于正版 Windows 大多预装了 Office 365，因此，全球大多数 Windows 10 和 11 机器现已搭载 RWKV，包括线下商店中售卖的 Windows 机器。这意味着 RWKV 的装机量可达几亿台。 RWKV 是真正的开源架构（目前在 Linux Foundation 旗下），遵循 Apache 2.0 协议，可用于商业，欢迎大家在各个项目使用。 RWKV 的最新架构为 RWKV-6，且 RWKV-7 即将公布。从 dll 的文件属性，可以明确这是 RWKV 模型的加载器：此外，微软提供的协议中也明确出现了 rwkv.cpp 的仓库地址：随后，社区开发者对 dll 文件进行解析，发现 dll 中的函数确实是来自 rwkv.cpp 库中的 RWKV 模型相关函数：该发现在多方社交媒体上引起了激烈的讨论：知乎上的讨论：https://www.zhihu.com/question/666097016 RWKV 在 Windows 系统中的角色目前，微软方面未公布 RWKV 模型会用于 Windows 系统中的哪些功能。尽管 RWKV 系列 dll 文件存放在 Microsoft Office 目录中，但它们其实是操作系统的一部分，而不仅限于 Microsoft Office 。出于 RWKV 恒定的显存/内存占用、支持全球 100 多种语言、“能耗最低的模型”等特性，我们推测 RWKV 可能会用于以下 Windows 系统功能：本地 copilot 作为 Windows 系统的本地记忆回调器 Local memory recall 是让操作系统记住你过去的操作或输入信息，在需要时再次使用这些记忆。 RWKV 的 llama.cpp 用法随着 RWKV 社区成员 @MollySophia 的工作，llama.cpp 现已适配 RWKV-6 模型。接下来，我们一起看看如何在 llama.cpp 中使用 RWKV-6 模型进行推理：第一步：获取 gguf 格式模型 llama.cpp 支持 .gguf 格式的模型，但 RWKV 官方仅发布了 .pth 格式模型。因此，我们需要使用以下两种方法获取 gguf 格式的 RWKV 模型。方法 1：从 HF 下载现成 gguf 模型（推荐）可以从 https://huggingface.co/latestissue 下载已量化并转化成 gguf 格式的 RWKV 模型方法 2：从 HF 格式转换成 .gguf 格式首先，从 RWKV 官方 HF 仓库下载一个 Hugging Face 格式的 RWKV 模型，如 RWKV/v6-Finch-1B6-HF 然后在 llama.cpp 目录运行此命令，将 Hugging Face 模型转成 gguf 格式： python llama.cpp/convert_hf_to_gguf.py ./v6-Finch-1B6-HF 量化方法：（可选）运行以下命令，对 .gguf 模型进行量化： ./build-cuda-rel/bin/llama-quantize v6-Finch-1B6-HF/v6-Finch-1.6B-HF-F16.gguf（量化前的 gguf 模型路径） ./v6-Finch-1B6-HF/v6-Finch-1.6B-HF-Q5_1.gguf（量化后的 gguf 模型路径） Q5_1（量化精度）所有可选的量化精度：建议使用以下两种量化精度： Q5_1、 Q8_0。第二步：本地构建 llama.cpp 可以选择从 llama.cpp 的 release 页面下载已编译的 llama.cpp 程序。也可以参照 llama.cpp 官方构建文档，选择适合的方法本地编译构建。第三步：运行 RWKV 模型推理在 llama.cpp 目录运行以下命令，可驱动 RWKV 模型基于 prompt 生成文本： ./build/bin/llama-cli -m ./v6-Finch-1B6-HF/v6-Finch-1.6B-HF-F16.gguf --no-warmup -p "User: Write me a poem\n\nAssistant:" -t 8 -ngl 25 -n 500 这条命令通过 llama-cli 运行 RWKV 模型，使用 8 个线程、跳过预热、并根据给定的 prompt 生成最多 500 个 token。参数解释： ./build/bin/llama-cli：编译好的 llama-cli 程序，打开命令化界面 -m ./v6-Finch-1B6-HF/v6-Finch-1.6B-HF-F16.gguf：模型的路径参数 --no-warmup：跳过“预热”阶段，直接开始生成文本（以少量性能换取速度） -p "User: Write me a poem\n\nAssistant:"： prompt 参数，模型根据该提示词生成文本。"User: Write me a poem\n\nAssistant:" 是符合 RWKV 模型格式的 prompt，更多 RWKV prompt 格式请在RWKV文档-提示词指南中查看。 -t 8：-t 指定线程数，建议根据可用的物理 CPU 核心数调整 - ngl：指定模型使用的 n-gpu-layers ，25 是在 GPU 上运行 25 层（1.6B 的 24层 + head 算一层）。可以无脑设定 -ngl 99，使 llama.cpp 加载 RWKV 模型所有层 -n 500：-n 参数表示生成的最大 token 数完整的参数列表可以在 llama.cpp 参数文档中查看。批量推理生成使用以下命令，以进行批量推理：使用 \n 隔开不同的 prompt ./build/bin/llama-parallel -ns 4 -np 4 -m v6-Finch-1B6-HF/v6-Finch-1.6B-HF-F16.gguf --no-warmup -ngl 25 -n 500 -p "Who are you?\nWhat do we have for dinner?\nWhat's the meaning of life\nHello\nWhat is the end of the universe?" 参数解释： -ns 4: n_sequence，推理序列的数量 -np 4: n_parallel，并行推理的数量启动 Web 服务使用以下命令，以启动 llama.cpp 的 Web 服务： ./build/bin/llama-server -m v6-Finch-1B6-HF/v6-Finch-1.6B-HF-F16.gguf --no-warmup -ngl 25 启动后，可以访问 http://127.0.0.1:8080 以检查 Web 页面：点击右上方的 New Ul按钮，或者直接访问 http://127.0.0.1:8080/index-new.html，可以打开新版本的 WebUI RWKV 模型介绍 RWKV 是一种创新的深度学习网络架构，它将 Transformer 与 RNN 各自的优点相结合，同时实现高度并行化训练与高效推理，时间复杂度为线性复杂度，在长序列推理场景下具有优于 Transformer 的性能潜力。 RWKV 模型架构论文： RWKV 4：https://arxiv.org/abs/2305.13048 RWKV-5/6（Eagle & Finch）：https://arxiv.org/abs/2404.05892 RWKV 模型的最新版本是 RWKV-6 ，架构图如下：相对Transformer 架构，RWKV 架构的推理成本降低 2~10 倍，训练成本降低 2~3 倍。加入 RWKV 社区 RWKV 中文文档：https://www.rwkv.cn QQ 频道：https://pd.qq.com/s/9n21eravc

2024-09-05

阿里云机器学习 PAI 推出最佳实践（一）——低代码 Lora 微调及部署

我们可以通过PAI快速开始将此模型直接部署到PAI-EAS，创建一个推理服务。 1、部署模型通过模型详情页面的的部署入口您可以一键创建一个基于此模型的在线推理服务，所有的参数已经帮您默认配置完毕。

2023-07-25

K3S +Helm+NFS最小化测试安装部署只需十分钟

你可以部署一个私有镜像仓库，或者你可以手动部署镜像，比如用于小型集群。

2022-11-30

京东云开发者｜IoT运维 - 如何部署一套高可用K8S集群

upstream kubeapi { server 192.168.3.24:6443; server 192.168.3.25:6443; server 192.168.3.26:6443; } } 部署

2022-11-03

58 同城一键部署运维架构的实践 - 集群搭配管理平台多场景降本增效

集群部署自动化实现为了能够一键部署服务，集中式管理服务，我们需要借助远程管理工具 Ansible，能帮我们做到快速部署。依据三种角色服务的端口规范，生成 ansible 的配置文件。

2022-09-29

担心5G部署会影响航空安全！美国航空机构与电信机构发生争执

虽然5G(第五代移动通信技术)是具有高速率、低时延和大连接特点的新一代宽带移动通信技术，但是在欧美等地区部署时却遭到了质疑，甚至一度出现了5G传播新冠病毒的谣言。

2021-11-01

肖亚庆："十四五"将全面部署5G等基础设施建设

要把握数字化、网络化、智能化的发展方向，发挥我国既有基础和优势，统筹推进数字产业化和产业数字化，全面部署5G、工业互联网、数据中心等新一代信息通信基础设施建设，实施制造业数字化转型行动、智能制造工程、中小企业数字化改造等等

2021-03-01

北理工开发5G无人配送车，支持人脸识别和体温检测，已部署中关村校区

根据新华社消息，本周，北京理工大学在中关村校区内部署了一款全新的无人配送车。

2020-04-07

带你理清K8S部署的故障排查思路，让bug无处遁形

当你希望在Kubernetes中部署一个应用程序，你通常需要定义三个组件： Deployment——这是创建名为Pods的应用程序副本的方法 Serivce——内部负载均衡器，将流量路由到Pods Ingress

2020-02-19

NO.12 企业业务部署基本概念与业务快速编排上线，备份容灾使用教程

本篇主要整理针对初步了解阿里云产品的朋友，通过基本概念栏目了解阿里云产品基本概念和一些常用的功能，并通过学习后面的快速编排实现业务的快速部署和应用，并学会如何进行业务的备份容灾以及业务迁移，使得您在看完本篇后

2019-12-16

Rio手把手教学：如何打造容器化应用程序的一站式部署体验

支持金丝雀发布、蓝绿发布以及A/B部署支持通过服务网格路由流量支持缩容至零的serverless工作负载 Git触发的部署 Rancher的产品生态 Rio属于Rancher整套产品生态的一部分，

2019-11-25

软件部署安全先行，新思科技发布软件安全构建成熟度模型BSIMM10

【51CTO.com原创稿件】2019年10月23日，新思科技(Synopsys)发布最新版本的软件安全构建成熟度模型(BSIMM)——BSIMM10，该模型旨在帮助企业规划、执行、完善和评估其软件安全计划(SSIs)。在媒体沟通会现场，新思科技软件质量与安全部门高级安全架构师杨国梁接受了记者的采访，分享了BSIMM10研发和应用过程中的诸多故事。 “任何软件安全计划要想真正发挥作用，都必须确定需要关注的适当活动以及应当由谁负责执行这些活动，这是软件安全计划的重要环节。新思科技软件安全构建成熟度模型(BSIMM)是对现实世界中软件安全计划开展多年研究的结果，是衡量软件是否安全的标尺。”杨国梁介绍道，在过去的十年里，新思科技采用BSIMM对185家公司进行了约450次评估，第十个版本反映出观察到的122家公司的软件安全活动。BSIMM10还强调了DevOps对软件安全计划的影响、工程导向的安全工作的新浪潮以及公司如何在软件安全成熟度的三个阶段前行。据他透露，BSIMM10描述了7,900名软件安全专家的工作成果，这些成果对参与超过17.3万应用程序开发工作的47万名开发人员有指导作用。BSIMM10代表的公司来自垂直行业，包括金融服务、高科技、独立软件供应商(ISVs)、云、医疗保健、物联网、保险及零售业。 “在中国，BSIMM10将会提供通用版的服务，不仅通过观察122家企业的软件安全活动，得出所有企业的平均蛛网图，从而帮助企业规划、执行、完善和评估其软件安全计划。同时由于每个行业特色不同，BSIMM10对以上垂直行业也进行了一些分析。在不同行业的版本中，所得到蜘蛛图可用于比较来自特定垂直行业的一组公司，行业不同，得分不同，蛛网图也不同。。例如金融行业，由于政策监管非常严格，所以在合规性这个标准方面起点就会比较高，那在这个方面可能金融行业得分就相对高一些。” 杨国梁表示，对于之前已经使用BSIMM前版本的用户，如果客户有需求，新思科技也会提供更为详尽的服务，帮助用户加速数字化转型的步伐。记者了解到，BSIMM10报告中有三点发现更值得关注：一是DevOps对软件安全的影响。BSIMM数据显示DevOps的发展以及持续集成和持续交付(CI/CD)工具正在影响公司实现软件安全性的方式。这在BSIMM新增的三个活动中可以看出，新的活动反映了公司如何积极致力使安全活动自动化，来配合将业务功能推向市场的速度。BSIMM10也包括更新的描述和现有活动的示例，以反映这些活动如何作为现代DevOps组织实施的一部分。二是工程导向的安全文化的新浪潮。BSIMM10正式反映了SSI文化发生变化的研究，工程主导的软件安全工作是由开发和运营团队自下而上驱动的，而不像在集中式软件安全小组自上而下。在一些组织中，工程主导的安全文化克服了建立和发展有意义的软件安全工作的困难。工程导向的安全文化新浪潮的出现，是应对诸如敏捷和DevOps之类的现代软件交付实践的需求以及现有SSIs不希望产生的摩擦。三是建议公司采用BSIMM来为其软件安全旅程导航。BSIMM10定义了SSI成熟度三个阶段(兴起、发展和优化)的版本，并且描述了不同公司通常如何通过它们发展。BSIMM数据显示，随着时间的推移，企业得到了明显改进，许多企业均已达到了一定的成熟度，以至于他们开始关注活动的深度、广度和规模，而不是总想着增加活动数量。众所周知，领导一个有效的软件安全计划是富有挑战性的，而DevOps和CI/CD带来的巨大技术和组织变革并没有使这项任务变得更加容易。作为不断发展以反映全球数百个软件安全小组的经验的工具，无论企业是刚刚开始软件安全旅程，寻求优化程序或者应对新的挑战，BSIMM以及社区都是宝贵的资源。如果您对此内容感兴趣，欢迎复制以下链接，下载BSIMM10报告： www.bsimm.com/zh-cn/download.html 【51CTO原创稿件，合作站点转载请注明原文作者和出处为51CTO.com】【责任编辑：周雪 TEL：（010）68476606】

2019-10-28

Java版Spring Cloud B2B2C o2o鸿鹄云商平台--部署架构

上一篇文章我们介绍了鸿鹄云商b2b2c o2o基础的部署方案，考虑到项目部署中架构拓展性、伸缩性、可用性、安全性、开放性、准确性、可维护性的特点，我们针对鸿鹄云商平台b2b2c制定整体部署架构方案，我这里不做更多的介绍

2019-07-21

手把手教程：用Python开发一个自然语言处理模型，并用Flask进行部署

2、经过训练的模型被部署为服务用户的服务。当我们开发机器学习模型时，我们需要考虑如何部署它，即如何使这个模型可供其他用户使用。

2019-04-05

Kubernetes 实战教学，手把手教您用 Helm 在 K8s 平台上部署 Prometheus

可能会出现以下挑战：管理、编辑和更新多个 k8s 配置；将多个 K8s 配置部署为单个应用程序；共享和重用 K8s 配置和应用程序；参数化并支持多个环境；管理应用程序版本：rollout、rollback

2019-02-10

万台服务器分钟级部署，探秘阿里双十一弹性扩容背后的技术故事

那么在业务需求极速上升的情况下，大量服务器资源启动时如何抗住并发部署的压力呢？今年双十一期间，阿里云容器镜像仓库存放30万类镜像，其中包含共计1000万镜像版本，而镜像下载量高达8亿次。

2018-11-21

十分钟上线-在函数计算上部署基于django开发的个人博客系统

前言这篇文章适合所有的python开发新手、老鸟以及想准备学习开发python的程序猿。本文以一个基于django开源的个人博客移植到函数计算为例，向您讲解如何使用阿里云函数计算快速构建或移植基于wsgi applicaiton开发的web service。通过本文，您将会了解以下内容: 案例概览传统服务器架构 VS Serverless架构 Serverless架构详解案例迁移中存在的问题及解法案例开发配置步骤案例概览在本教程中，我们讲解如何利用函数计算一步一步来构建web的server端，该案例是基于github上一个star很高的一个开源个人博客，在本案例中，不讨论基于wsgi applicaiton的程序开发，本文旨在展示函数计算做web backend 能力，具体表现为以下几点：完善的基于django搭建的系统迁移到FC的成

2018-06-20

Java跨域问题以及如何使用Cors解决前后端分离部署项目所遇到的跨域问题

Java跨域问题以及如何使用Cors解决前后端分离部署项目所遇到的跨域问题什么是跨域跨域，指的是浏览器不能执行其他网站的脚本。

2018-02-26

12月13日云栖精选夜读：如何在阿里云上构建高可用的跨AZ部署方案

热点热议如何在阿里云上构建高可用的跨AZ部署方案作者：技术小能手阿里安全技术平台资深专家玄泰解密：“如何防止信息泄露” 作者：华蒙阿里云虚拟化平台携手麦腾举办AI时代的加速核心武器交流会作者：

2017-12-12

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。