首页 文章 精选 留言 我的

精选列表

搜索[AI工作流],共10000篇文章
优秀的个人博客,低调大师

龙芯发布新一代处理器,进军服务器和 AI 处理器市场​​​​​​​

「龙芯中科」在今天举办的2025龙芯产品发布暨用户大会上发布了基于国产自主指令集龙架构(LoongArchTM)研发的服务器处理器龙芯3C6000系列芯片、工控领域及移动终端处理器龙芯2K3000/3B6000M芯片,以及相关整机和解决方案。 据介绍,3C6000系列服务器CPU采用自主指令系统龙架构,于2024年上半年流片成功。3C6000单硅片16核32线程,可通过自研的龙链接口通过多硅片封装形成32核64线程的3C6000/D(又称3D6000)及60/64核120/128线程的3C6000/Q(又称3E6000)。 根据中国电子技术标准化研究院赛西实验室测试报告,单路3C6000/S服务器在2.2GHz运行SPEC CPU 2017单核单线程定/浮点分值为5.56/6.93分,多核定/浮点分值为73.2/58.5分;双路3C6000/D服务器在2.1GHz运行SPEC CPU 2017多核定/浮点分值为284/261分;双路3C6000/Q服务器在2.1GHz运行SPEC CPU 2017多核定/浮点分值为450/283分;四路3C6000/D服务器在2.1GHz运行SPEC CPU 2017多核定/浮点分值为547/412分。上述3C6000/S、3C6000/D实测单核/多核性能分别达到Intel公司2021年上市的16核至强Silver 4314、32核至强Gold 6338的水平,64核3C6000/Q性能超过40核至强Platinum 8380的水平。 结合Intel公司第三代至强可扩展架构服务器芯片出货情况,3C6000系列服务器CPU综合性能达到2023年市场主流产品水平。 2K3000/3B6000M工控/终端CPU采用自主指令系统龙架构,面向工控和终端(笔记本、云终端等)应用,于2024年底流片成功。3B6000M集成8个LA364E处理器核,主频2.5GHz时实测SPEC CPU 2006 Base单核定点分值达到30分;集成第二代自研GPGPU核心LG200和独立硬件编解码模块,4K高清视频处理性能达到每秒60帧;集成安全处理器提供可信支持和密码服务,包括SM2/3/4硬件算法模块以及可供软件编程使用的可重构密码模块。 来源:https://mp.weixin.qq.com/s/U1_yQYdi-47nhn5ojBvSEA

优秀的个人博客,低调大师

国家知识产权局:中国成为全球 AI 专利最大拥有国,占比达 60%

4月24日,国务院新闻办公室就2024年中国知识产权强国建设有关情况举行新闻发布会。国家知识产权局局长申长雨在会上介绍,目前,我国人工智能领域呈现良好的发展势头。世界知识产权组织报告显示,中国已经成为全球人工智能专利的最大拥有国,在全球的占比达到60%。 近年来,国家知识产权局积极回应人工智能新领域、新业态、新模式发展的需要,深入推进人工智能领域知识产权制度创新,为人工智能技术发展和产业发展提供有力的制度供给。包括及时修改完善《专利审查指南》,发布《人工智能相关发明专利申请指引》,积极回应和解决了有关人工智能专利申请主体、保护客体、审查标准等热点问题。 聚焦人工智能重点领域,为相关专利申请提供快速审查服务,严厉打击抢注“DeepSeek”等相关商标申请行为,持续强化知识产权保护,护航人工智能领域科技创新。“与此同时,我们还在加快人工智能技术在知识产权领域的运用,推动知识产权工作数字化转型和智能化升级,不断提升知识产权治理效能。”申长雨说。 申长雨表示,面向未来,国家知识产权局将积极推动知识产权与人工智能共生演进、双向赋能、融合发展。 一方面,持续推进人工智能相关知识产权制度创新,加快建立人工智能、大数据等新领域新业态知识产权保护规则,为发展人工智能技术提供更加有力的法治保障。 另一方面,提高人工智能知识产权保护和运用水平,健全知识产权支撑关键核心技术攻关工作体系,加大人工智能领域专利申请按需审查服务力度。做好相关发明专利分析预警和导航服务,指导建设人工智能领域专利池,深入实施专利转化运用专项行动,促进更多人工智能领域专利从实验室走向产业链,赋能相关产业发展。 同时,积极参与人工智能领域知识产权全球治理,推动完善相关国际规则和标准,促进全球人工智能产业发展,让人工智能技术更好造福全人类。

优秀的个人博客,低调大师

墨干 V1.2.9.2 助力理工科写作,AI 无损复制!Word 无损导出!现已完美支持!

尊敬的用户们, 我们非常高兴地宣布,墨干理工套件迎来了一次重大更新,以帮助您在撰写理工科论文时更加高效和便捷! 升级亮点 一、无损复制: 现在全面支持从Kimi、ChatGPT等领先的人工智能大模型中无损复制答案。写作业从此快人一步! 二、无损导出: 现已支持无损导出为Word文档,满足不同学校和导师的提交要求! 立即体验: 请访问我们的官方网站下载最新版本的墨干理工套件,开始您的高效理工科写作之旅。 官网:https://mogan.app/guide/Install.html 联系我们: LiiiVIP

优秀的个人博客,低调大师

真正开源的新一代 AI 架构

2024 年 9 月 ,RWKV 社区成员发现:Office 系统在自动更新后(版本 2407 及以后)已自带 RWKV 运行库。 在 Windows 系统的 C:\Program Files\Microsoft Office\root\vfs\ProgramFilesCommonX64\Microsoft Shared\OFFICE16 目录,可以找到一系列 rwkv dll(动态链接库) 文件。 由于正版 Windows 大多预装了 Office 365,因此,全球大多数 Windows 10 和 11 机器现已搭载 RWKV,包括线下商店中售卖的 Windows 机器。这意味着 RWKV 的装机量可达几亿台。 RWKV 是真正的开源架构(目前在 Linux Foundation 旗下),遵循 Apache 2.0 协议,可用于商业,欢迎大家在各个项目使用。 RWKV 的最新架构为 RWKV-6,且 RWKV-7 即将公布。 从 dll 的文件属性,可以明确这是 RWKV 模型的加载器: 此外,微软提供的协议中也明确出现了 rwkv.cpp 的仓库地址 : 随后,社区开发者对 dll 文件进行解析,发现 dll 中的函数确实是来自 rwkv.cpp 库中的 RWKV 模型相关函数: 该发现在多方社交媒体上引起了激烈的讨论: 知乎上的讨论:https://www.zhihu.com/question/666097016 RWKV 在 Windows 系统中的角色 目前,微软方面未公布 RWKV 模型会用于 Windows 系统中的哪些功能。 尽管 RWKV 系列 dll 文件存放在 Microsoft Office 目录中,但它们其实是操作系统的一部分,而不仅限于 Microsoft Office 。 出于 RWKV 恒定的显存/内存占用、支持全球 100 多种语言、“能耗最低的模型”等特性,我们推测 RWKV 可能会用于以下 Windows 系统功能: 本地 copilot 作为 Windows 系统的本地记忆回调器 Local memory recall 是让操作系统记住你过去的操作或输入信息,在需要时再次使用这些记忆。 RWKV 的 llama.cpp 用法 随着 RWKV 社区成员 @MollySophia 的工作,llama.cpp 现已适配 RWKV-6 模型。 接下来,我们一起看看如何在 llama.cpp 中使用 RWKV-6 模型进行推理: 第一步:获取 gguf 格式模型 llama.cpp 支持 .gguf 格式的模型,但 RWKV 官方仅发布了 .pth 格式模型。因此,我们需要使用以下两种方法获取 gguf 格式的 RWKV 模型。 方法 1:从 HF 下载现成 gguf 模型(推荐) 可以从 https://huggingface.co/latestissue 下载已量化并转化成 gguf 格式的 RWKV 模型 方法 2:从 HF 格式转换成 .gguf 格式 首先,从 RWKV 官方 HF 仓库下载一个 Hugging Face 格式的 RWKV 模型,如 RWKV/v6-Finch-1B6-HF 然后在 llama.cpp 目录运行此命令,将 Hugging Face 模型转成 gguf 格式: python llama.cpp/convert_hf_to_gguf.py ./v6-Finch-1B6-HF 量化方法:(可选) 运行以下命令,对 .gguf 模型进行量化: ./build-cuda-rel/bin/llama-quantize v6-Finch-1B6-HF/v6-Finch-1.6B-HF-F16.gguf(量化前的 gguf 模型路径) ./v6-Finch-1B6-HF/v6-Finch-1.6B-HF-Q5_1.gguf(量化后的 gguf 模型路径) Q5_1(量化精度) 所有可选的量化精度: 建议使用以下两种量化精度: Q5_1、 Q8_0。 第二步:本地构建 llama.cpp 可以选择从 llama.cpp 的 release 页面下载已编译的 llama.cpp 程序。 也可以参照 llama.cpp 官方构建文档,选择适合的方法本地编译构建。 第三步:运行 RWKV 模型推理 在 llama.cpp 目录运行以下命令,可驱动 RWKV 模型基于 prompt 生成文本: ./build/bin/llama-cli -m ./v6-Finch-1B6-HF/v6-Finch-1.6B-HF-F16.gguf --no-warmup -p "User: Write me a poem\n\nAssistant:" -t 8 -ngl 25 -n 500 这条命令通过 llama-cli 运行 RWKV 模型,使用 8 个线程、跳过预热、并根据给定的 prompt 生成最多 500 个 token。 参数解释: ./build/bin/llama-cli:编译好的 llama-cli 程序,打开命令化界面 -m ./v6-Finch-1B6-HF/v6-Finch-1.6B-HF-F16.gguf:模型的路径参数 --no-warmup:跳过“预热”阶段,直接开始生成文本(以少量性能换取速度) -p "User: Write me a poem\n\nAssistant:": prompt 参数,模型根据该提示词生成文本。"User: Write me a poem\n\nAssistant:" 是符合 RWKV 模型格式的 prompt,更多 RWKV prompt 格式请在RWKV文档-提示词指南中查看。 -t 8:-t 指定线程数,建议根据可用的物理 CPU 核心数调整 - ngl:指定模型使用的 n-gpu-layers ,25 是在 GPU 上运行 25 层(1.6B 的 24层 + head 算一层)。可以无脑设定 -ngl 99,使 llama.cpp 加载 RWKV 模型所有层 -n 500:-n 参数表示生成的最大 token 数 完整的参数列表可以在 llama.cpp 参数文档中查看。 批量推理生成 使用以下命令,以进行批量推理: 使用 \n 隔开不同的 prompt ./build/bin/llama-parallel -ns 4 -np 4 -m v6-Finch-1B6-HF/v6-Finch-1.6B-HF-F16.gguf --no-warmup -ngl 25 -n 500 -p "Who are you?\nWhat do we have for dinner?\nWhat's the meaning of life\nHello\nWhat is the end of the universe?" 参数解释: -ns 4: n_sequence,推理序列的数量 -np 4: n_parallel,并行推理的数量 启动 Web 服务 使用以下命令,以启动 llama.cpp 的 Web 服务: ./build/bin/llama-server -m v6-Finch-1B6-HF/v6-Finch-1.6B-HF-F16.gguf --no-warmup -ngl 25 启动后,可以访问 http://127.0.0.1:8080 以检查 Web 页面: 点击右上方的 New Ul按钮,或者直接访问 http://127.0.0.1:8080/index-new.html,可以打开新版本的 WebUI RWKV 模型介绍 RWKV 是一种创新的深度学习网络架构,它将 Transformer 与 RNN 各自的优点相结合,同时实现高度并行化训练与高效推理,时间复杂度为线性复杂度,在长序列推理场景下具有优于 Transformer 的性能潜力。 RWKV 模型架构论文: RWKV 4:https://arxiv.org/abs/2305.13048 RWKV-5/6(Eagle & Finch):https://arxiv.org/abs/2404.05892 RWKV 模型的最新版本是 RWKV-6 ,架构图如下: 相对Transformer 架构,RWKV 架构的推理成本降低 2~10 倍,训练成本降低 2~3 倍。 加入 RWKV 社区 RWKV 中文文档:https://www.rwkv.cn QQ 频道:https://pd.qq.com/s/9n21eravc

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册