首页 文章 精选 留言 我的

精选列表

搜索[高度可定制],共10000篇文章
优秀的个人博客,低调大师

Ollama 已支持 RWKV-7 模型,可灵活开关思考模式

Ollama 最新版本已支持 RWKV7-G1 和 RWKV-7-World 系列模型。 3 月初,随着 RWKV 社区成员 @MollySophia 的 PR 被合并,llama.cpp 正式支持 RWKV-7 模型。Ollama 近期更新了最新版 llama.cpp,因此同步支持 RWKV-7 架构和对应模型。 Ollama 官方模型仓库现已包含 RWKV-7 系列模型(推荐使用 RWKV7-G1 系列模型): RWKV-G1:https://ollama.com/mollysama/rwkv-7-g1 RWKV-7-World:https://ollama.com/mollysama/rwkv-7-world 在 Ollama 中运行 RWKV 模型 以下是在 Ollama 中体验 RWKV-7 G1 2.9B 模型的最简路径。 在 https://ollama.com/download 页面,根据您的系统下载 Ollama 安装包: 下载完毕后,双击安装包以安装 Ollama。任务栏出现 Ollama 图标时,意味着安装已完成: 在终端中运行 ollama run mollysama/rwkv-7-g1:2.9b 命令,Ollama 将自动下载并运行 RWKV7-G1 2.9B 模型。您可以在终端中与 RWKV 模型进行对话,如下图所示: 若您曾经下载过 mollysama/rwkv-7-g1:2.9b 模型,请运行 ollama pull mollysama/rwkv-7-g1:2.9b 命令,拉取最新的变更。 Ollama 的 RWKV7 G1 模型默认开启思考模式,可以通过 /set nothink 和 /set think 命令灵活地开关思考模式: 使用 ollama stop mollysama/rwkv-7-g1:2.9b 命令可以停止当前模型实例,从而重置对话上下文,否则 Ollama 会**持续保留当前会话的上下文(历史消息)**作为后续对话的参考 Ollama 官方仓库提供 Q6_K 量化的 RWKV7 G1 模型。 如需使用其他量化类型,需手动创建自定义 RWKV 模型 ,详细教程请在 RWKV 教程 - Ollama 推理 中查看。 RWKV Chat 端侧聊天助手 除了在 Ollama 中运行 RWKV 模型,我们也推荐使用 RWKV Chat 端侧聊天助手体验 RWKV 模型。 RWKV Chat 是 RWKV 官方推出的离线 AI 聊天应用,针对各类端侧设备进行深度推理优化。APP 内含多种小参数模型,支持会话配置调整、灵活切换思考模式,是你的高效生产力伙伴! 在开启和关闭思考模式两种情况下,RWKV Chat 回答同一个问题: 下载 RWKV Chat APP:https://rwkvos.com/rwkv-chat 加入 RWKV 社区 欢迎大家加入 RWKV 社区,可以从 RWKV 中文官网了解 RWKV 模型,也可以加入 RWKV 论坛、QQ 频道和 QQ 群聊,一起探讨 RWKV 模型。 📖 RWKV 中文文档:https://www.rwkv.cn 💬 RWKV 论坛:https://community.rwkv.cn/ 🐧 QQ 频道:https://pd.qq.com/s/9n21eravc 📺 BiliBili 视频教程:https://space.bilibili.com/3546689096910933

优秀的个人博客,低调大师

谷歌更新 AI Agent「Project Mariner」,可同时处理 10 个任务

谷歌在Google I/O 2025 大会上宣布对用于浏览和使用网站的AI Agent「Project Mariner」进行了升级,现在可以同时执行十几项任务,并将向更多用户和开发者推出。 Project Mariner 于 2024 年底首次亮相,旨在通过 AI Agent 改变用户与互联网的互动方式。在项目发布时,谷歌搜索负责人表示,他们将 Mariner 视为用户体验根本性转变的一部分,届时人们将把更多任务委托给 AI Agent,而不是自己访问网站并完成这些任务。 例如,Project Mariner 用户无需访问第三方网站即可在线购买棒球比赛门票或购买杂货——他们只需与 AI Agent 聊天,它就会访问网站并为他们采取行动。 谷歌表示,他们已经听取了早期测试人员的反馈,以改进 Project Mariner 功能。此次更新使 Project Mariner 比其在用户浏览器上运行的前代产品更加实用。

优秀的个人博客,低调大师

用 Bytebase 实现可回滚的数据库数据变更

在修改数据库的数据时,建议先备份即将修改的数据,以便在需要时能够恢复。Bytebase 提供了「数据回滚」的功能来帮助实现这一功能。本教程将为你演示这一过程。 准备 请确保已安装 Docker,如果本地没有重要的现有 Bytebase 数据,可以通过 rm -rf ~/.bytebase/data 从头开始。 这是企业版的功能,您可以通过添加小助手申请(见文末二维码)。 过程 第一步 - 启动 Bytebase 并升级至企业计划 复制并粘贴命令,通过 Docker 启动 Bytebase。 docker run --rm --init \ --name bytebase --publish 8080:8080 --pull always \ --volume ~/.bytebase/data:/var/opt/bytebase \ bytebase/bytebase:2.21.0 (这里的 2.21.0 可以替换成最新版本) 注册第一个账户,它将自动获得工作区管理员角色。 点击右上角的设置齿轮图标,然后点击工作区 > 订阅上传许可。 单击铅笔图标,选择要启用企业功能的实例,然后单击确认。这里是将许可分配给了实例,为对应实例开启企业版功能。 第二步 - 准备 schema bbdataarchive Bytebase 将备份数据存储在专们的位置。对于 Postgres,它存储在变更的数据库的 bbdataarchive schema 下。 进入 Sample Project,单击左边栏的数据库 > 数据库,选择 hr_test,然后单击编辑 schema。 在 schema 编辑器中,单击...,然后单击创建 schema。填写名称 bbdataarchive,然后单击创建。 可以看到绿字的 bbdataarchive,单击预览。创建工单并等待它自动发布,完成。现在 bbdataarchive schema 已创建。 第三步 - 变更数据并回滚 变更前,进入 SQL 编辑器,选择 hr_test,然后双击 employee,就会看到当前数据。我们将尝试变更 Georgi 这个名字。 再次进入 Sample Project 里的数据库 > 数据库,选择 hr_test,然后单击变更数据。 打开右侧的事先备份,在字段中输入 SQL,然后单击创建。 UPDATE employee SET first_name = 'Adela' WHERE emp_no = 10001; 工单创建并发布后,你可以看到有一个活动显示数据已备份到先前创建的 bbdataarchive schema 下的一个新表中。 再次访问数据库 > 数据库,然后单击 hr_test。 在数据库页面,选择 bbdataarchive schema,就可以看到备份表。 需要进一步验证的话,可以请进入 SQL 编辑器。选择 hr_test 中的 employee 表,输入以下 SQL 脚本并点击运行,就会看到数据已更改。 SELECT * FROM "public". "employee" ORDER BY emp_no LIMIT 50 选择 bbdataarchive 这个 schema,双击下面的表。你将在查询结果中看到备份数据。 需要特别注意的 如果你要使用 MySQL/SQL Server/Oracle,就不是创建 bbdataarchive schema ,而要创建 bbdataarchive 数据库来存储备份数据。更多详情请查看文档。https://www.bytebase.com/docs/change-database/rollback-data-changes/ 💡 更多资讯,请关注 Bytebase 公号:Bytebase

优秀的个人博客,低调大师

VersionFox:跨平台、可拓展的 SDK 版本管理工具

项目地址:https://github.com/version-fox/vfox 每种编程语言都有对应的版本管理工具,如nvm、fvm、gvm、sdkman等,它们的核心功能大同小异。但对于使用多种语言的开发者来说,这意味着需要学习和记忆各种不同的命令,增加了学习成本。如果你是全栈工程师,或者使用不止一种语言,使用VersionFox,你无需再学习这些繁杂的工具,从而降低学习成本,节省时间。 亮点: 跨平台(Windows、Linux、macOS), 不同的平台拥有相同的用户体验 使用一致的命令管理所有语言 简单的插件系统添加对您所需SDK的支持 支持Global、Project、Session三种作用域 当您遍历您的项目时,自动切换到对应版本 快速入门 安装vfox (详细安装) $ brew tap version-fox/tap $ brew install vfox 选择一条适合你shell的命令 echo 'eval "$(vfox activate bash)"' >> ~/.bashrc echo 'eval "$(vfox activate zsh)"' >> ~/.zshrc echo 'vfox activate fish | source' >> ~/.config/fish/config.fish # For PowerShell, add the following line to your $PROFILE: Invoke-Expression "$(vfox activate pwsh)" 3. 添加插件 $ vfox add nodejs/nodejs 4.安装版本 vfox install nodejs@latest 5.切换版本 $ vfox use nodejs@21.5.0 $ node -v 21.5.0 目前已支持多种开发语言, 欢迎使用~~ Node演示 项目地址: https://github.com/version-fox/vfox

优秀的个人博客,低调大师

CodeFuse发布34B-4bit单卡4090可部署模型

Hello world, this is CodeFuse! 2023 年 9 月 8 日下午,在上海举行的“2023 inclusion·外滩大会--云端 Al:探索新兴技术和发展模式”论坛上,蚂蚁集团首次开源了代码大模型 CodeFuse。这是蚂蚁自研的代码生成专属大模型,根据开发者的输入,帮助开发者自动生成代码、自动增加注释、自动生成测试用例、修复和优化代码等,以提升研发效率。无论用户是初学者还是有经验的开发者,CodeFuse 都能够极大地提高编程效率和准确性。 CodeFuse 的目的是重新定义下一代AI研发,提供全生命周期AI辅助工具。蚂蚁集团期望通过开源 CodeFuse,和社区一起推进软件工程领域的范式跃迁,重塑软件研发的各个领域,加速各行各业的数字化进程。 CodeFuse 基于蚂蚁基础大模型平台研发,在近期代码补全的 HumanEval 评测中,其得分达到74.4%,超过了 GPT-4 (67%)的成绩,也超过了 WizardCoder-34B 73.2% 的得分,在开源模型中位于国际前列。本次开源内容包括代码框架、数据集和模型三大部分。 代码仓库现已上架 GitHub 平台 ,数据和模型已上架 HuggingFace 平台和国内的魔搭社区。 GitHub 地址:https://github.com/codefuse-ai HuggingFace 地址:https://huggingface.co/codefuse-ai 魔搭社区地址:https://modelscope.cn/organization/codefuse-ai 特别的,我们开源了一套多任务微调框架 MFTCoder (https://github.com/codefuse-ai/MFTCoder),支持当前众多主流大模型并支持 Lora 与 QLora 高效微调,欢迎大家试用在私有数据上打造自己的专属代码大模型,并请给我们的项目一键三连支持 Star + Fork + Watch。 首先我们来看一下,CodeFuse 能做什么。 01贪吃蛇游戏生成 早在 2022 年 1 月,蚂蚁集团内部开启了代码智能相关探索。随着公司整体战略的推进,在统一软硬件基础设施支持下,2023 年从 0 到 1 训练了多个代码大模型,打造了 CodeFuse。基于 CodeFuse 的应用场景有开 IDE 插件、发助手、代码分析器等,覆盖了目前研发工作的主要需求,并在蚂蚁集团内部研发流程中陆续得到验证。 接下来,给大家演示一下,基于蚂蚁开源模型 CodeFuse-CodeLlaMa34B,利用 HTML 和 JavaScript 在线制作贪吃蛇小游戏的场景。 点击查看:https://cloud.video.taobao.com/play/u/null/p/1/e/6/t/1/432865958134.mp4 02多任务微调框架 MFTCoder 整个 CodeFuse 框架如下图所示,大致分为底层的分布式训练、中间层的指令微调框架,和顶层的多模型应用支持。 在底层,CodeFuse 支持 DeepSpeed 和蚂蚁自研的 ATorch 两种分布式训练框架。 ATorch 开源地址:https://github.com/intelligent-machine-learning/dlrover/tree/master/atorch 在中间层,CodeFuse 包含了自研的多任务微调(Multi-task fine-tuning,缩写为MFT)框架。MFT 支持代码生成、代码翻译、测试用例生成、bug 修复等数 10 个任务一起微调,它充分利用多任务之间的信息互补,通过创新的 loss 设计处理不同任务之间收敛难易不均衡的难题,最终取得比单任务微调 SFT 更好的效果。MFT 框架最大的特色是,同时支持多任务、多框架,以及多种类型的损失函数: ✅ 多任务:一个模型同时支持多个任务,会保证多个任务之间的平衡,甚至可以泛化到新的没有见过的任务上去; ✅ 多框架:同时支持 HuggingFace 和 ATorch 框架两个训练框架; ✅ 高效微调:支持 LoRA 和 QLoRA,可以用很少的资源去微调很大的模型,且训练速度能满足几乎所有微调场景; ✅ 多损失函数:支持数据集大小平衡,任务难度平衡,收敛速度不一平衡,和语义强调等多种不同损失函数。 在顶层,CodeFuse 支持最新的多个开源模型,包括 LlaMA,LlaMa-2,StarCoder,Baichuan,Qwen,Chatglm2,GPT-neox 等。CodeFuse 已经开源了多任务微调框架 MFTCoder。 关于多任务难度或者收敛不一致问题,这里给大家展示一个对比的例子。在三个任务(code completion,code explain,text2sql)的微调训练中,添加收敛均衡和不添加收敛均衡以后,validation loss 的收敛状况:可以看到没有添加收敛均衡的时候,三个任务收敛的速度各不相同,code completion 还没有收敛,剩下两个任务已经发散了;然而在加了收敛均衡的限制以后,我们可以明确的看到三个任务的收敛速度一致。 03优秀的多任务微调能力 下面,我们直接给出基于 MFTCoder,给多个开源模型微调代码能力,在 HumanEval 的 Python 补全上的结果。 可以看到,MFT 在各种底座上对于 Python Pass@1 就可以带来带来 10% 左右的提升。在 StarCoder 和 CodeLLama 上的增益更多。作为对比,已经公开的 HumanEval 榜单中目前排名前列的模型,我们也灰底展示在表格下方。 MFT 微调的 CodeLLaMA-34B,在 HumanEval 上取得了 74.4% 的结果(和 CodeLLaMA 一样,基于 greedy generation 模式评测),该结果超过了 GPT-4 (67%) 的成绩,也超过了 WizardCoder-34B 73.2% 的得分,在开源模型中位于国际前列。 044bit 量化部署 CodeFuse-CodeLLama-34B模型表现十分显著,但是34B的模型大小,在FP16和INT8精度下,至少需要一张A100或者4张A10做最小配置部署。如此高的部署资源要求,让个人/普通用户望而却步,即便大公司的大规模部署也比较吃资源。 针对此,我们借助量化技术对原模型进行了INT4量化,量化后模型占用显存大小显著减小:64.9G减到19G)。**这样一张A10或者4090 (24GB显存)即可部署。速度方面,实测发现A10上的INT4优化后的推理速度,已经和A100上FP16推理速度持平。**量化部署,可以使用GPTQ或者Nvidia TensorRT-LLM early access版本。 我们评测了量化前后模型能力的差异,其中关键评测HumanEval指标上是73.8%,下降小于1%;NLP任务中文语言理解CMNLI/C-Eval评测得分下降也控制1%左右。 此外,我们测量了模型加载后占用的显存占用情况,以及输入2048/1024 tokens并输出1024/2048 tokens时的显存使用情况,如下表所示。可以看到,在A10上,4bit量化支持总长为3K长度的输入和输出是没有问题的。 我们已经在Huggingface、ModelScope、Wisemodel等源发布该量化版本,欢迎大家试用! 05 总结和展望 这里我们介绍了CodeFuse整体开源相关的信息,并介绍了一下其中的MFT框架。大家有兴趣的话可以去ModelScope魔搭社区注册在线体验CodeFuse-CodeLlama-34B的效果。 地址:https://modelscope.cn/organization/codefuse-ai 未来我们将贡献更多技术到 CodeFuse 开源社区,也期待有兴趣的同行一起参与进来,给 CodeFuse 开源增砖添瓦。

优秀的个人博客,低调大师

Firefox 新隐私功能可自动删除 URL 中的跟踪参数

Firefox 102 更新了一项非常实用的新隐私功能,该功能可以自动从带着跟踪参数的 URL 中删掉参数,而不影响链接的正常访问。 很多软件/平台都在使用自定义 URL 查询参数来跟踪用户对 URL 的点击。比如下面这个 URL ,Facebook 将 fbclid 查询参数附加到链接中,以跟踪用户的点击: https://www.example.com/?fbclid=IwAR4HesRZLT-fxhhh3nZ7WKsOpaiFzsg4nH0K4WLRHw1h467GdRjaLilWbLs 随着 Firefox 102 中添加了新的“查询参数剥离”功能,用户在打开上述 URL 时会自动剥离用于跟踪的各种查询参数,无论是通过直接单击链接,还是将 URL 粘贴到地址栏中再访问。 外媒 BleepingComputer 还对此创建了一个测试页面,如图所示,当单击 https://example.com/?fbclid=12 的链接时,Firefox 会打开 https://example.com,但会删除跟踪参数。 目前 Firefox 能检测的的跟踪参数不多,只对如 Facebook、Marketo、Olytics 和 HubSpot 等国外平台的跟踪参数起作用,期待后续加入更多平台的跟踪参数。 如何开启该功能 新的查询参数剥离功能是 Firefox 增强型隐私保护功能的一部分,只需在设置中把 增强型跟踪保护 选项改成“严格“即可。 此外,如图所示,此设置可能会导致某些网站无法显示内容或正常工作。若网站出现异常,则需要暂时关闭跟踪保护功能以加载全部内容。

优秀的个人博客,低调大师

Atuin —— 可跨设备同步的 Shell 历史记录工具

Atuin 将现有的 shell 历史记录替换为 SQLite 数据库,并记录命令的附加上下文。此外,它还通过 Atuin 服务器,在机器之间提供可选的、完全加密的历史记录同步。 除了搜索 UI,它还可以执行以下操作: # search for all successful `make` commands, recorded after 3pm yesterday atuin search --exit 0 --after "yesterday 3pm" make 用户可以使用 Atuin 托管的服务器,也可以使用自己的服务器,或者不使用同步也完全没有问题。 由于所有历史同步都是加密的,Atuin 开发者无法访问你的数据。 特征 用具有全屏历史搜索 UI 重新绑定 up和 ctrl-r 在 sqlite 数据库中存储 shell 历史记录 备份和同步加密的 shell 历史 跨终端、跨会话和跨机器的相同历史记录 记录退出代码、cwd、主机名、会话、命令持续时间等 计算 “最常用命令” 等统计信息 旧的历史文件没有被替换 通过 ctrl-r 切换过滤器模式 支持的 Shell zsh bash fish 安装 脚本(推荐) 安装脚本将帮助你完成设置,确保 shell 正确配置。 # do not run this as root, root will be asked for if required bash <(curl https://raw.githubusercontent.com/ellie/atuin/main/install.sh) Cargo 最好使用 rustup 来设置 Rust 工具链,然后你可以运行: cargo install atuin Homebrew brew install atuin MacPorts sudo port install atuin Pacman pacman -S atuin 从源代码构建 git clone https://github.com/ellie/atuin.git cd atuin cargo install --path .

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

用户登录
用户注册