首页 文章 精选 留言 我的

精选列表

搜索[可灵AI],共10000篇文章
优秀的个人博客,低调大师

从“看懂曲线“到“预测未来“:TimechoAI 让时序分析触手可及

在工业互联网的浪潮中,时序数据已经成为企业最核心的数字资产之一。从工厂产线上每秒跳动的传感器读数,到电网中实时变化的负荷曲线,从交通流量的潮汐波动到金融市场的价格走势——这些随时间推移不断产生的数据,构成了现代工业与商业世界的"心跳"。然而,一个尴尬的现实是:大多数企业的时序数据,至今仍停留在"存储"阶段,远未释放出应有的预测价值。

优秀的个人博客,低调大师

loveqq 框架新增 ApplicationScope,IOC 全量容器刷新也可保持单例

是什么? ApplicationScope 作用域是什么? ApplicationScope 是 loveqq-framework 新增的一种 bean 的作用域,它的作用是保证 IOC 容器全量刷新时,仍然能够保持单例。 loveqq-framework 已支持的作用域有: 单例:IOC 容器全量刷新时会重建,IOC 全量刷新即应用启动后,多次调用 ApplicationContext#refresh() 方法 原型:每次获取都是新的实例 线程:同一个线程内,是同一个实例,线程终结后自动销毁 bean 应用:即使IOC 容器全量刷新,也保持同一个单例 为什么? 为什么需要 ApplicationScope? 因为 loveqq-framework 支持 IOC 容器的全量刷新,全量刷新时,所有 bean 都会销毁并重建。 基于这个机制,可以实现插件化开发,即通过 http 上传插件 jar 包,即可实时的加载新功能,可以点击参考这里 所有 bean,自然也包括一些重量级的 bean,比如 WebServer,虽然重新启动一个 WebServer 很快,但也会造成毫秒级别不可用的问题。因此设计了 ApplicationScope,标记 WebServer bean,从而保证真正的不停机热部署实时刷新。 不重建又想刷新怎么办? 还是以 WebServer 为例,当 IOC 全量刷新时,有可能新增控制器方法,此时如果不更新 WebServer 的话,直接访问会报 404,这怎么搞? 答案是:实现ScopeRefreshed 接口,实现了该接口的 bean,当对应的作用域刷新时,将不会销毁重建,而是回调该接口,由开发者自己决定如何刷新!实际案例可以点击参考这里 感兴趣的同学可以看一下

优秀的个人博客,低调大师

腾讯公布大语言模型训练专利:可提高模型的准确性

天眼查App显示,腾讯科技(深圳)有限公司申请的“大语言模型的训练方法、装置、计算机设备及存储介质”专利正式公布。 摘要显示,在该方法中,通过在大语言模型的训练过程中引入第一摘要文本和第二摘要文本,为模型训练提供了更多可学习信息,同时由于第一摘要文本和第二摘要文本包含的信息量不同,且第一摘要文本中包含正确语句和错误语句,通过对同一样本文本的两个不同摘要文本进行对比学习,并区分学习第一摘要文本中的正确语句和错误语句,避免了由于摘要文本单一而导致的模型过拟合和生成不准确等问题,不仅提高了模型的泛化性能,还提高了模型的准确性。 有媒体分析称,腾讯的专利通过多样化摘要文本及对比机制,为模型提供了更贴近真实应用的学习环境,尤其对智能客服、内容生成等需高精度输出的领域具有直接意义。此外,该技术或能加速大模型落地进程。例如,在短文本对话场景中,腾讯曾推出基于混合注意力机制的对话模型专利,若结合新训练方法,有望进一步提升回复的相关性与丰富性。

优秀的个人博客,低调大师

StarCoder2-Instruct: 完全透明和可自我对齐的代码生成

指令微调 是一种技术,它能让大语言模型 (LLMs) 更好地理解和遵循人类的指令。但是,在编程任务中,大多数模型的微调都是基于人类编写的指令 (这需要很高的成本) 或者是由大型专有 LLMs 生成的指令 (可能不允许使用)。我们推出了一个叫做 StarCoder2-15B-Instruct-v0.1 的模型,这是第一个完全自我对齐的大型代码模型,它是通过一个完全开放和透明的流程进行训练的。我们的开源流程使用 StarCoder2-15B 生成了成千上万的指令-响应对,然后用这些对来微调 StarCoder-15B 本身,而不需要任何人类的注释或者从大型专有 LLMs 中提取的数据。 StarCoder2-15B-Instruct-v0.1 https://hf.co/bigcode/starcoder2-15b-instruct-v0.1 StarCoder2-15B-Instruct 在 HumanEval 上的得分是 72.6,甚至超过了 CodeLlama-70B-Instruct 的 72.0 分! 在 LiveCodeBench 上的进一步评估表明,自我对齐的模型甚至比在从 GPT-4 提炼的数据上训练的同一模型表现得更好,这意味着 LLM 可能能从自己分布内的数据中更有效地学习,而不是从教师 LLM 的偏移分布中学习。 理论 我们的数据生成流程主要包括三个步骤: 从 The Stack v1 中提取高质量和多样化的种子函数。The Stack v1 是一个拥有大量允许使用许可的源代码的大型语料库。 创建包含种子函数中不同代码概念的多样化且现实的代码指令 (例如,数据反序列化、列表连接和递归)。 对每个指令,通过执行引导的自我验证生成高质量的响应。 The Stack v1 https://hf.co/datasets/bigcode/the-stack 在接下来的部分中,我们将详细探讨这些方面的内容。 收集种子代码片段 为了充分解锁代码模型的遵循指令能力,它应该接触到涵盖广泛编程原则和实践的多样化指令集。受到 OSS-Instruct 的启发,我们通过从开源代码片段中挖掘代码概念来进一步推动这种多样性,特别是来自 The Stack V1 的格式良好的 Python 种子函数。 OSS-Instruct https://github.com/ise-uiuc/magicoder 对于我们的种子数据集,我们仔细提取了 The Stack V1 中所有带有文档字符串的 Python 函数,使用 autoimport 推断所需的依赖关系,并在所有函数上应用以下过滤规则: autoimport https://lyz-code.github.io/autoimport/ 类型检查: 我们应用 Pyright 启发式类型检查器来移除所有产生静态错误的函数,这可能是错误的信号。 去污处理: 我们检测并移除我们评估的所有基准项。我们同时在解决方案和提示上使用精确字符串匹配。 文档字符串质量过滤: 我们使用 StarCoder2-15B 作为评判来移除文档质量差的函数。我们给基础模型提供 7 个少样本示例,要求它用“是”或“否”来回应是否保留该条目。 近似去重: 我们使用 MinHash 和局部敏感哈希,设置 Jaccard 相似性阈值为 0.5,以过滤数据集中的重复种子函数。这是应用于 StarCoder 训练数据的 相同过程。 Pyright https://github.com/microsoft/pyright 相同过程 https://hf.co/blog/dedup 这个过滤流程从带有文档字符串的 500 万个函数中筛选出了 25 万个 Python 函数的数据集。这个过程在很大程度上受到了 MultiPL-T 中使用的数据收集流程的启发。 MultiPL-T https://hf.co/datasets/nuprl/MultiPL-T Self-OSS-Instruct 在收集了种子函数之后,我们使用 Self-OSS-Instruct 生成多样化的指令。具体来说,我们采用上下文学习的方式,让基础 StarCoder2-15B 模型从给定的种子代码片段中自我生成指令。这个过程使用了 16 个精心设计的少样本示例,每个示例的格式为*(代码片段,概念,指令)*。指令生成过程分为两个步骤: 概念提取: 对于每个种子函数,StarCoder2-15B 被提示生成一个存在于函数中的代码概念列表。代码概念指的是编程中使用的基础原则和技术,例如 模式匹配 和 数据类型转换 ,这些对开发者掌握至关重要。 指令生成: 然后提示 StarCoder2-15B 自我生成一个包含已识别代码概念的编程任务。 最终,这个过程生成了 23.8 万条指令。 响应自我验证 我们已经有了 Self-OSS-Instruct 生成的指令,我们的下一步是将每条指令与高质量的响应相匹配。先前的实践通常依赖于从更强大的教师模型 (如 GPT-4) 中提炼响应,这些模型有望展现出更高的质量。然而,提炼专有模型会导致非许可的许可问题,而且更强大的教师模型可能并不总是可用的。更重要的是,教师模型也可能出错,而且教师和学生之间的分布差距可能是有害的。 我们提议通过显式指示 StarCoder2-15B 在生成交织自然语言的响应后生成测试来进行自我验证,这个过程类似于开发者测试他们的代码实现。具体来说,对于每条指令,StarCoder2-15B 生成 10 个*(自然语言响应,测试)*格式的样本,我们在沙箱环境中执行测试以过滤掉那些被测试证伪的样本。然后我们为每个指令随机选择一个通过的响应作为最终的 SFT 数据集。总共,我们为 23.8 万条指令生成了 240 万 (10 x 23.8 万) 个响应,其中 50 万个通过了执行测试。去重后,我们剩下 5 万条指令,每条指令配有一个随机通过的响应,最终我们将其用作我们的 SFT 数据集。 评估 在流行且严格的 EvalPlus 基准测试中,StarCoder2-15B-Instruct 在其规模上作为表现最佳的拥有许可的 LLM 脱颖而出,超过了更大的 Grok-1 Command-R+ 和 DBRX,与 Snowflake Arctic 480B 和 Mixtral-8x22B-Instruct 相近。据我们所知,StarCoder2-15B-Instruct 是第一个具有完全透明和许可流程,达到 70+ HumanEval 分数的代码 LLM。它大大超过了之前的最佳透明许可代码 LLM OctoCoder。 EvalPlus https://github.com/evalplus/evalplus 即使与具有限制性许可的强大 LLM 相比,StarCoder2-15B-Instruct 仍然具有竞争力,超过了 Gemini Pro 和 Mistral Large,与 CodeLlama-70B-Instruct 相当。此外,仅在自我生成数据上训练的 StarCoder2-15B-Instruct 与在 GPT-3.5/4 提炼数据上微调 StarCoder2-15B 的 OpenCodeInterpreter-SC2-15B 非常接近。 除了 EvalPlus,我们还对具有相似或更小规模的最新开源模型在 LiveCodeBench 上进行了评估,LiveCodeBench 包括 2023 年 9 月 1 日之后创建的新编程问题,以及针对数据科学程序的 DS-1000。在 LiveCodeBench 上,StarCoder2-15B-Instruct 在评估的模型中取得了最佳结果,并且一致优于从 GPT-4 数据中提炼的 OpenCodeInterpreter-SC2-15B。在 DS-1000 上,尽管 StarCoder2-15B-Instruct 只在非常有限的数据科学问题上进行了训练,但它仍然具有竞争力。 LiveCodeBench https://livecodebench.github.io DS-1000 https://ds1000-code-gen.github.io 结论 StarCoder2-15B-Instruct-v0.1 首次展示了我们可以在不依赖像 GPT-4 这样的更强大的教师模型的情况下,创建出强大的指令微调代码模型。这个模型证明了自我对齐——即模型使用自己生成的内容来学习——对于代码也是有效的。它是完全透明的,并允许进行提炼,这使得它与其它更大规模但非透明的许可模型如 Snowflake-Arctic、Grok-1、Mixtral-8x22B、DBRX 和 CommandR+ 区别开来。我们已经将我们的数据集和整个流程,包括数据整理和训练,完全开源。我们希望这项开创性的工作能够激发该领域更多的未来研究和开发。 资源 StarCoder2-15B-Instruct-v0.1: 指令微调模型 https://hf.co/bigcode/starcoder2-15b-instruct-v0.1 starcoder2-self-align: 自我对齐流程 https://github.com/bigcode-project/starcoder2-self-align StarCoder2-Self-OSS-Instruct: 自我生成的、用于指令微调的数据集 https://hf.co/datasets/bigcode/self-oss-instruct-sc2-exec-filter-50k/ 英文原文: https://hf.co/blog/sc2-instruct 原文作者: Yuxiang Wei, Federico Cassano, Jiawei Liu, Yifeng Ding, Naman Jain, Harm de Vries, Leandro von Werra, Arjun Guha, Lingming Zhang 译者: innovation64 本文分享自微信公众号 - Hugging Face(gh_504339124f0f)。 如有侵权,请联系 support@oschina.cn 删除。 本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

优秀的个人博客,低调大师

VersionFox 0.2.3 发布:强大且可拓展的 SDK 版本管理工具!

项目地址:https://github.com/version-fox/vfox 该版本是一次重大更新,相较于之前版本插件只能分发预先编译好的二进制文件, 此次更新真正做到插件完全自定义,如支持Python这类需要自定义编译和安装的SDK。 另外允许自定义存储路径, 避免$HOME占用过大! 更新内容: 功能: 支持自定义存储路径 by@aooohanand@XuZheCheung627330f 功能: 允许插件安装本地文件 by@aooohanin8888f41 功能: 添加验证插件支持的最低运行时版本的新机制 by@aooohanin0bc5b1d 功能:http插件模块 支持 HEAD 请求 by@aooohanin2a4fc77 修复: mac arm64 安装问题 by@ankit-pnin#34 修复: 别名导致不生效问题 by@aooohanin1987a2a 修复: Windows环境下默认作用域不生效问题 by@aooohanin32421d1 新增插件: Python 插件 by@aooohanversion-fox/version-fox-plugins#10 Python Npmmirror镜像插件 by@aooohanversion-fox/version-fox-plugins#12 Nodejs Npmmirror镜像插件 by@yimiaoxiehouversion-fox/version-fox-plugins#9 Zulu JDK 插件 by@yimiaoxiehouversion-fox/version-fox-plugins#11 新贡献者: @ankit-pnmade their first contribution in#34 @yimiaoxiehoumade their first contribution inversion-fox/version-fox-plugins#8 Full Changelog:v0.2.2...v0.2.3 已支持插件: Name Version Author Description dart/dart 0.0.1 Aooohan dart plugin, support for getting stable, dev, beta version deno/deno 0.0.1 Aooohan Deno plugin,https://deno.com/ dotnet/dotnet 0.0.1 Korbinian Habereder dotnet plugin, support for dotnet sdks 6.0, 7.0, 8.0 flutter/flutter-cn 0.0.1 Aooohan flutter plugin for China, support for getting stable, dev, beta version flutter/flutter 0.0.2 Aooohan flutter plugin, support for getting stable, dev, beta version golang/golang 0.0.2 Aooohan java/adoptium-jdk 0.0.1 aooohan Adoptium JDK java/azul-jdk 0.0.1 yimiaoxiehou Azul JDK, also known as Zulu maven/maven 0.0.1 Aooohan nodejs/nodejs 0.0.3 Aooohan Node.js nodejs/npmmirror 0.0.1 yimiaoxiehou install Node.js usehttps://cdn.npmmirror.com python/npmmirror 0.0.1 aooohan vfox >= 0.2.3 !!! From npmmirror.org. For Windows, only support >=3.5.0, but no restrictions for unix-like python/python 0.0.1 aooohan vfox >= 0.2.3 !! For Windows, only support >=3.5.0, but no restrictions for unix-like zig/zig 0.0.3 aooohan Zig 快速开始 每种编程语言都有对应的版本管理工具,如 nvm、fvm、gvm、sdkman 等,它们的核心功能大同小异。但对于使用多种语言的开发者来说,这意味着需要学习和记忆各种不同的命令,增加了学习成本。如果你是全栈工程师,或者使用不止一种语言,使用VersionFox,你无需再学习这些繁杂的工具,从而降低学习成本,节省时间。 亮点: 跨平台 (Windows、Linux、macOS), 不同的平台拥有相同的用户体验 使用一致的命令管理所有语言 简单的插件系统添加对您所需 SDK 的支持 支持 Global、Project、Session 三种作用域 切换项目时,自动切换到对应版本 快速入门 安装 vfox (详细安装) $ brew tap version-fox/tap $ brew install vfox 选择一条适合你 shell 的命令 echo 'eval "$(vfox activate bash)"' >> ~/.bashrc echo 'eval "$(vfox activate zsh)"' >> ~/.zshrc echo 'vfox activate fish | source' >> ~/.config/fish/config.fish # For PowerShell, add the following line to your $PROFILE: Invoke-Expression "$(vfox activate pwsh)" 3. 添加插件 $ vfox add nodejs/nodejs 4. 安装版本 vfox install nodejs@latest 5. 切换版本 $ vfox use nodejs@21.5.0 $ node -v 21.5.0 目前已支持多种开发语言,欢迎使用~~ 作用域演示 Project 作用域 Session 作用域 Node 完整演示 项目地址:https://github.com/version-fox/vfox

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册