首页 文章 精选 留言 我的

文章列表

共 183335 篇
JuiceFS 在多云架构中加速大模型推理

JuiceFS 在多云架构中加速大模型推理

在大模型的开发与应用中,数据预处理、模型开发、训练和推理构成四个关键环节。本文将重点探讨推理环节。在之前的博客中,社区用户 BentoML 和贝壳的案例提到了使用 JuiceFS 社区版来提高模型加载的效率。本文将结合我们的实际经验,详细介绍企业版在此场景下的优势。 下图是一个典型的大模型推理服务的架构。我们可以观察到几个关键特点。首先,架构跨越多个云服务或...

玩转OurBMC第十期:OpenBMC之shared_ptr使用

玩转OurBMC第十期:OpenBMC之shared_ptr使用

栏目介绍:“玩转OurBMC”是OurBMC社区开创的知识分享类栏目,主要聚焦于社区和BMC全栈技术相关基础知识的分享,全方位涵盖了从理论原理到实践操作的知识传递。OurBMC社区将通过“玩转OurBMC”栏目,帮助开发者们深入了解到社区文化、理念及特色,增进开发者对BMC全栈技术的理解。 欢迎各位关注“玩转OurBMC”栏目,共同探索OurBMC社区的精彩...

华为开发者联盟生态市场上线原生鸿蒙样板间专区,推动金融、新闻行业加速鸿蒙化

华为开发者联盟生态市场上线原生鸿蒙样板间专区,推动金融、新闻行业加速鸿蒙化

在华为开发者大会(HDC 2024)上,华为公布已与生态开发服务商共建超20个鸿蒙原生行业应用“样板间”(即行业应用通用基线版本)。这些“样板间”旨在提升鸿蒙原生应用开发效率,实现各行业应用快速鸿蒙化。 8月21华为开发者联盟生态市场正式上线鸿蒙原生行业“样板间”专区,首批上线金融和新闻资讯两大行业,整合众多开发服务商提供的行业“样板间”,结合行业常见痛点场...

OSI 发布开源 AI 定义最新草案

OSI 发布开源 AI 定义最新草案

Open Source Initiative (OSI) 宣布推出最新的“开源 AI 定义 – 草案 v. 0.0.9”,进一步明确了开源模型和开源权重的组成部分,并指出系统的所有组件都需要满足开源标准,该系统才被视为开源。 该组织表示,计划在今年 10 月份发布稳定版的开源 AI 定义。该定义将提供一个框架,帮助 AI 开发人员和用户确定 AI 系统是否开...

Dante Cloud 3.3.3.0 发布,国内首个支持阻塞式和响应式融合的微服务

Dante Cloud 3.3.3.0 发布,国内首个支持阻塞式和响应式融合的微服务

Dante Cloud 是国内首个支持阻塞式和响应式融合的微服务。以「高质量代码、低安全漏洞」为核心,采用领域驱动模型(DDD)设计思想,完全基于 Spring 生态全域开源技术和 OAuth2.1 协议,支持智能电视、IoT等物联网设备认证,满足国家三级等保要求、支持接口国密数字信封加解密、防刷、高防XSS和SQL注入等一系列安全体系的多租户微服务解决方案...

deepin 23丨大有智慧,UOS AI应用、功能全面解读

deepin 23丨大有智慧,UOS AI应用、功能全面解读

查看原文 昨天,我们向大家详细介绍了《deepin 23丨如意玲珑正式集成至deepin 23,生态适配超千款》,很多用户在评论区也纷纷留言,给我们提出了很多好的建议。今天我们继续和大家聊一聊deepin 23的UOS AI在多模型对接、个人AI助手、操作系统管理、AI赋能应用上的技术亮点和功能应用。另外,如果大家在使用UOS AI过程中遇到任何问题,请在评...

【官宣】文末有惊喜,LFOSSA开源人才嘉年华开始了!

【官宣】文末有惊喜,LFOSSA开源人才嘉年华开始了!

2024年8月15日 — 中国,上海 — 全球正在面临技术人才短缺的挑战!来自福布斯报道,如果到 2030 年还不解决当前面临的人才短缺问题,可能会造成 8500 万个职位空缺和 8.5 万亿美元的未实现收入。鉴于行业对于开源人才的迫切需求,为了迎接 2024 年,LF 开源软件学园 (LFOSSA) 定位 2024 年为 LFOSSA 开源人才年。 LF ...

Java 通用代码生成器光,电音之王尝鲜版八,完善数据库自动反射功能和多对多候选功能

Java 通用代码生成器光,电音之王尝鲜版八,完善数据库自动反射功能和多对多候选功能

Java 通用代码生成器光,电音之王尝鲜版八,完善数据库自动反射功能和多对多候选功能 Java 通用代码生成器光,电音之王尝鲜版八,此版本完善了数据库自动反射功能。完善了多对多候选功能。尝鲜版八在以前的版本上修复了大量缺陷和功能缺失,通过了完善的功能测试,修复了大量代码,是目前最完善的通用代码生成器。 数据库自动反射功能是一种高度自动化的根据现有数据库生成应...

社区供稿 | 如何让大模型输出 10k+ 字长文?

社区供稿 | 如何让大模型输出 10k+ 字长文?

随着大语言模型的发展,许多模型已经能够处理超过100k+ tokens的输入上下文。然而,这些模型在生成长文本时,普遍存在输出长度受限的问题。 在实际应用中,为了克服这个问题,人们普遍采用「分而治之」的方法,让模型一段一段地写。这种方法在一定程度上似乎能够解决长文本输出的问题,但往往会导致 1)消耗 tokens 量成倍甚至指数增加;2)前后内容不连贯。 如...

公司最大的内卷,偷偷做单元测试

公司最大的内卷,偷偷做单元测试

一位读者在看过我的《理解这八大优势,才算精通单元测试》后,问我:知道单元测试有好处,但实在没空写。看完文章后又想重新落实一下,有没有啥写好单元测试的技巧? 这位读者绝对不是第一个和我抱怨单元测试的人。这很好理解,中国互联网公司太多太卷,想要抢夺市场就要推出不同功能,而这些压力一部分落在了程序员身上,拼命赶需求。单元测试这种费力不讨好的事情,自然而然就没有人做...

龙芯依托 LoongArch SIG,加速推进 openKylin 龙芯生态兼容与支持

龙芯依托 LoongArch SIG,加速推进 openKylin 龙芯生态兼容与支持

龙芯依托LoongArch SIG,加速推进openKylin龙芯生态兼容与支持。 LoongArch SIG由社区理事单位龙芯中科技术股份有限公司发起成立,致力于构建独立于Wintel和AA体系的软件生态体系,满足社区开发者以及各行业用户的业务场景。 01SIG目标 LoongArch SIG将围绕LoongArch指令集及操作系统底层与架构紧密相关的基础...

资源下载

更多资源
优质分享App

优质分享App

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。