首页 文章 精选 留言 我的

精选列表

搜索[论文共读],共10004篇文章
优秀的个人博客,低调大师

逸鹏说道:读王阳明、曾国藩有所感

推荐大家听听,相信大家会有部分感同身受的,这一年来经历了很多事情,很多东西也看透了,很多东西也看淡了。 想想曾几何时的挑灯夜战,曾几何时的抱病修书,星星点点,林林总总,以前我曾觉得这些华而不实的东西真心没必要,大白话一句的为什么要绕来绕去,直来直去多好。思极慎思的慢慢发现,其实我错了,大错特错,那些所谓的牛掰又能怎样,技术再牛有些事情也不能改变,技术再转有些人情还是要处,退一万步讲:“读书可以使人明事理,可以让人在这闹市中有一份静的心”,你是否多年未读完一本非技术方面的书了?你是否现在连读一篇文章的耐心都没了呢?其实这就是佛家里面的“着相”了,其实没有那么多条条框框,万事凭心即可。读完王阳明才发现原来这个就是致良知。。。 那何为技术?古时候实用主义的学说都是以“为生活便利”为前提的。现代技术一次次升级,小到量子夸克,夸克下不是没有了,而是科学家发现总这么追究下去其实也没有啥意思,于是又回到了生活。一个人的精力是有限的,就算正当青年精力无穷也是有力竭之时。如旧力已发而新力未生的时候何尝不是最危险的时候?小说里面高手就喜欢找这样的空隙来借力打力。 我理解的技术是:“于生活有利,于百姓有利”。技术改变生活,大家都知道这句,其实技术也分三阶段。为下者:能够便利生活(用技术改善你周围人的生活,比如本来要重复劳动的事情用代码轻轻松松完成,省下大量时间);为中者:可以造福百姓(用技术改变生活方式,比如以前购物和现在购物,以及现在的人工智能);为上着:憧憬未来(研究新一代技术,比如现在的区块链的广泛应用,以及比特币慢慢普及)【这个过程需要面对的是海量的失败和年复一年的枯燥,关键还很大可能面临被别人摘桃子的失败】。 你是否又执着于编程语言的纠结中呢?其实没必要,无论是C还是Java亦或Python、C#、以及Go,其实都能实现所需,在项目中没必要因为自己的阵营而有所偏倚,你要用其所擅长的方向做事情,而不是执着于编程语言。举个例子吧(仅仅代表个人拙见):像你要对大数据的处理,那么Java和Python就是一个很好的选择。像对并发相关的处理那么肯定优先选择Go,最经典的莫过于:Fabio+Consul、gRPC。再比如你需要一个轻量级的全栈那么Node和NetCore肯定优先考虑,比如你需要敏捷开发,那么NetCore和Python也肯定是优先考虑的...等等,举例子只是说明,不要被一张无形的网网住了你看世界的眼,比如我一直是Net方向的程序员,也挺愿意在这个方向上往下走的,那么问题来了,路断了怎么办?那就借鉴别的路呗。小说里面经常有的经典桥段,譬如剑修到了瓶颈,肯定看看诸如长枪或者刀的修炼法诀来触类旁通,对于技术不要过于执着却也要始终如一。 知道却没有做到,买了书却没有读完,有了资料却留着荒废,又怎可谓之“知行合一”呢?知道了的第一层次,去做了是第二层次,在做的过程中举一反三或者 repeat repeat and repeat为第三个层次,最后推陈出新再进行知行合一,古人业余不可能像现在这么丰富,大量的信息涌现,古代帝王也没有这样的条件,那么问题来了,人自然而然的也就容易迷失在这些信息洪流之中,或者成为了其中的一位传递者了,人类发明的机器每时每刻在监视人民用来机器学习,那是人掌握机器还是机器掌握人呢?其实机器和人都不知道,也许在未来的10年中也会出现类似于绝命手游里面的光脑了,其实现在城市大脑在上海、杭州、苏州等等地方都有了,比如这个案例: 技术行业几年就一次大更新,还记得参加2014的 ISC,那时候提出的万物互联,现在已经进入了未声。国家计划书里面也说过最迟2020年人工智能将普及。 现在是2018了,非技术的基本上都在关注商业以及一带一路,在国内商业里面找机遇,殊不知大佬们都转向实体经济了,你又拿什么去争?保守做法就是跟着大哥混,短短一年的时间里面天猫和京东实体店基本上已经普及,这是为什么呢?其实出路在国外。技术方向的更新就更快了,基本上一年一个技术潮流然后引领2年再淘汰,先是大前端的爆发期,后是Linux的爆发期,再是人工智能的爆发期,现在是区块链的爆发期。机遇出现的同时也就有了无限可能。 还记得之前说的上中下技术分层吗?下对应着旧技术,其需求也最为庞大,为中的人工智能提供的支撑,上就不说了高风险高回报。很多人也就迷茫了或者麻木跟风全部走向了人工智能方向,其实还是不了解自己。你可以读读曾国藩家训,他可以说是一个很笨很笨的小孩,但却引得无数人的佩服,为什么?其实就是了解自己,一日三省知不足而后改,让我想到了机器学习,比如之前国外很火的一款换脸APP(FakeApp)。有些人看到后赶紧把私藏大片换成自己心仪已久的明星脸,为了达到这个目的不惜高价求使用教程,真有必要吗?其实精神上的一种满足也是一种调节剂;可有些人却看到了兴趣,为什么这么神奇?怎么实现的?然后研究摸索,然后进步,其实每天进步一点点,一生下来进步又何止天涯? 岁月漫长,徐徐图之。找好自己的定位,在这个基础上再去扩展提升,不要只看到一些人流闹市,说实话上次放出人工智能的资料我有点后悔了。不是说不舍得资料,熟悉我的人都知道,我学习资料都是公开分享的。而是看到后台剧烈的回复,我惊到了,,,少年读读书吧,再不济听听电台也是好的,入梦前夕听听也可,不要太功利太急切了,不要想着1年走完别人3年的路,不然就是我这样的教训,是走完了,但是却需要2年来修身养性。其实任何事情都有其好的一面有其坏的一面,没必要过分感慨,可以看看“塞翁失马”的故事,人非圣贤孰能无过?慎独自省敬畏心,知行合一致良知。不聊了,愿大家人人成龙成凤~ 五百年来王阳明: 音频: http://m.ximalaya.com/1000072/album/12840343/ 视频: http://tv.cctv.com/2017/05/03/VIDA2H3uJRkeqF2eXnUahdyX170503.shtml 曾国藩家训: 音频: http://m.ximalaya.com/4187146/album/5980073/ 视频: http://tv.cctv.com/2013/07/02/VIDA1372752412778311.shtml http://tv.cctv.com/2012/12/10/VIDA1355151544433750.shtml 作者: 毒逆天 出处: https://www.cnblogs.com/dotnetcrazy 打赏: 18i4JpL6g54yAPAefdtgqwRrZ43YJwAV5z 本文版权归作者和博客园共有。欢迎转载,但必须保留此段声明,且在文章页面明显位置给出原文连接!

优秀的个人博客,低调大师

《项目百态》读感系列”苏式风格“

有些人问了,为什么交付的产品包含了用户要求的功能,却不招用户待见,很快就被搁置一边了。乔帮主会这样回答你,苹果的产品能俘获众多用户的心是因为注重用户体验,关注细节。 在我们每个人的项目实践中多多少少都会更关注需求,功能的实现,而忽视了用户体验。但是,请诸位先换位思考下,现在我是用户,对于一个产品来说,你满足了我需要的功能,但是界面简单,操作复杂,而且运行还不流畅,我一定会暗骂开发这款产品的团队。同时,这样的产品也体现了对用户的不尊重。 我所在的开发团队就经历过这样的阶段,对代码的架构很挑剔,就是一个小型程序我们也会用上MVC,再套上设计模式,把代码规划的很齐整,可是对于UI和使用体验,我们总是简单的去完成,认为在代码上最能体现一个开发人员的素质和产品的质量。可是当产品推向市场后,用户可不会关心你是用多么高级的架构完成的,代码写的多漂亮,他们更关注的是自己用着舒不舒服。其实,用户的感觉也代表着开发人员的素质和产品的质量,一个好的开发团队不仅仅只是漂亮的完成代码编写,按需求实现功能,更应该开发出一个”艺术品“,这样的产品才能得到用户的好评,同样你也可以得到用户的尊重。 怎么解决?谈谈我的看法: 1.把自己放在用户的角度上去设计产品;先别把自己当做开发人员,因为那样你就 会为自己找各种各样的理由,用户会理解的,时间不允许,不容易实现...... 2.关于UI部分一定要引入原型设计,大家首先要对原型评审通过才可进行实现; 3.不要只埋头于技术研究,多看看有关UCD的社区,多关注UCD,我觉得腾讯在这方 面做的就很好。 本文转自永远的朋友博客51CTO博客,原文链接http://blog.51cto.com/yaocoder/786090如需转载请自行联系原作者 yaocoder

优秀的个人博客,低调大师

软考高项论文备考模版

2014年考了高项,今日翻出旧日备考模版,于此留档。 论项目的xx管理 【摘要】 2012年10月,我参与了xx房地产集团股份有限公司的房地产综合管理信息系统项目建设。原有的房地产信息管理系统因多年前开发,功能和性能已经满足不了该房地产公司现在的需求。经过分析评估,重新开发新系统。新系统主要分为8个子系统,分别为售楼、客服、会员、成本、计划和采购招投标等8个方面。通过该项目的建设,实现了该公司日常业务的统一战略管理,提高了运作效率和对业务的掌控能力,全面提升了该公司的综合竞争能力。作为该公司的重点战略项目,该项目总投资为600万元人民币,建设工期为1年。在本项目中,我担任项目经理,负责项目管理工作。 本项目于2013年10月,通过了业主方的验收,赢得了甲方的好评,得到了业内的一致认可。本文结合作者实际经验,以该项目为例,讨论了信息系统项目建设中xx管理,主要从...等几方面进行了论述,提出了项目xx管理中的一些问题和方法。 【正文】 2012年10月,我参与了xx房地产公司的房地产综合管理信息系统项目建设。本项目应xx房地产公司由统一管理的战略而立项,是2012年该公司的重点项目。项目建设周期为1年,从2012年10月开始,到2013年10月验收结束,项目总投资为600万元人民币。其目标是建立一套高效的管理体系,提升业务的准确性和及时性,提高客户的满意度,实现该公司统一管理的战略。 原系统采用c/s结构,客户端需要安装软件,甲方用户认为不是很方便。此外,随着信息技术的发展,客户端的操作系统呈现出多样化的趋势,出现了软件兼容性问题,比如苹果公司的mac操作系统,还有64位win7操作系统等。c/s结构给部分甲方用户带来了不便,使他们颇为不满。再加上,原系统的开发公司早已不在了,该系统没有得到后续的完善和维护。经过分析研究,重新开发新系统。新系统采用b/s架构,服务器端采用j2ee+oracle模式开发,服务器采用dell的poweredger720,操作系统采用redhat企业版linux5.4,数据库采用oracle11gr2。采用b/s架构,具有方便开发与维护,安全性较高,开发成本较低,以及使用方便的特点。为了数据的安全性,服务器使用了raid5存储解决方案。项目采用矩阵型组织结构,从各职能部门抽调主干成员,组成专门的项目团队,其中需求小组3人,开发小组5人,测试小组4人,实施小组5人,质量小组3人。我被任命为该项目的项目经理,负责项目的项目管理工作。 由于本项目的顺利上线涉及到业务的考核,因此,在本项目中,xx管理尤为重要,在本项目中,我作为项目经理特别除了对其余管理领域进行克制恪守的管理外,特别对xx管理从...这几方面进行了管理。 ...... 经过我们团队的不懈努力,历时一年,本项目终于于2013年10月通过了业主方组织的验收,实现了该公司统一管理的战略目标,提升了该公司的综合竞争实力。本项目的成功得益于我成功的xx管理。通过一些工具、技术和方法,使xx管理得到了事半功倍的效果。当然,本项目中还有一些不足之处,比如,在项目开发的过程中,开发小组的某个成员突发重病,无法继续工作,这导致了项目团队建设的一些小问题。不过,经过我后期的纠偏,并没有对项目产生什么影响。在后续的学习和工作中,我将不断充电学习,和同行进行交流,提升自己的业务和管理水平,为我国信息化建设添砖加瓦。 本文转自Grodd51CTO博客,原文链接:http://blog.51cto.com/juispan/1949968,如需转载请自行联系原作者

优秀的个人博客,低调大师

曙光联合NVIDIA和思杰共赏“云图”

【大咖・来了 第7期】10月24日晚8点观看《智能导购对话机器人实践》 作为中国高性能计算***和云计算领先企业,曙光公司与NVIDIA公司和思杰共同召开“凌云·图远”***云计算产品联合发布会。曙光与NVIDIA公司和思杰共同合作推出的基于GRID和Citrix XenDesktop技术的图形云计算产品——“云图”(W760-G10), ***解决了GPU硬件虚拟化的技术难题,这也是国内***款真正意义上的专用图形云计算产品。曙光公司***运营官王正福、曙光公司产品中心总经理沙超群、NVIDIA公司全球副总裁Shanker Trivedi、NVIDIA公司全球副总裁、PSG&云计算业务总经理潘迪等共同出席了云图产品发布会,思杰公司大中华区总裁曹衡康通过远程视频对此合作发来了祝贺。 曙光公司***运营官王正福(右)与NVIDIA公司全球副总裁Shanker Trivedi(左)共同为图形云计算产品——“云图”(W760-G10)揭幕 近年来,云计算应用已经普及并影响到了我们生活的方方面面,但在图形计算领域的创新应用进展却比较缓慢。过去,进行图形计算的GPU处理器一直无法很好的工作在硬件虚拟化层面,无法更好的调度GPU资源分配。NVIDIA公司的Kepler架构系列GPU突破了GPU硬件虚拟化的技术上瓶颈,从而将硬件虚拟化扩展到GPU上,将云计算架构优势在图形上也可得到很好发挥。 “鉴于图形计算领域亟待突破的技术难题,一直致力于云计算和高性能计算机的研发与应用推广的曙光公司,联合NVIDIA公司和思杰两大技术领先企业,在云计算、图形计算和虚拟化应用三者之间,打通了一条共聚技术优势之路,***解决了GPU硬件虚拟化的技术难题。”曙光***运营官王正福先生表示。 曙光公司产品经理宋迪表示:“云图可以灵活的为客户提供直通GPU、虚拟GPU、共享GPU等多种云计算平台GPU使用模式,并可以对中央处理器、图形处理器‘按需分配’,对内存和存储池资源进行切割,这满足了用户在各种应用场景中的应用。其次,云图W760-G10***虚拟化能力可以达到32台虚拟桌面,在大幅降低运维压力的前提下,提升了2D、3D设计工作的效率。另外,由于云图产品采用了远端高安全性设计,完全可以满足科研、设计、制造等行业用户实际工作中的数据防泄漏需求,在国际窃密技术水平的日益提高的大环境下,可大力加强我国先进技术和企业知识产权的保护能力。” 发布会现场, 为了让广大图形计算用户对云图产品和技术特点有更直观的体验,曙光公司还推出了“云图”体验中心。无论在何处,只要对曙光的云图产品感兴趣的客户都可以远程登录曙光”云图”体验中心,通过实际操作来感受云图带来的巨大便利和性能魅力。同时,用户也可以通过体验中心,按照自己的实际业务需求,分配不同规格的虚拟桌面,通过全程测试来选择“个性化”和云图产品配置。 【责任编辑: 路途 TEL:(010)68476606】 点赞 0

优秀的个人博客,低调大师

从架构师视角浅读DeepInfer工程源码

![Gemini_Generated_Image_glhhu3glhhu3glhh.jpg](https://developer.qcloudimg.com/http-save/yehe-1416240/f2bd9dfe53304e954980973ac8f52a44.jpg) DeepSeek 再次开源了线上生产环境的核心推理引擎 DeepInfer。Apache-2.0,21K Star,4个commit,整体给的很实在:batch scheduler、KV cache、分片、采样、结构化输出都有。 /这几天抽空读了一下工程源码,有两处要注意一下/ : - 一是只支持 DeepSeek-V4.1-Flash 一个模型,入口是离线的 examples/offline_inference.py,没有 OpenAI 兼容的 HTTP 服务,替代不了 vLLM。 - 二是 README 里「未包含」的三条恰好最值钱:KV cache 系统、VE/Prefill/Decode 分离部署、DP 副本间的负载均衡,把集群成本压下去的正是这三样,DeepSeek 留在了内部。 DS之前开源了DeepGEMM(矩阵乘算子)、FlashMLA(注意力优化)、3FS(文件系统),这些其实都是零件,而 DeepInfer 是把这些零件和硬件接起来、扛并发、压成本的那层调度。 ![fig1-stack.png](https://developer.qcloudimg.com/http-save/yehe-1416240/5ba1fd3c4a4e980157f794912c03841a.png) ## 一、工程设计亮点 整体给我的感觉是把推理当成一条流水线看。 ![fig4-request.png](https://developer.qcloudimg.com/http-save/yehe-1416240/b1ab9eb3b22e76428e06ecbd87663418.png) **1. 双计算平台的原生异构支持** NVIDIA 的 SM100 和华为昇腾 950 是两条平行的实现线。看目录结构最直接:deepinfer/npu_ops 下有 deep_select、vit_attn 这些昇腾入口,tilelang_ops 下面 cuda 和 asc 两套实现逐文件对应,算子差异收在可插拔的 OPS 层,Python 服务层不碰设备。国产化和异构算力池化靠的就是这一层。 **2. 异步调度与 SWA Bounded Replay** 异步调度把 CPU 组 batch 和设备执行叠在一起,环境变量是 DEEPINFER_ZERO_OVERHEAD_SCHEDULING,README 里说默认打开。再细一层是 DeferredRelease:这一轮先把待释放的资源 collect 出来,下一轮 pre_sampler_sync 再 release。Python 层的回收通常是阻塞的,往后挪一步就叠进了 GPU 计算,不会在每步之间卡出尖峰。 ![fig2-pipeline.png](https://developer.qcloudimg.com/http-save/yehe-1416240/8734d25c74bd23e93d2d8410e822388f.png) SWA 换个方向省 prefill:decoder 只重放最近 140 个 token 重建状态,不重算全量。保留的这段要盖住窗口大小加最大回退长度,源码注释里写明了,别随手调。 **3. EPLB:把负载均衡和模型前向解耦** MoE 的专家负载天然不均。EPLB 的 policy.py 拆成两步:先按历史 token 负载判断哪个专家热,决定冗余副本的数量,再贪心把物理专家铺到各卡。出了问题能单独看,调参不用碰 forward。 ![fig5-eplb.png](https://developer.qcloudimg.com/http-save/yehe-1416240/18cff9b13444e80fc9944a5b361a901d.png) **4. 动态投机解码** 草稿模型一次给 K 个候选,目标模型一次前向验证,取最长匹配前缀,再按接受率回写 K。固定步长在高并发下经常白算,候选质量好时又不敢多给。README 的 benchmark 里接受率 75%、固定步长 3,一次前向平均出 3.25 个 token,这已经摸到固定 K 的天花板。 ![fig6-spec.png](https://developer.qcloudimg.com/http-save/yehe-1416240/c10a444a388aa07157a2ea165deb7c35.png) **这四条设计值多少钱,README 给了两条曲线** Prefill:4 张 SM100,EP4DP4,384+32 个专家,131k 上下文。batch 给到 65,536 个 token,单卡非缓存输入吞吐 89,000 token/s,一步 730ms;batch 退回 4,096,吞吐掉到 60,000,一步 67ms。大 batch 让吞吐涨了五成,代价是每步多等十倍。 Decode:64 张卡,EP64DP64,384+64 个专家。每个 DP rank 挂 256 个请求,单卡 26,000 token/s,每个用户只剩 108 token/s;降到 8 个请求,每用户 320 token/s,单卡掉到 2,400。三十二倍的并发换十倍吞吐,单用户慢三倍。 这两条曲线就是上面四条设计的成绩单:prefill 靠大 batch 摊平固定开销,decode 靠投机解码把每步产出从 1 个 token 变成 3.25 个。不接受这个交换的业务,数字会差一大截。 ## 二、行业局势与生态影响 以前比谁的模型更聪明,现在比谁的推理更省。 ![fig7-platform.png](https://developer.qcloudimg.com/http-save/yehe-1416240/32bba1efda2b9cf147d8f9d13bd4ec6f.png) **1. 进一步压缩「纯套壳 / 粗暴私有部署」的溢价空间** 降本靠算力和调度,两条曲线就是证据。更狠的是 README 直接给了复现脚本 examples/sweep/run_sweep.sh,谁都能在自己集群上跑一遍对照。 这一手抢不走多少部署的活,只支持一个模型,也没有在线服务层。但它划了一条线:同一个模型、同样的硬件,别人做出来该是什么水平。以后客户问价,心里有了参照,只靠「我帮你私有化部署」收溢价的空间会变薄。 **2. 芯片生态的脱敏,但要打折看** 厂商此前被绑在 NVIDIA 上,CUDA 和 TensorRT-LLM 没有替代品。DeepInfer 把昇腾 950 做到和 SM100 同等的目录结构,「向上抽象、向下兼容」确实降低了迁移门槛。 昇腾那条路能不能打,得看算子覆盖和实测;Batch-invariant 和确定性采样目前只有 NVIDIA(要设 DEEPINFER_BATCH_INVARIANT=1),一致性承诺还没做到两边一样。纸面并行和实际好用之间,通常隔着几个季度。 ## 三、对架构师职业路径的影响 ![fig3-chain.png](https://developer.qcloudimg.com/http-save/yehe-1416240/9d47ea0d392cc132a6c234cf8892b98c.png) **1. 技能重心从算法到工程** 只会 PyTorch / Transformers 那套 API 不够用了。内存带宽瓶颈、跨节点通信时延(DeepEP 这块)、计算和通信怎么叠起来,这些会变成硬门槛。得能读懂 profiler 里的时间花在哪,不然调优就是猜。 **2. 系统设计从单点优化到全栈协同** 翻源码会发现,DeepInfer 的性能没法脱离 FlashMLA 和 DeepEP 单独讲:存储层(3FS)怎么喂数据,算子层(FlashMLA / DeepGEMM)怎么榨干硬件,调度层怎么把请求排成流水线。只懂调参、或者只懂传统 Web 高并发的架构师,得往软硬件协同设计转。 **3. 架构选型从造轮子到精准解耦吸收** 以前 vLLM 或 TGI 一套到底,现在大集群、超高并发、长上下文、MoE 这几类场景有了更具体的参照。架构师该做的是看清自家业务的请求分布、长短文本比例、手里的硬件,把别人的设计拆开,挑能用的拿走。 ## 感悟一下 模型权重决定能力上限,工程架构决定落地成本和商业化下限。这话以前像口号,现在能指着代码和曲线看哪一段在省钱,这是 DeepSeek 技术栈的又一次炸街(当然还有对M国封杀的一种强有力的方式),我们拭目以待!!!

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

用户登录
用户注册