LangChain 与 Semantic Kernel,大模型开发应用的框架,都用上了吗?
论起当前流行的 AI 应用开发开源框架, LangChain 和 Semantic Kernel 必然榜上有名。不仅提供了强大的工具和框架,同时都代表了 AI 技术发展的前沿。
LangChain 的创始人是 Harrison Chase,在 2022 年 10 月将其开源。最初,它只是 Chase 的一个业余爱好项目,但迅速发展成为颇受开发者欢迎的开源框架和工具包。尤其是在 ChatGPT 发布一个月后,LangChain 在 GitHub 上获得了大量关注,目前 star 数已经超过了 8.7 万。与此同时,LangChain 也迅速转变为一家初创公司,估值达到 2 亿美元。
继 LangChain 发布 4 个月之后,微软开源了 Semantic Kernel。Semantic Kernel 是一个轻量级的软件开发工具包(SDK),其核心思想是将传统的编程语言与最新的 AI 技术相结合。在功能方面,Semantic Kernel 与 LangChain 有相似之处,提供提示模板、链接和规划功能。此外,Semantic Kernel 被设计得能够与 Microsoft Azure 和其他微软服务紧密集成。
LangChain 珠玉在前, Semantic Kernel 又堪称后起之秀,到底孰优孰劣?
《LangChain编程:从入门到实践》的作者莫尔索,就曾将 LangChain 和 Semantic Kernel 进行比较。莫尔索在大模型应用落地方面有丰富的经验,为知名项目 AutoGPT、LangChain 框架等贡献过代码,并撰有开源电子书《LLM 应用开发实践》。其主理的公众号“莫尔索随笔”致力于大模型技术的普及。
莫尔索以实现一个支持联网功能的智能 AI 助手为例,最后得出结论:Langchain 更适合构建 MVP,Semantic Kernel 更适合生产级应用;Langchain 更适合独立开发,Semantic Kernel 更适合企业应用。
莫尔索认为,LangChain 的优势在于具备丰富的组件支持。以WebResearchRetriever
的封装实现为例,将向量数据库和搜索引擎结合起来,只需几行代码就可以完成复杂功能,加速 MVP 实现,需求验证。劣势在于过度封装。“Prompt 模板组件做这么抽象实在没必要,应用调试和生产环境可观测性方面都不太友好。”
至于 Semantic Kernel,莫尔索认为其生态比起 LangChain 要更差一点。“但是背靠大厂“巨硬”,这点也能快速赶上,设计整体奔着构建生产级应用去的,LangChain 的一些缺点基本都规避了。Semantic Kernel 主要面向 C# 开发者,也支持 Python 和 Java,C# 开发者只能选择 Semantic Kernel。LangChain 提供了许多现成的代理、工具、插件等,但软件工程方面的组织相对较差,可能和创建者是 ML 工程师出身有关。”
无独有偶,广东智用人工智能应用研究院工业&社区 CTO 张善友也曾比较过二者的差异。张善友曾参与了 Semantic Kernel 中文技术社区的发起,并对该技术有深入的研究和应用经验。
他提到,微软采用 C# 语言开发,推出一个结合 LLM 与传统编程技术的开源框架 Semantic Kernel,更加切合应用开发的需求。
此外,Semantic Kernel 虽然开源更晚,但在微软内部,其开发时间要比 Langchain 早得多,因而具备优良的架构和代码质量,同时制定了更为合理的插件开发规范。
至于大模型的支持方面,张善友表示,Semantic kernel 可以支持任何大模型,不仅仅是 OpenAl、Azure OpenAl、HuggingFace 上的模型。Semantic kermel 鼓励对大模型的支持作为单独插件,由各社区独立维护,如 Llama 2、文心一言、通义千问等,而不是集成到 SK 仓库,以此增强 SK 模块化和可维护性。
LangChain 与 Semantic kernel 有不同的设计理念、功能集和性能特点。在大模型发展如日中天之际,要对开源框架分个高下为时尚早。
不过,想看这两大开发框架同台竞技,并不是什么难事。
7 月 13 日至 14 日,2024 亚太人工智能与机器人产业峰会暨 GOTC 全球开源技术峰会将在杭州举行。在“LLMOps 最佳实践”论坛上,莫尔索、张善友将各自分享其在 LangChain、Semantic kernel 方面的实践。
“LLMOps 最佳实践”论坛还将邀请枫清科技(Fabarta)大语言模型、算法专家王斐,小码科技创始人、Agents-Flex 作者杨福海,微软高级云技术布道师(人工智能方向)卢建晖,阿里云技术专家蔡健等,带领开发者探索和分享 LLMOps 的最新实践、技术和工具,深入讨论如何高效、可靠地管理和运维大规模语言模型,确保它们在生产环境中的最佳性能。
参会报名,请访问:https://www.oschina.net/news/297185
2024 亚太人工智能与机器人产业峰会暨 GOTC 全球开源技术峰会由中国人工智能学会与开源中国联合举办,将于 7 月 13-14 日在杭州隆重举行。本次峰会将汇聚全球顶尖的专家、学者、企业领袖及开源技术代表,深入探讨机器人技术、软件开发、开源技术和 AI 大模型等前沿领域。
会议将重点展示机器人在制造、医疗、物流和服务等行业的最新应用,探讨智能算法和自主学习能力如何提升机器人性能,并分享开源技术在推动技术创新与协作中的关键作用。此外,峰会还将关注 AI 大模型的最新研究进展及其在实际应用中的挑战与机遇。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
GaussDB技术解读——GaussDB架构介绍(三)
目录 9 智能关键技术方案 智能关键技术一:自治运维系统 智能关键技术二:库内AI引擎 智能关键技术三:智能优化器 10 驱动接口关键技术方案 GaussDB架构介绍(二)从数据持久化存取层(DataNode)关键技术方案、全局事务管理层(GTM)关键技术方案、集群管理层(CM)关键技术方案、OM运维管理关键技术方案等方面介绍了GaussDB架构,本篇将从智能关键技术方案、驱动接口关键技术方案继续解读GaussDB架构。 9 智能关键技术方案 智能关键技术一:自治运维系统 GaussDB 自治运维系统“DBMind”的整体系统框图如下图所示,包含四个维度: 数据采集层 数据采集层主要功能实现指标数据采集,采集频率分为秒级采集和分钟级采集。其中秒级采集包括操作系统资源信息采集和数据库实例信息采集,例如操作系统层面CPU、内存、IO读写、网络资源信息采集,数据库实例状态、数据库内关键指标(内存、连接数、TPS、QPS、读写频率等);分钟级采集包括审计日志采集、数据库日志采集和全量SQL流水采集。 DBMind数据平台提供Agent进程用于采集上述指标;若客户系统配置普罗米修斯进行信息采集,...
- 下一篇
如何实现埋点日志精准监控
作者 | 张小七 导读 日志中台承载了百度千亿量级PV的埋点流量,如何对这些流量进行准确监控,并支持个性化字段的抽取、下钻,是日志中台的一大难题。本文简单介绍了日志中台的基本概念及实时流架构,并基于此深入讲解了低成本实现可扩展、高准确度的埋点监控的技术方案。 全文4196字,预计阅读时间11分钟。 01 引言 日志中台,作为百度数据埋点的全套一站式解决方案,目前已覆盖了厂内以手机百度 APP 作为代表的大多数重点产品,承载着每天千亿量级的埋点日志 PV。 埋点日志的实时监控,在日志中台应对突发流量、业务迭代埋点逻辑、埋点计费结算等场景中均发挥着不可或缺的作用。而在海量的数据下,如何对埋点日志进行精准地监控,保证监控的易用性、稳定性与准确性,是日志中台的一大难题。 本文首先对日志中台的 UBC 埋点相关概念进行了简单介绍,分析了埋点监控的需求,并深入讲解了埋点监控的架构设计,最后重点分析了实现过程中的难点、解决方案以及实践过程中的思考。 02 概念简介&需求分析 UBC(User Behavior Collection)即用户行为收集,是日志中台数据埋点的主流协议。按上报端的类型...
相关文章
文章评论
共有0条评论来说两句吧...