首页 文章 精选 留言 我的

精选列表

搜索[元数据管理],共10000篇文章
优秀的个人博客,低调大师

99元的云虚拟机× 9毛9的云原生架构√

当考虑云计算资源成本时,云虚拟机的价格常常难倒不少小企业。这时,有人认为,选择云原生架构可能是一个更经济高效的选择。云原生架构可以通过容器化技术和服务器无状态设计来提高资源利用率,从而降低成本。此外,云原生架构还可以实现更快的部署速度、更高的可伸缩性和更好的性能,有助于降低长期成本。 那么,具体怎么实现?方案又可不可行?第八期《开源漫谈》,我们邀请了3位嘉宾:马工、李令辉和李冠宇,一起来分享一下,云原生架构替代云虚拟机有哪些好办法。 马工,在北欧从事 Infra 工程师,公众号《瑞典马工》主理人。 李令辉,云原生数据库 clapdb 创始人,前乘法云 CTO,美洽 CTO,滴滴出行首席架构师。目前致力于基于云上的基础设施新范式,提供新时代的分析型数据服务。 李冠宇,微信生态领域 MVP,就职于相关团队担任技术产品经理、架构师;为多家企业组织提供上云架构和微信生态产品咨询服务,公众号《咋用云》。 马工:有人认为,云原生架构可能是一个比虚拟机更经济高效的选择,它可以通过容器化技术和无服务器来提高资源利用率,从而降低成本,还能获得更快的部署速度和更高的伸缩性。那么今天我们就通过一个案例来仔细地分析一下,这种说法究竟有没有道理,云原生架构究竟能带来哪些好处? 李冠宇:我做了一个手绘的架构图,大家在这里可以看到,其实就两个核心的云产品,一个是对象存储,一个是 CDN。 首先这个九毛九架构的客户,是一个预制菜小商家,他自己不懂技术,希望以最低的成本实现扫二维码跳转第三方小程序来查看礼盒的使用场景。就是他的二维码贴到不同规格的礼盒里,当购买者扫描礼盒上的二维码之后,就会自动跳转到这个小商家的小程序里,能够看到礼盒里有多少个菜品,每个菜品都是啥。整个都是一个礼盒信息的展示,不涉及线上购买。 我在做方案时用到了这两个公有云最基础的产品,一个是对象存储,一个是 CDN,完成了整个交付。整个开发过程包括沟通的时间,也就一个小时。后续整体运行到现在半年多了,都非常平稳,也没有做一些维护的工作,期间还承受过两次大规模的访问。商家用了腾讯云自带的一个对象存储的客户端来修改商品信息,发布频率大概一年两次。 所以它是一个典型的读多写少的场景。这个架构也很常见,它主要就是面向读多写少的静态数据分发场景,比如企业的网站,都会用对象存储+ CDN 的这种架构来分发一些静态网站数据,比如图片、视频、JS、HTML 和 CSS 文件等等。那么,在这个需求中,很多小程序开发者可能会认为,如果要做一个联网的小程序,那么必须要有一个服务器,就感觉服务器跟联网小程序是划等号的。但实际上来说,不需要。像这种读多写少的典型场景,它仍然在 CDN +对象存储的适用范围内,不光能够给浏览器分发静态文件,还能够当做服务端来给前端调用。 马工:如果我是个没有任何云原生经验的人,我可能会弄个虚拟机,打开之后域名就指向这个虚拟机,这个虚拟机装一个 Apache 返回来,如果需要更复杂一些的话,我再装一个 MySQL。最后,虚拟机要维护,域名要维护,MySQL 要维护, Apache 如果有安全漏洞,我要维护,所以这个其实还是挺麻烦的。而且,它的访问量其实不大,哪怕一个最小的虚拟机,也是过剩的。 李冠宇:对,其实它每天访问不到一万次,每次满打满算来 500KB 的话,也花不了多少,一个月的消耗不到一块钱,加上云厂商给的每个月的免费额度,它甚至不花钱,1年都花不了多少钱。 如果大家跟我一样有做过微小型用户的架构,比如说喜欢使用微盟,有赞这种去搭建的,这些用户有一些共通的场景,他们会用三点来评估一个方案好不好: 第一是易用性。因为本身没有技术,但需要很多服务,比如需要防盗链、防火墙、IP 限频、就近分发这些去包装自己,那做虚拟机的话技术门槛就太高了,后期运维也需要成本; 第二是可靠性。用户买服务的时候,希望就跟买房子一样,能够直接住进去,而不希望三天两头要维护。所以他们希望服务在运行过程中能够保持稳定,尽可能不需要任何的运维干预,除了最基本的消耗之外,不希望出现时不时的故障,然后找人维护。如果出现故障的话,可以自愈。 从这两个角度出发的话,上面的方案就是性价比最高的了。 用这套架构的话,第一个好处:高可用免运维。对象存储和 CDN 都是云计算厂商非常成熟的产品,在持续运行方面,不用担心会挂掉,即使挂掉了,也不需要方案提供者去做,云厂商会自动给它自愈,通过云厂商自己的维护,就能达到这种效果。 第二个好处也是可用性,CDN 可以缓存到边缘节点,加快访问速度,而且 CDN 跟对象存储也提供一些安全防护或者是上限阈值的设置,可以应对一些攻击手段,全程自动化处理。比如腾讯云和阿里云,都提出了一些安全的 SDN 或者是 EDG one 这种产品,其实就是安全的 CDN 能力保护。 另外,对象存储的防盗链、IP 限频,在高可靠和可用性方面来说,低成本用户本身用得不多。小用户本身访问不多,流量的洪峰来了之后,可能会吃掉相当大一部分费用。但如果在运营厂商上开一个服务器,那流量成本可能更高。因为现在电信运营商的对象存储和服务器的流量可能是一致的,其他的话都是 IP 流量会比对象存储或者 CDN 的流量费要高一些。如果说直接预制一个带宽,99块钱一年,预制三兆的带宽,但流量过来之后,撑不撑得起这么大的访问量?所以本身来说,商家是要在低成本的基础上实现高可靠的,这种情况本身就很苛刻,你没有办法通过自建或者用虚拟机来搞。 马工:也就是说,用云的话,用多少付费多少,它有足够的弹性。如果是自建的话,就要按最高峰来规划我的容量,但其实99%的时间没有用上那个最高峰,可如果没有那个高峰流量的能力,高峰来的时候又会给客户业务带来很大的损失。 李冠宇:对,这其实就跟用户买保险一样,我就为了他的最高峰去做一个保险,但他们觉得我就要按现成的付费,那这样的话大部分人都不会去做了。 李令辉:我来泼个冷水。你这里讲的 CDN,你要说 CDN 是云原生,我相信很多听众是不同意的。这个东西存在那么多年了,怎么就云原生了?这个是有争议的。如果你的高可用、你的成本、防盗链,什么都是靠 CDN 来做,那么你很难解释这个架构是一个云原生架构,和传统架构有什么不同?因为如果按照你的逻辑来说,流量成本是关键,那后面起不起虚拟机有那么关键吗? 李冠宇:CDN 它的分发是这样,但是实际上来说,CDN 它上面有很多功能的,这些能力并不属于一个非常裸的东西。比如说自建,用一些 IDC2.0 的厂商去做,他们不会提供这种安全的能力,因为我首先要做的是易用性。 李令辉:像一年发布两次的这种用户,他其实用什么都不重要,按我的理解,如果我是他的话,我就直接发在 CDN 上,我也不回源。因为我也没有变化,我回什么源?别说对象存储了,我什么都不需要。我这个静态站我用什么不行? 我这个问题,代表了一些从传统视角来看这个架构的人。因为架构不仅仅代表的是技术上的先进性。比如说9块9和99中间的差值当然很小,但 Total cost of ownership 我们要考虑进去。比方说,你的工资是老板付的吗?不。是甲方、是你们的平台帮老板支付的。如果老板想自己雇佣你的话,那么这个成本要不要加上?如果他要找个外包,八成外包是会用虚拟机的,但你这个架构他未必会。 李冠宇:我明白,如果作为一个外包的角色在市场上做这种工作,我可以不搞这个东西,我可以把这个东西直接写成一个完全部署的脚本,做成微盟有赞那种形式。别人如果要报价,我把我自己的人力加进去,然后加上这个服务,报价1000。因为我整个用的云原生的东西,我不用去做持续性的维护。 李令辉:所以我觉得你这个架构其实还有个亮点,像对象存储这样非常成熟和稳定的 Pass 服务,它降低了运维难度和运维成本,因为即使找个外包去做,那后续找外包维护的成本也不低。但是用了这个,就能省去运维成本。所以,我们不能只看做这个项目的成本,还要看维护这个项目成本。维护项目成本中,对大部分小企业来说,服务器成本都是小头了。 因为,它就不可能比人的工资贵,至少以中国现在的工资水平来说。所以如何让一个架构简单到几乎不需要人去维护,我觉得这个架构才是有价值的,对于中小企业来说。 因为,架构本质是追求可维护性的。架构对计算机来说有什么区别?没什么区别。对我们人来说才有区别。对计算机来说都是二进制,都是指令集在跑。所以本质上来说,一个架构如果很复杂,需要考虑很多层面,比如这个虚拟机我买的存储够不够,我买的内存够不够,不够了怎么办?需要迁移?这些东西都是包括在隐含成本里的。但你这个架构,因为用了更简单的 API,有更成熟的服务,这些服务都自带了。 所以我觉得这是架构的一个亮点,如果只从开发者的角度来说,他往往觉得我更熟悉 java,我为什么要搞这个我不会写。但对于真正为这个账单买单的人来说,他要考虑的不应该只是服务器成本,(甚至最后考虑服务器成本),首先需要考虑的是长久性的人力资源的投入,即开发成本+维护成本。 马工:我想问个问题,你刚刚提到了 Total cost of ownership,这种硬件成本占 TCO 多大的比例算是行业平均水平? 李令辉:不同行业差别非常大。比如说,对于视频网站公司来说,流量成本就是最大头,别的都像送的。因为流量特别贵,尤其是中国,西方 Netflix 的流量占整个全网流量的10%+,它的硬件成本都没有成为大头,你想吧。其实严格来说,硬件成本对于大中型企业来说一般都不是大头。对于小型企业的话,看多小吧,看你这个企业是做什么的。比如说做全世界网站备份的那个公司,主要成本就是服务器和存储。但是对于冠宇的那种客户来说,这个硬件成本,不管是9块9、99、999都非常低,都可以认为是1%一2%,这种用户他最不在乎的就是服务器成本。 马工:也就是说,我们优化服务器成本其实都是在小数点后面好几位做优化? 李令辉:是这样的,所以我一直不同意我们做云原生架构讲的道理是给它优化服务器成本,因为这件事情对于大部分企业来说,他听完就没兴趣了。我举个实际的例子,很多企业比如说互联网大厂,我就不说是哪一家,整个服务器硬件成本、就整个技术成本可能也就占个百分之二三十。你们可以自己上财报看,很多互联网大厂都有财报,整个研发成本占公司总成本的百分之多少。这本身就是个小头,这里面的大头是人员工资和股权激励。去掉之后,服务器成本真的没有多高,摊销之后就更低了。所以,往往三年的服务器,他用五年的,你说搬到云上能省钱,他们肯定就梗着脖子说那我的服务器都买了,我以后可以不收钱,我就交个电费,交个价位费,带宽费就行了。 从这个角度来说,想降服务器成本这件事是错的,因为服务器成本本来就不是大家最 care 的事情。但实际上来说,原来为了维护一个自建的复杂的架构,你需要在各环节部署专家,否则你遇到问题是解决不了的。但现在普通的小厂哪里去请到这样的专家?所以我觉得,云原生架构,是更好的分工,你起码能够跨互联网,把这个专家请到你公司来。社会的进步不就是协作。本质上来说,用成熟的架构,就是把专业的事情交给专业的人,自己专注于自己的业务。每个公司都有自己擅长的东西和不擅长的东西,我就没有见过一个重建 Linux 的,因为都不擅长。 马工:如果要扩展的话?比如说我要加个支付服务的话,你这个还能玩吗?是不是我要把虚拟机搬回来? 李冠宇:不用。CDN 服务它只做静态分发。我的观点是只有适合场景的推荐架构,没有标准的架构,所以它只适合上面这种读多写少的小程序。如果是标准的业务服务器的话,就会有计算服务,那就会用到下面这种架构了: 像刚才那种图片什么的,可以通过 CDN 服务去做静态分发; 对于一些请求,像注册之类的,它肯定是落到数据库里,那就必须要通过一个计算服务。计算服务是处理客户端的动态请求,包括回动态的一些数据,然后连接数据库和对象存储。客户端可能会有一些直接上传的文件,直接去到对象存储,计算服务负责在上传文件的时候做一个预授权。它的整个逻辑是这样子的: 如果要上传文件,客户端要先向业务服务器请求预授权的链接,通过云服务厂商的访问控制,在业务服务器里获取临时密钥,然后返回一个预签名的链接,客户端直接通过这个预签名的链接,在特定时间上传文件到这一个路径下,到对象存储里。业务服务器会跟对象存储通信,验证文件上传是否可行。这就是客户端直传到对象存储。 回到计算服务,你可以根据你的不同需求,去用服务器或云函数,也可以用容器服务,去做整个计算服务。它核心就是计算服务、数据库和对象存储。数据库是做结构化,主要做动态的结构处理的,对象存储是做一些非结构化的数据,或者是需要静态分发的东西,通过 CDN 流传出去。它是三个核心。 这两年,像微信提出的微信云开发、微信托管以及阿里云的云开发,如果细分的话,其实都是计算、数据库和存储这三家,它其实是一个存算分离的结构。在这种情况下,它其实都是给你固化了的,可以满足非常多的场景需求了,算是一个半推荐的、能够适应很多场景的情况。 这里的计算服务,还可以写一些关于后端的逻辑,然后去调用数据库、调用对象存储。 马工:这些计算服务具体体现在各个云厂家的产品上是对应哪些? 李冠宇:各个云厂商的计算类。比如说服务器其实也算,但是服务器我并不提倡,我提倡的是存算分离,所以服务器本身可以是无状态的,只专做计算,所有持久化的数据都是放在数据库或者对象存储里。 当然,如果你不需要,或者请求不多,服务器很难受、不适应,那就可以用云函数来替换。像目前云开发、Laf,都是用云函数类型或者容器的形式来替换这个计算服务。这样客户端请求它会以最小资源来运行,最大程度上简化计算服务。 但如果说需要一个非常持久的、感觉每一秒都会有很多人来进,那么可能就需要一个比较大的服务器或服务器集群,或者通过弹性伸缩来做。 马工:你的意思就是说,我们不应该用文件系统? 李冠宇:文件系统可以做缓存,但是它并不能做持久,反正我不推荐。存算分离的话,如果服务器遇到了瓶颈,可以用弹性伸缩解决,可以根据业务的请求来做峰值的灵活调整。计算服务可以扩展,数据库也可以扩展。如果这个架构,放在虚拟机上的话,那就要关心磁盘是否被写满,是否需要扩展磁盘;如果数据库在虚拟机里,那么数据库爆炸了怎么办?这时候你只能把它包装成一个巨大的一体机。但是一体机再大也是有限的,不可能无限大,你总会陷入瓶颈。 大家对此怎么看呢?快留言说说你的经验吧~ 直播回放如下,错过的赶紧扫码看看回放吧↓↓↓

优秀的个人博客,低调大师

从大模型到内容生成,初窥门径的AI新次元

视频云AI进化新纪元。 最近Gartner发布2024年十大战略技术趋势,AI显然成为其背后共同的主题。全民化的生成式人工智能、AI增强开发、智能应用......我们正在进入一个AI新纪元。 从ChatGPT的横空出世,到开发者大会的惊艳亮相,OpenAI以一己之力掀起生成式AI产业变革。与此同时我们也看到,AI正以超乎想象的进化速度,给云服务和音视频带来了更多机遇与挑战。 在“云智深度融合”的行业共识之下,如何用好大模型,构建出符合行业需求的垂直场景模型,如何将生成式AI更好地与实际业务相结合,最大化发挥云服务“最佳拍档”的优势,已成为视频云领域甚是关心的话题。 同时,我们也对AI技术在音视频的进一步渗透,以及视频云应用场景的拓宽充满好奇与期待。 我们对话了「阿里云视频云」视觉算法方向负责人刘国栋、媒体服务负责人邹娟,一起围绕视频云大模型探索与AIGC实践应用,聊聊阿里云视频云在AI方向的新进展与新思考。 01 一场AI的热力风暴 高热的OpenAI开发者大会,给大模型与生成式AI风潮再次升温。在AI的遽变中,我们看到音视频的“危”与“机”都面临着更为深刻的变革。同时,我们希望获得AI的全面加持,在音视频全链路中将云智进行更深入地融合,从而提升整体音视频服务水平。 Q1:最近OpenAI开发者大会可以说是AI届的“科技春晚”,哪些令你印象深刻? 印象深刻的内容有很多,比如,OpenAI最新推出的GPT-4 Turbo模型,拓展到了128K的上下文窗口长度,实现了模型知识库的全面升级,支持DALL.E 3、GPT4-Vision、TTS等多模态API,以及支持模型微调定制;在开发者生态构建方面,OpenAI发布了GPT Assistants API和GPT Store,让开发者可以更方便地调用模型以及共享GPT的创意玩法;首次推出可为特定目的进行自定义的GPT,让不懂代码的用户也可轻松创建自己的ChatGPT版本。 毫无疑问,OpenAI带来的震撼是巨大的。它不只带来革命性的技术,而且已经开始构建自己的生态系统了,从炼丹走向商业化。同时,它也让我们看到AI技术已经进化到了更高层次,特别是在多模态理解与生成,语言理解与生成,以及GPT-4 Turbo作为决策中心的能力等方面,这些都与音视频技术有着直接或间接的联系,让我们看到了音视频技术发展的更多可能性。 Q2:你提到AI技术为音视频带来更多可能性,与此同时是否也带来了新的冲击?音视频领域对AI的要求是否更苛刻? 在音视频领域中,我们看到,音视频服务已广泛应用于互娱、广电传媒、教育、金融等各种行业,对场景的渗透也越来越深。这些行业、场景对体验的追求愈来愈高,同时用户希望用得起、更普惠,这都要求音视频服务具有高度的智能化。将提升音视频服务质量寄希望于AI,已逐渐成为业界共识。 随着AIGC的日新月异,音视频领域的AI技术也呈现出了新的趋势,即对算法的通用性、理解能力、生成能力都提出了更高的要求。过去纯粹的定制小模型开发、单模态处理和预测范式不再完美适配,而是走向了泛化能力非常强的预训练大模型、多模态信息融合、生成式范式等技术领域。 通过分析业务中发现的痛点问题,我们总结出几点视频云对AI算法的更高要求,即:追求效果性能上的极致体验,追求算法的泛化性、通用性,提升AI自主决策、规划处理链路的能力,降低开发、接入、使用的成本。 音视频领域对AI的要求无疑比自然语言领域更为苛刻,尤其是AI大模型如何更泛化地与音视频结合。就像何恺明博士提到的,相比于自然语言处理领域的预训练模型,在计算机视觉领域,还没有一个类似的视觉基础模型来覆盖大多数任务处理。视频云也会对AGI在音视频方向的进展保持时刻关注。 Q3:在音视频领域中,如何更好地“取AI之长”,来提升整体音视频服务水平? 从音视频的全链路视角来看,我们可以在音视频生命周期的各环节“取AI之长”。无论是音视频内容的采集、前处理与编码、视频的分析与理解、文件或实时流的处理与传输、以及媒体消费侧的互动反馈等,都可以从不同的角度和姿势使用AI技术,为音视频生命周期的多个模块提供更高效、更高质量的能力加持。 经过多年的实践,AI对阿里云视频云的赋能也是全栈的,覆盖了音视频“生产、处理、传输、消费”的全链路。当前AI技术与视频云业务高度绑定,在视频云为客户提供的涵盖媒体采集、媒资管理、内容生产制作和分发的一站式媒体服务能力集,以及视频直播、视频点播、音视频通信产品中,AI无处不在。而随着大模型和AIGC的爆发,AI还将为视频云带来新的业务模式和想象空间。 02 视频云大模型,让全链路进化 更好的通用性、更强大的理解生成能力,大模型的出现为视频云提供了新的思路与解法。然而,大模型在音视频全链路的赋能,既要考虑底层算法的原子化能力进化,也要考虑与音视频具体场景的完美适配,真正实现让大模型“为我所用”的绝佳效果。 (该部分源自与刘国栋的深入对话编辑而成) Q4:从算法层面上来讲,你觉得大模型可以解决以往技术方案中的“沉疴旧疾”吗? 过去我们在设计算法时一般均采用小模型、传统算法或是两者结合的方法。这样的设计虽然可以少占用训练资源且速度快,部署容易,端侧落地性强,但是问题也比较突出,比如模型的泛化能力差,效果上限比较低,理解、生成能力比较差等。 而大模型出现后,它的通用性、多模态协同能力,强大的理解、生成能力等都让我们惊叹不已,这些正是小模型和传统算法所欠缺的。用大模型方法去重做一遍之前的算法,提高算法效果的上限是我们认为比较可行的做法。此外,我们也尝试使用大模型,来处理新的领域或问题,比如端侧的大模型设计。 Q5:视频云在设计大模型算法系统时,可以与我们分享一些“智能化”的思路吗? 我们根据视频云的业务特点,设计和搭建了一套视频云大模型算法开发的系统架构。整个系统涵盖了分析、规划、推理、评价、训练与微调的全链路,并且是可进化、可决策的。 可进化体现在,对于给定的任务,系统会进行从分析到训练的循环过程,并保持整个过程的不断迭代。可决策是指,系统会先借助视频云的知识库进行检索,再利用语言大模型给出执行路径。同时,知识库本身也在不断地丰富,我们会把评价高的规划信息、解决方法以及业务中沉淀的数据持续输入到知识库中,确保决策依据的与时俱进。 Q6:在大模型的算法探索上,视频云有没有一套研究路径或者总结出来的方法论? 基于大模型算法系统框架,我们不断地在业务中实践、演进,提炼出一套通用的大模型算法“方法论”,使其能高质量地解决业务中的实际问题。 例如,在完成实际任务时,单纯依靠大模型可以实现一些核心基本功能,但离解决得好还有不小距离,因此我们针对性提出了几种大小模型协同的方法,让大小模型互相配合,发挥其各自优势,获得了比较好的效果。 再比如,在大模型落地过程中,我们发现大模型更多针对通用场景,在音视频实际业务中往往效果不佳,当然这并不意味这些模型完全不可用。我们基于自己的业务场景,筛选出相对高质量的大模型,再结合已沉淀的数据、知识库进行大模型微调,使得模型准确度有了大幅提升。 另外,针对大模型训练优化、推理性能、显存占用等方面,视频云都在实践过程中总结出基于大模型的算法优化路径,从而为音视频业务的智能化打好基础、铺好路。 Q7:相较于图文生成,视频生成大模型的技术门槛更高,需要克服的技术挑战也更多,视频云在这方面是怎样实践的? 无论是闭源的Midjourney,还是开源的stable diffusion,在图像生成方面都取得了惊人的效果。视频云的业务中也需要一些图像生成的能力,特别是云剪辑、云导播等产品,其中一个非常直接的需求就是背景图像的生成,我们在开源的stable diffusion等模型以及阿里通义大模型的基础上,结合视频云场景做了一些算法创新实践,使得生成图像与场景更匹配、生成质量更高。 对于门槛更高的视频生成,我们也关注到runway等公司在这方面取得的长足进步,它生成视频的单帧质量接近sd等的效果,而且帧间一致性表现也挺好,不过离人们的预期还有距离。我们从视频云的业务场景出发,选择视频编辑赛道,重点开发视频转绘功能,即把视频转成不同的风格,从而提升剪辑产品的竞争力。此外,我们也选择较为合适的文生动画作为视频生成的一个细分场景进行探索。 Q8:在大模型算法实践方面,目前阿里云视频云在音视频全链路的哪些环节取得了新进展? 在过去近一年的时间内,视频云在大模型方面做了深入探索,开发了多个算法原子,所做工作涉及音视频生产、处理、管理、传输与分发、播放与消费全链路的多个环节。 比如,在音视频生产环节,我们开发了实景抠图、人声克隆、文生图、图生图、AI作曲等多个基于大模型的算法。其中人声克隆,经过算法的深入打磨,克隆出的声音跟本人的原始声音基本无法分辨。同时,结合语音驱动的数字人技术,人声克隆还可以打造出高度真实、自然的数字人,目前视频云的数字人产品也已上线,受到广泛关注。 此外,视频云在处理、媒资管理以及消费环节,都已经开发了基于大模型的算法,在算法效果方面有了不错的提升。 Q9:未来,结合大模型本身的进化(未来的多模态),阿里云视频云的思考以及探索路线? 目前大模型技术发展很快,如何“趁势而为”,更好地与音视频业务结合,有很多值得探索的方向,比如之前提到的端侧处理等。 我们知道大模型提供了多种解决问题的工具,比如问答、对话、文生图、图生图、视频描述等等,这些工具正在不断完善,能力越来越强,但基本都是解决单方面问题。我们希望大模型具有感知、规划、行动的能力,而这就是当前Agent的概念。这里的感知是多模态的,可以是音频、视频、文本等,不断提升大模型作为决策大脑的能力,让它能根据业务的需要,自主分析、规划行动路径,调度工具大模型。实际上不只在算法方面,在视频云的引擎、调度、业务层都已经涉及到非常多AI的能力。 03 AIGC,效率效果的「智能跃迁」 从单纯的辅助决策,到像人类一样思考,甚至再到超越人类的决策效果,也许AIGC的想象空间,只局限于我们的想象力,但视频云的全智能布局并不如此,要在音视频智能化的高速列车中保持优势,需要兼顾效率与效果的双轮提升,更需要视频云的长期布局与顶层设计。 (该部分源自与邹娟的深入对话编辑而成) Q10:从业务的视角出发,大模型等AI技术在音视频场景中落地需要攻克哪些难题?是否需要“顶设”? 大模型在落地音视频业务时,需要解决两个问题: 首先,大模型要能与音视频处理的pipeline进行很好的融合,同时这个融合不能是粗粒度的,而最好是帧粒度的,这样才能避免多次编码带来的效率和画质损耗。 其次,由于大模型计算比传统AI计算更复杂,因此需要在算法工程优化层面做更多的工作,如利用多线程保证实时性、软硬一体提升性能、算法毛刺消除与降级等,这些工作都需要在媒体引擎层面进行整体设计和各种细节处理。 Q11:我们知道阿里云很早就开始在AI+视频的领域里扎根,而AIGC迎来爆发潮,对音视频而言是否产生了“质的飞跃”? 阿里云视频云长期坚持在AI领域进行技术布局,将AI与音视频技术相结合,并广泛应用于视频云的产品中。 事实上2017年我们已经将智能封面、AI审核、智能摘要、智能集锦、以及多种AI识别能力应用于媒体处理、视频点播、视频直播产品中,通过在部分业务环节中引入AI能力进行辅助处理,帮助客户缩短内容生产环节的耗时,助力其更快地发布视频内容。 如今AI技术爆发,我们看到它对音视频的赋能完成了从效率高到效果优的飞跃,以前我们认为AI的产出不如人工产出效果好,但现在这个局面已经发生了改变,无论是AI修复的图像画质,还是AI生成的素材质量,亦或AI可以像人一样去理解媒资内容,分析与提炼视频结构时甚至比人更细致,如今似乎已经到了音视频所有业务重新用AI去审视一遍,大部分场景可以用AI重构的时候。 Q12:针对用AI及大模型重构业务,目前阿里云视频云已经开展了哪些技术实践? 媒体内容生产有三大板块:媒资、生产制作、媒体处理,目前阿里云视频云在这三个板块都应用了AIGC技术,并在不少场景进行了技术实践。 比如在媒资领域,我们的方向是实现基于语义分析和自然语言理解的新媒资体系,将视觉内容、音频、文本内容统一到一个高维空间内,避免像传统的智能标签一样,将视频转换到文本时,出现语义的丢失或不一致。而针对搜索文本也无需使用多关键词组合的方式,可以直接输入自然语言,不再依赖分词进行搜索,整体相较于传统的智能标签,具有更好的泛化性。 在媒体处理板块,我们的技术实践则聚焦在效果优化上,无论是针对高清画质的增强,还是低清画质的修复,以及针对声音的智能全景声处理,我们令AI算法与音视频前处理算法,前处理算法与编码器有更好的配合,尽量保持真实感与细节还原,用户使用普通的播放设备也能享受高清晰度的音视频体验。 在生产制作的虚拟演播室场景,我们将基于大模型的分割算法进行了裁剪与优化,以支持实时场景的性能,同时实现了多层分割与多实体抠像,可以根据需求动态调整实景抠像的目标范围。另外,对于抠像边缘和光影的处理较之前会更加逼真,对于复杂背景的降噪也更强大,哪怕在新闻外场或者展会现场,复杂的拍摄背景+头发丝飞扬的人物,也能拥有比较完美的alpha通道成像,再结合RTC技术与虚拟背景融合,让多人实时互动虚拟演播效果提升一个台阶。 Q13:在AIGC的发展推动下,目前视频云媒体服务与LVS上海站分享时相比,解锁了哪些新场景、新能力? LVS上海站是在7月底,在最近的3个多月,视频云媒体服务在AIGC方面有了更多的技术实践与应用,云剪辑、媒资、实时流制作、媒体处理都上线了新的AI能力,比如基于语义分析的自然语言媒资搜索、基于复杂背景的实景抠像、数字人智能剪辑合成等,这些能力大多用到了基于大模型的AIGC技术。 Q14:未来在AIGC的助力下,媒体内容生产的智能化程度有可能达到什么水平?会“类人”吗? 我认为媒体内容生产的未来趋势是进入全智能时代,即:AI从“向人学习”,到“像人一样”,最终到部分场景“超越人”,比如AI可以自主创作有故事的视频,可以对媒资内容进行全语义理解,可以自行优化音视频编码和前处理,可以尝试做一些决策处理等等,我们期待那一天的到来。 04 视频云,AI不止 Topic 1:《AI新范式下,阿里云视频云大模型算法实践》 本次演讲将分享阿里云视频云大模型算法系统架构,以及实操中的关键技术,此外还将展现大模型算法典型实践案例,以及对于未来大模型落地更多可能的思考。 Topic 2:《AIGC时代下,阿里云视频云媒体内容生产技术实践》 本次演讲将分享阿里云视频云媒体服务的整体技术架构,融合AI与传统媒体处理的一体化媒体引擎的关键技术,还将分享如何应用AIGC技术,重构媒体内容生产的三大模块—内容创作、媒体处理、媒资管理,以及AIGC落地相关场景的技术实践。 于AI中见天地 从大模型到内容生成 期待阿里云视频云的AI主题与实践分享

优秀的个人博客,低调大师

香橙派新产品 Orange Pi 3B 发布,售价 199 元起

香橙派Orange Pi 3B 是一款树莓派大小的单板计算机,但接口更加齐全,包括一个全尺寸 HDMI 接口和一个 M.2 存储插槽。 官方介绍道,全面升级的Orange Pi 3B采用了瑞芯微RK3566四核64位 Cortex-A55 处理器,主频最高1.8GHz,支持2GB/4GB/8GB 的LPDDR4/4X内存,16MB /32MB的SPI 闪存,以及可选的M.2 M-KEY插槽:SATA3或者PCIe2.0 NVME SSD,板载16GB/ 32GB/ 64GB/128GB/256GB的eMMC模块接口。 与此同时,结构上可兼容树莓派3B,并支持基于开源鸿蒙的Orange Pi OS(OH)操作系统。 外观上,Orange Pi 3B比四年前的Orange Pi 3更为小巧,仅为85mm x 56mm x 17mm。搭载瑞芯微RK3566的Orange Pi 3B集成了ARM Mali G52 2EE图形处理器,支持OpenGL ES 1.1/2.0/3.2,OpenCL 2.0,Vulkan 1.1,内嵌高性能2D加速模块;内置0.8Tops算力的AI加速器NPU,支持Caffe/TensorFlow/TFLite/ ONNX/ PyTorch/ Keras/ Darknet等主流架构模型的一键转换;VPU可实现4K@60fps H.265/H.264/VP9视频解码和1080P@100fps H.265视频编码,1080P@60fps H.264视频编码,支持8M ISP和HDR,具有Wi-Fi5、BT5.0,支持BLE。 接口方面,Orange Pi 3B引用了相当丰富的接口,包括HDMI输出、M.2 M-KEY(可选)、TF卡槽、千兆网口、USB2.0、USB3.0、3.5mm耳机插孔、MIPI DSI接口、eDP接口、MIPI CSI摄像头接口、多功能40 Pin扩展接口等,可广泛适用于电视盒子、高端平板、边缘计算、人脸识别、智能安防、智能家居等领域,赋能丰富的AI应用和物联网场景。 在操作系统方面,Orange Pi 3B支持Android11、Ubuntu22.04、Ubuntu20.04、Debian11、Debian12、开源鸿蒙4.0 Beta1、Orange Pi OS(Arch)、基于开源鸿蒙的Orange Pi OS(OH)等操作系统。 官方公布的 Orange Pi 3B 售价如下: *创客价限个人买家,只能以购买者个人名义开票,如企业购买,要求以公司名义开票的,按官方售价(原价)购买。 点此查看 Orange Pi 3B 详细介绍。

优秀的个人博客,低调大师

阿里云9.9元学生服务器如何购买和配置方法

一.通过学生价购买云服务器步骤一:个人认证与实名认证 1.进入阿里云官网2.点击右上角登录按钮(这里使用的是淘宝账号密码支付,这个大家应该都有吧,没有自己去注册个淘宝账号) 3.输入淘宝账号密码后点击激活 4.之后点头像后点击实名认证 5.点击支付宝认证 6.点击立即认证后进入支付宝登录界面,输入支付宝验证码进行验证登录 7.勾选我同意之后点击确认,弹窗之后点击获取验证码后输入短信验证码 个人认证成功后进行学生认证 8.点击学生认证完善全部信息完成学生认证 步骤二:在阿里云app中购买学生价服务器.由于阿里云学生价服务器只能在阿里云app中购买,因此以下操作为app中的操作 1.下载”阿里云app” 并安装(安装步骤略) 2.使用app登录阿里云客户端(淘宝账号密码) 3.登录成功:点击学生专区4.点击学生特权5.点击购买后选择操

优秀的个人博客,低调大师

9.9元学生云服务器学生专享及常见问题

现阿里云有一款针对学生云服务器的活动云翼计划 云翼计划是阿里云特别为在读大学生推出的云计算培养计划,旨在为大学生网络创业提供先进的技术支持,同时也帮助大学生学习、了解最新的云计算知识,创新开拓,放飞梦想! 注:阿里云的学生信息来自学信网,对于新入学的学生,请确保你的学生信息已在学信网录入,再进行学生验证,避免失败3次被锁学信网:http://www.chsi.com.cn/ 【参与步骤】 1)注册 2)完成支付宝个人实名认证 3)完成学生认证 4)在云翼计划页面完成购买 点此进入 常见问题 1、 学生认证怎么做?通过学生证吗,那是否只做形式上的审核,还是不涉及人工审核?在线上即可认证,提供身份证号,姓名,学校,入口见上。 2、升级配置时差价怎么核算?按9.9来算,还是按原价的折扣来算?升级时按1C1G原价和新配置之间的差价补价,升级(

优秀的个人博客,低调大师

阿里云9.9元学生服务器的购买和配置方法

一.通过学生价购买云服务器 步骤一:个人认证与实名认证 1.进入阿里云官网2.点击右上角登录按钮(这里使用的是淘宝账号密码支付,这个大家应该都有吧,没有自己去注册个淘宝账号) 3.输入淘宝账号密码后点击激活 4.之后点头像后点击实名认证 5.点击支付宝认证 6.点击立即认证后进入支付宝登录界面,输入支付宝验证码进行验证登录 7.勾选我同意之后点击确认,弹窗之后点击获取验证码后输入短信验证码 个人认证成功后进行学生认证 8.点击学生认证完善全部信息完成学生认证 步骤二:在阿里云app中购买学生价服务器 .由于阿里云学生价服务器只能在阿里云app中购买,因此以下操作为app中的操作 1.下载”阿里云app” 并安装(安装步骤略) 2.使用app登录阿里云客户端(淘宝账号密码) 3.登录成功:点击学生专区4.点击学生特权5.点击购买后选

优秀的个人博客,低调大师

给妹子讲python-S01E03元组的使用

【妹子说】今天这一集,我们来学学容器这一部分的最后一块内容,元组吧~ 元组很简单,核心就是一句话:可以看作是不可变的列表 T = (1,2,3,4) M = ('spam', 3.0, [11,22,33]) print(T[1]) print(M[2][0]) 2 11 元组有一种特殊的方法,可以一次性获取元组中的所有项 a,b = (1,2) print('a={},b={}'.format(a,b)) a=1,b=2 他也可以和其他元组进行连接操作 T1 = (1,2,3,4) T2 = (5,6,7,8) print(T1 + T2) (1, 2, 3, 4, 5, 6, 7, 8) 基于位置偏移的操作如索引和分片,元组和列表的用法完全一样。他和列表的关键区别在于他的不可变性,这有利于保持数据的完整性。 至于说元组的排序,由于

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册