搜索[AI资产]结果-低调大师优秀个人博客

精选列表

搜索[AI资产]，共10000篇文章

开源日报 | 苹果将更新Mac mini；IntelliJ IDEA 2024.2；AI产业半年报；有CPU就能跑大模型

该版本默认搭载 Linux 6.6 LTS 内核，完成 180 + 操作系统核心组件自主选型升级，深度融合 AI 技术，上线麒麟 AI 助手等实用 AI 功能，并为用户带来包括开明软件包格式、不可变系统

2024-08-09

开源日报 | Kotlin 2.0.0；简体中文压缩数据只有6TB；AI不是核弹；全球首个开源大规模

这个MCU AI软件，核心全开源自从AI热潮降临，MCU的AI算力就愈发强大。对MCU来说，TinyML就是正在发生的变革。其最大的优点就是可移植性。

2024-05-23

开源日报 | PHP排名跌至历史最低；AI浪潮中Meta做对了什么；芯片人才缺口巨大；zx 8.0.0

中文AI，确实“真香”！

2024-04-09

开源日报 | AI公司如何搞定训练语料；Zabbix变更开源协议；抱抱脸Open了OpenAI的秘密武器

无论如何，AI公司商业化都是不可逆的大势所趋。如何找到其中的平衡，将是所有企业走得更远需要面对的共同课题。

2024-04-08

面向 RISC-V 架构的 AI 开发框架构建与优化大赛决赛拉开帷幕

面向RISC-V架构的AI开发框架构建与优化大赛是开放原子开源大赛设立的赛道，由openKylin社区、麒麟软件有限公司承办，国防科技大学、信创海河实验室协办，玄铁、北京算能科技有限公司、广东赛昉科技有限公司

2024-03-25

20 年编程，AI 编程 6 个月，关于 Copliot 辅助编码工具，你想知道的都在这里

AI代码辅助工具尝试各种辅助编程的AI工具笔者是一个后端Coder~，开发工具使用Idea和VsCode。

2024-03-20

开源日报：Vue.js 诞生 10 周年；扎克伯格解释 Meta 为什么要开源其 AI 技术

扎克伯格解释 Meta 为什么要开源其 AI 技术 Meta 开源其 AI 技术是出于推动技术创新、提升模型质量、建立行业标准、吸引人才、增加透明度和支持其长期战略的考虑。

2024-02-05

阿里云何亚明谈多媒体未来：AI时代正翻新视频云的每一环技术

尽管我们以前也用AI，但现在大模型下AI、AGI能力的涌现让我觉得它不是一个简单的增加效率或降低成本的问题，而更多带来的是决策效率上的提升。

2024-01-23

基于AI的架构优化：创新数据集构造法提升Feature envy坏味道检测与重构准确率

本文分享自华为云社区《华为云基于AI实现架构坏味道重构取得业界突破，相应文章已被软工顶会FSE 2023收录》，作者：华为云软件分析Lab。

2023-12-01

禅道 18.9 发布啦，新增禅道AI聊天功能，优化客户端导航及个人中心设置！

禅道官网：https://www.zentao.net 禅道18.9发布啦，本次发布主要是引入了禅道AI聊天功能。

2023-11-23

每日一博 | 跑 AI 大模型的 K8s 与普通 K8s 有什么不同？

得益于AI开始火的时候，云原生体系已经普及，所以当前绝大多数的AI底层都是基于Kubernetes集群进行的资源管理（不像大数据，早期大量使用Yarn进行资源管理，在云原生普及后，还得面临Spark on

2023-09-01

不同语言使用 AI 大模型的成本不同：英语最便宜、中文是英文成本的 2 倍

推特用户 Dylan Patel(@dylan522p) 发布的一张图片显示，大语言模型使用不同语言的成本差异很大。这名用户展示了一张牛津大学的研究显示成果。根据对GPT-4和其他常见大语言模型的研究，由于 OpenAI 等服务所采用的服务器成本衡量和计费的方式，英语输入和输出的费用要比其他语言低得多，其中简体中文的费用大约是英语的两倍，西班牙语是英语的 1.5 倍，而缅甸的掸语则是英语的 15 倍。根据牛津大学的研究，让一个 LLM 处理一句缅甸语句子需要 198 个词元（tokens），而同样的句子用英语写只需要 17 个词元。词元代表了通过 API（如 OpenAI 的 ChatGPT 或 Anthropic 的 Claude 2）访问 LLM 所需的计算力成本，这意味着缅甸语句子使用这种服务的成本比英语句子高出 11 倍。词元化模型（即人工智能公司将用户输入转换为计算成本的方式）意味着，除了英语之外的其他语言使用和训练模型要贵得多。这是因为像中文这样的语言有着不同、更复杂的结构（无论是从语法还是字符数量上），导致它们需要更高的词元化率。例如，根据 OpenAI 的 GPT3 分词器，“你的爱意（your affection）”的词元，在英语中只需要两个词元，但在简体中文中需要八个词元。尽管简体中文文本只有 4 个字符（你的爱意），而英文有 14 个字符。

2023-07-31

Ai00 server，轻薄本都可运行的本地大语言模型服务器，发布 v0.1.8

AI00 Server是一个基于RWKV的推理API服务器。支持VULKAN推理加速，可以在所有支持VULKAN的GPU上运行。不用N卡！！！A卡甚至集成显卡都可加速！！！

2023-07-29

中秋节，华为云AI送上超级大月亮制作教程，体验赢开发者键鼠套装

本文分享自华为云社区《中秋节，华为云AI送上超级大月亮制作教程，体验赢开发者键鼠套装》，作者：华为云社区精选。

2022-09-09

跟算能一起打造下一代 AI 编译器

近几年，以深度学习为代表的AI技术发展迅猛，深度神经网络广泛应用于各行各业。

2022-08-12

云原生的弹性 AI 训练系列之三：借助弹性伸缩的 Jupyter Notebook，大幅提高 GPU 利用率

Jupyter Notebooks 在 Kubernetes 上部署往往需要绑定一张 GPU，而大多数时候 GPU 并没有被使用，因此利用率低下。为了解决这一问题，我们开源了 elastic-jupyter-operator，将占用 GPU 的 Kernel 组件单独部署，在长期空闲的情况下自动回收，释放占用的 GPU。这篇文章主要介绍了这一开源项目的使用方式以及工作原理。 Jupyter Notebooks 是目前应用最为广泛的交互式开发环境，它很好地满足了数据科学、深度学习模型构建等场景的代码开发需求。不过 Jupyter Notebooks 在方便了算法工程师和数据科学家们日常开发工作的同时，也对基础架构提出了更多的挑战。资源利用率的问题最大的挑战来自于 GPU 资源利用率。在运行的过程中即使没有代码在运行，Notebook 也会长期占用着 GPU，造成 GPU 的空置等问题。在大规模部署 Jupyter 实例的场景下，一般会通过 Kubernetes 创建多个 Notebook 实例，分配给不同的算法工程师使用。而在这样的情况下，我们需要在对应的 Deployment 中事先申请 GPU，这样 GPU 会与对应的 Notebook 实例绑定，每个 Notebook 实例都会占用一张 GPU 显卡。然而同一时间，并不是所有的算法工程师都在使用 GPU。在 Jupyter 中，编辑代码的过程是不需要使用计算资源的，只有在执行 Cell 中的代码片段时，才会使用 CPU 或 GPU 等硬件资源，执行并返回结果。由此可以预见，如果通过这样的部署方式会造成相当程度的资源浪费。造成这一问题的原因主要是原生的 Jupyter Notebooks 没有很好地适配 Kubernetes。在介绍问题原因之前，先简单概述一下 Jupyter Notebook 的技术架构。如下图所示，Jupyter Notebook 主要由三部分组成，分别是用户和浏览器端，Notebook Server 和 Kernel。其中用户和浏览器端是 Jupyter 的前端，主要负责展示代码和执行结果等。Notebook Server 是它的后端服务器，来自浏览器的代码执行请求会被 Notebook Server 处理，分派给 Kernel 执行。Kernel 是真正负责执行代码，返回结果。在传统的使用方式中，用户会通过 jupyter notebook $CODE_PATH 等命令，在本地运行 Jupyter Notebook Server，随后访问浏览器中的 Jupyter 交互式开发界面。当代码需要执行时，Notebook Server 会创建一个独立的 Kernel 进程，这一进程会使用 GPU 等运行。在 Kernel 长期空闲，没有代码需要执行时，这一进程会被终止，GPU 也就不再会被占用。而当部署在 Kuberenetes 之上后，问题就产生了。Notebook Server 和 Kernel 运行在同一个 Pod 的同一个容器下，尽管只有执行代码时才需要运行的 Kernel 组件是需要 GPU 的，而长期运行的 Notebook Server 是不需要的，但是受限于 Kubernetes 的资源管理机制，还是需要给其提前申请 GPU 资源。在 Notebook Server 的整个生命周期中，这一块 GPU 始终与 Pod 绑定。在 Kernel 进程空闲时虽然会被回收，但是已经分配给 Pod 的 GPU 卡却不能再交还给 Kubernetes 进行调度了。解决方案为了解决这一问题，我们开源了项目 elastic-jupyter-operator。思路非常朴素：问题源于 Notebook Server 和 Kernel 在同一个 Pod 中，导致我们无法分别为这两个组件申请计算资源。那只要将他们分开部署，让 Notebook Server 在单独的 Pod 中，Kernel 也在单独的 Pod 中，相互之间通过 ZeroMQ 通信即可。通过这样的方式，Kernel 会在空闲时被释放。在需要时会再次被临时性地申请 GPU，运行起来。为了实现这一目的，我们在 Kubernetes 中实现了 5 个 CRD，同时为 Jupyter 引入了一个新的 KernelLauncher 实现。通过它们，用户可以在 GPU 空闲时将 Kernel 回收释放，在需要执行代码时再动态地申请 GPU 资源，创建 Kernel Pod 进行代码执行。简单的例子下面我们将通过一个例子介绍使用方式。首先我们需要创建 JupyterNotebook CR（CustomResource），这一个 CR 会创建出对应的 Notebook Server： apiVersion: kubeflow.tkestack.io/v1alpha1 kind: JupyterNotebook metadata: name: jupyternotebook-elastic spec: gateway: name: jupytergateway-elastic namespace: default auth: mode: disable 其中指定了 gateway，这是另外一个 CR JupyterGateway。为了能够让 Jupyter 支持远程的 Kernel，需要这样一个网关进行请求的转发。我们同样需要创建这样一个 CR： apiVersion: kubeflow.tkestack.io/v1alpha1 kind: JupyterGateway metadata: name: jupytergateway-elastic spec: cullIdleTimeout: 3600 image: ccr.ccs.tencentyun.com/kubeflow-oteam/enterprise-gateway:2.5.0 JupyterGateway CR 中的配置 cullIdleTimeout 指定了经过多久的空闲时间后，其管理的 Kernel Pod 会被系统回收释放。在例子中是 1 个小时。创建完这两个资源后，就可以体验到弹性伸缩的 Jupyter Notebook 了。如果在一个小时内一直没有使用的话，Kernel 会被回收。 $ kubectl apply -f ./examples/elastic/kubeflow.tkestack.io_v1alpha1_jupyternotebook.yaml $ kubectl apply -f ./examples/elastic/kubeflow.tkestack.io_v1alpha1_jupytergateway.yaml $ kubectl port-forward deploy/jupyternotebook-elastic 8888:8888 $ kubectl get pods NAME READY STATUS RESTARTS AGE jovyan-219cfd49-89ad-428c-8e0d-3e61e15d79a7 1/1 Running 0 170m jupytergateway-elastic-868d8f465c-8mg44 1/1 Running 0 3h jupyternotebook-elastic-787d94bb4b-xdwnc 1/1 Running 0 3h10m 除此之外，由于 Notebook 和 Kernel 解耦的设计，使得用户可以方便地修改 Kernel 的镜像与资源配额、向已经在运行的 Notebook 中添加新的 Kernel 等。设计与实现在介绍完使用方式后，我们简单介绍其设计与实现。当用户在浏览器中选择执行代码时，首先请求会发送给在 Kubernetes 上运行的 Notebook Server。由于目前集群上没有正在运行的 Kernel，代码执行任务无法分配下去，所以 Notebook Server 会向 Gateway 发送一个创建 Kernel 的请求。Gateway 负责管理远端的 Kernel 的生命周期，它会在 Kubernetes 集群中创建对应的 JupyterKernel CR。随后会与集群中已经创建好的 Kernel 通过 ZeroMQ 进行交互，然后将代码执行的请求发送给 Kernel 进行执行，随后将结果发送给 Notebook Server 再将其返回给前端进行渲染和展示。而 Gateway 会根据在 JupyterGateway CR 中定义的有关资源回收的参数，定时检查目前管理的 Kernel 中有没有满足要求，需要被回收的实例。当 Kernel 空闲时间达到了定义的阈值时，Gateway 会删除对应的 JupyterKernel CR，将其回收，释放 GPU。总结目前深度学习在开发与落地生产的过程中仍然存在着诸多的挑战。elastic-jupyter-operator 瞄准了在开发过程中的 GPU 利用率与开发效率的问题，提出了一种可行的方案，将占用 GPU 的 Kernel 组件单独部署，在长期空闲的情况下自动回收，释放占用的 GPU，通过这样的方式提高资源的利用率的同时，也给予了算法工程师用户更多的灵活度。从算法工程师的角度来说，elastic-jupyter-operator 支持自定义的 Kernel，可以自行选择在 Kernel 的容器镜像中安装 Python 包或者系统依赖，不需要担心与团队内部的 Notebook 统一镜像的版本一致性问题，提高研发效率。而从运维与资源管理的角度来说，elastic-jupyter-operator 遵循了云原生的设计理念，以 5 个 CRD 的方式对外提供服务，对于已经落地 Kuerbenetes 的团队来说具有较低的运维成本。 License This article is licensed under CC BY-NC-SA 3.0. Please contact me for commercial use. 【腾讯云原生】云说新品、云研新术、云游新活、云赏资讯，扫码关注同名公众号，及时获取更多干货！！

2021-10-18

国内 AI 领域首次！第四范式 OpenMLDB 优化创新论文被国际数据库顶会 VLDB 录用

第四范式OpenMLDB优化创新论文被国际数据库顶会VLDB录用，为国内AI领域首次第四范式与新加坡国立大学及英特尔的最新联合研究成果——基于持久内存优化的AI实时决策系统数据库OpenMLDB（Open

2021-08-19

代码开源｜阿里云多媒体 AI 团队分享 CVPR2021 5 冠 1 亚背后的实战经验

基于视频理解技术打造多媒体 AI 云产品基于 EMC2 的技术底座，阿里云 MMAI 团队在进行视频理解的深度研究同时，也积极进行了产业化，推出了多媒体 AI（MultiMedia AI）的技术产品：

2021-06-25

阿里云视觉AI开发者创意应用赛来啦！快来报名参赛，瓜分30W元现金大奖！

首届阿里云视觉AI开发者创意应用赛开始报名啦!

2020-06-03

IBM推出新AI能力，专为CIO实现IT运维自动化而设计：增强弹性、降低成本

还宣布了IBM云现代化（Cloud Modernization）服务的一项新能力：人工智能应用现代化加速器（Accelerator for Application Modernization with AI

2020-05-11

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。