首页 文章 精选 留言 我的

精选列表

搜索[RTX50系],共3072篇文章
优秀的个人博客,低调大师

清华系公司智谱 AI 开源 ChatGLM-6B 大模型,千亿基座对话模型开启内测

由清华技术成果转化的公司智谱 AI 宣布开源了 GLM 系列模型的新成员 ——中英双语对话模型 ChatGLM-6B,支持在单张消费级显卡上进行推理使用。这是继此前开源 GLM-130B 千亿基座模型之后,智谱 AI 再次推出大模型方向的研究成果。 此外,基于千亿基座的 ChatGLM 线上模型目前也在 chatglm.cn 进行邀请制内测,用户需要使用邀请码进行注册,也可以填写基本信息申请内测。 根据介绍,ChatGLM-6B 是一个开源的、支持中英双语问答的对话语言模型,并针对中文进行了优化。该模型基于 General Language Model (GLM)架构,具有 62 亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4 量化级别下最低只需 6GB 显存)。 ChatGLM-6B 使用了和 ChatGLM 相同的技术,针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练,辅以监督微调、反馈自助、人类反馈强化学习等技术的加持,62 亿参数的ChatGLM-6B 虽然规模不及千亿模型,但大大降低了推理成本,提升了效率,并且已经能生成相当符合人类偏好的回答。 ChatGLM-6B 具备以下特点: 充分的中英双语预训练:ChatGLM-6B在1:1比例的中英语料上训练了1T的token量,兼具双语能力。 优化的模型架构和大小:吸取GLM-130B训练经验,修正了二维RoPE位置编码实现,使用传统FFN结构。6B(62亿)的参数大小,也使得研究者和个人开发者自己微调和部署ChatGLM-6B成为可能。 较低的部署门槛:FP16 半精度下,ChatGLM-6B 需要至少 13 GB 的显存进行推理,结合模型量化技术,这一需求可以进一步降低到 10GB(INT8) 和 6GB(INT4),使得 ChatGLM-6B 可以部署在消费级显卡上。 更长的序列长度:相比 GLM-10B(序列长度1024),ChatGLM-6B序列长度达2048,支持更长对话和应用。 人类意图对齐训练:使用了监督微调(Supervised Fine-Tuning)、反馈自助(Feedback Bootstrap)、人类反馈强化学习(Reinforcement Learning from Human Feedback)等方式,使模型初具理解人类指令意图的能力。输出格式为markdown,方便展示。 基于以上特点,ChatGLM-6B在一定条件下具备较好的对话与问答能力。ChatGLM-6B 的对话效果展示如下: 不过由于 ChatGLM-6B 模型的容量较小,不可避免地存在一些局限和不足,包括: 相对较弱的模型记忆和语言能力。在面对许多事实性知识任务时,ChatGLM-6B可能会生成不正确的信息,也不太擅长逻辑类问题(如数学、编程)的解答。 可能会产生有害说明或有偏见的内容:ChatGLM-6B只是一个初步与人类意图对齐的语言模型,可能会生成有害、有偏见的内容。 较弱的多轮对话能力:ChatGLM-6B的上下文理解能力还不够充分,在面对长答案生成和多轮对话的场景时,可能会出现上下文丢失和理解错误的情况。 相比起ChatGLM-6B,ChatGLM 参考了 ChatGPT 的设计思路,在千亿基座模型 GLM-130B中注入了代码预训练,通过有监督微调(Supervised Fine-Tuning)等技术实现人类意图对齐。ChatGLM 线上模型的能力提升主要来源于独特的千亿基座模型GLM-130B。它采用了不同于BERT、GPT-3以及T5的GLM架构,是一个包含多目标函数的自回归预训练模型。 GLM 团队表示,2022年11月,斯坦福大学大模型中心对全球30个主流大模型进行了全方位的评测,GLM-130B是亚洲唯一入选的大模型。在与OpenAI、Google Brain、微软、英伟达、Meta AI的各大模型对比中,评测报告显示GLM-130B在准确性和公平性指标上与GPT-3 175B (davinci) 接近或持平,鲁棒性、校准误差和无偏性则优于 GPT-3 175B。 由ChatGLM生成的对话效果展示: 不过 GLM 团队也坦言,整体来说 ChatGLM 距离国际顶尖大模型研究和产品(比如 OpenAI 的 ChatGPT 及下一代 GPT 模型)还存在一定的差距。该团队表示,将持续研发并开源更新版本的 ChatGLM 和相关模型。“欢迎大家下载 ChatGLM-6B,基于它进行研究和(非商用)应用开发。GLM 团队希望能和开源社区研究者和开发者一起,推动大模型研究和应用在中国的发展。” 更多详情可查看官方博客。

优秀的个人博客,低调大师

淘系前端架构周刊:Node.js v17.0.0 发布、VS Code 发布浏览器版本

祝大家 1024 程序员节快乐! 🗞 News Node.js v17.0.0 发布 重要更新: Node.js 现在包含了 OpenSSL 3.0,尤其是 quictls/openssl,它提供了 QUIC 支持 V8 JavaScript 引擎升级至 v8.9.5 readline 模块提供了一个接口用于一次从可读流(例如 process.stdin)中读取一行数据 &etc. Release Blog:Node v17.0.0 (Current) | Node.js (nodejs.org) VS Code 发布浏览器版本 随着 GitHub 推出 github.dev 在线浏览 GitHub Repo 的能力后,VS Code 也迎来了浏览器版本,只需要在浏览器访问 https://vscode.dev 即可在浏览器中使用 VS Code。 浏览器版本的 VS Code 与 Electron 客户端版本在基本能力上保持一致,可以打开本地项目进行开发。相信在不久的将来,在 iPad 上也能进行开发了。 Release Blog:https://code.visualstudio.com/blogs/2021/10/20/vscode-dev React 新文档上线 曾几何时,React 的官方文档一直被人诟病,一方面文档的结构不够清晰,另一方面较多示例还在使用 Class Components,因此 React 团队打算对文档做一次彻底的重构。 新文档采用 Next.js 构建,并且使用了 Tailwind 实现页面布局,引入了暗黑模式等,界面非常清晰简洁。 文档链接:React Docs Beta (reactjs.org) 📦 Open Source ts-morpher TypeScript 自身 提供的 AST 接口 过于复杂,并且稳定性较差(如它曾经在某一个版本将所有 AST 接口收敛到了 factory 命名空间下),因此 ts-morph 诞生了,相比于其他 AST 封装库,ts-morph 对 TypeScript 有着更好的支持(毕竟它本身就基于 TypeScript AST API 封装而来),并且在一定程度上简化了许多操作,屏蔽了 Node、TypeNode、Syntax、Statement、Declaration 等等一系列对于那些没有学习过或者是对其知之甚少编译原理的开发者算不上友好的概念。 Home Page:LinubuduLab: TSMorpher (ts-morpher.vercel.app) GitHub Repo:LinbuduLab/morpher: Higher wrapper of ts-morph for dead simple TypeScript AST operations, it's intuitive. (github.com) @swc/jest 一个去掉了类型检查的 Jest Transformer,非常快,用于替换 babel-jest 和 ts-jest。 配置基本与 babel-jest 和 ts-jest 一致: // jest.config.js module.exports = { transform: { '^.+\\\\.(t|j)sx?$': '@swc/jest', }, } 默认配置会读取仓库目录下的 .swcrc 文件,可以通过以下方式自定义配置: const fs = require('fs') const config = JSON.parse(fs.readFileSync(`${__dirname}/.swcrc`, 'utf-8')) module.exports = { transform: { '^.+\\\\.(t|j)sx?$': ['@swc/jest', { ...config, /* custom configuration in jest */ }], }, } GitHub Repo:swc-project/jest: Super-fast alternative for babel-jest or ts-jest without type checking (github.com) vscode-theme-generator 一个能够自定义 VS Code 主题的库,采用 TypeScript 开发,能够帮助你轻松自定义 VS Code 的主题。 import { generateTheme, IColorSet } from 'vscode-theme-generator'; const colorSet: IColorSet = { base: { background: '#12171F', foreground: '#EFEFEF', color1: '#399EF4', color2: '#DA6771', color3: '#4EB071', color4: '#FFF099', } }; generateTheme('My Theme', colorSet, path.join(__dirname, 'theme.json')); GitHub Repo:Tyriar/vscode-theme-generator: Easily generate themes for VS Code with only a few colors (github.com) Nginx Playground 一个能够快速验证 Nginx 配置的在线演示工具。 在线地址:nginx playground (wizardzines.com) Probot 一个用于构建 GitHub Apps 的框架,可以用它来实现工作流的自动化。 官方文档:probot GitHub Repo:probot/probot: 🤖 A framework for building GitHub Apps to automate and improve your workflow use-context-selector 一个基于 Context API 的封装,优化 Context 导致的 rerender 问题,虽然有一些限制,但可以通过这个设计实现更好了解 Context API。 使用方法: import React, { useState } from 'react'; import ReactDOM from 'react-dom'; import { createContext, useContextSelector } from 'use-context-selector'; const context = createContext(null); const Counter1 = () => { const count1 = useContextSelector(context, v => v[0].count1); const setState = useContextSelector(context, v => v[1]); const increment = () => setState(s => ({ ...s, count1: s.count1 + 1, })); return ( <div> <span>Count1: {count1} span> <button type="button" onClick={increment}>+1 button> {Math.random()} div> ); }; const Counter2 = () => { const count2 = useContextSelector(context, v => v[0].count2); const setState = useContextSelector(context, v => v[1]); const increment = () => setState(s => ({ ...s, count2: s.count2 + 1, })); return ( <div> <span>Count2: {count2} span> <button type="button" onClick={increment}>+1 button> {Math.random()} div> ); }; const StateProvider = ({ children }) => { const [state, setState] = useState({ count1: 0, count2: 0 }); return ( <context.Provider value={[state, setState]}> {children} context.Provider> ); }; const App = () => ( <StateProvider> <Counter1 /> <Counter2 /> StateProvider> ); ReactDOM.render(<App />, document.getElementById('app')); GitHub Repo:dai-shi/use-context-selector: React useContextSelector hook in userland (github.com) 📑 Article Naive UI 是如何开发出来的 文章从 Naive UI 的 Button 组件开始,以小见大,逐步介绍实现一个组件库需要经历的过程,窥探 Naive UI 的奥秘。 原文链接:尤大都推荐的组件库是如何开发出来的? (qq.com)

优秀的个人博客,低调大师

淘系前端架构周刊:Rax 小程序支持云端一体化应用、VS Code 发布 1.60 版本

🗞 News Rax 小程序支持云端一体化应用 小程序一体化是Midway.js团队与 Rax 团队合作的产品,通过 Midway.js 对一体化的支持与 Rax 对小程序的支持,我们可以为小程序带去更好的研发体验。 现在,你可以使用更贴近现代前端 Web 研发的方式来开发小程序云开发一体化应用。更多使用详情,可以阅读文档小程序一体化。 VS Code 1.60 版本发布:原生支持括号配对着色 新特性: 自动语言检测:指定检测粘贴至 VS Code 中的编程语言 内置高性能括号配对着色:支持大文件的快速括号配对着色 设置编辑器语法高亮:更丰富的语法高亮代码块设置 &etc... Release 日志:Visual Studio Code August 2021 React Router v6.0.0-beta.3 发布 Breaking Change: NavLink不再支持activeClassName或activeStyle属性。作为替代,我们提供了一个更强大的 API,允许向className或style属性中传入一个函数,它能够获取到 link 的active状态,通过active状态判断应用哪些值。 //Before <NavLinkclassName="link"activeClassName="active-link"/> <NavLinkstyle={{color:"blue"}}activeStyle={{color:"green"}}/> //After <NavLink className={({isActive})=> `link${ isActive ?"active-link" ://Couldn'tdothisbefore! "inactive-link" }` } /> <NavLinkstyle={({isActive})=>({color:isActive?"green":"blue"})}/> useRoutesAPI 有些许变化。与其将basename作为第二个参数传递,不如将其作为对象中的命名属性传递。 //Before useRoutes([...routes],basename); //After useRoutes([...routes],{basename}); Bugfixes: Routes的basename属性不区分大小写 当 URL 与其子路由之一匹配时,useNavigate从父路由调用时使用了不正确的路径名。 此修复也适用于useSearchParams。 Release 日志:Release v6.0.0-beta.3 · remix-run/react-router 📦 Open Source Web Vitals 一款能够实时显示页面性能的 Chrome 插件,向用户展示所访问页面的三个性能指标: Largest Contentful Paint Cumulative Layout Shift First Input Delay 安装链接:Web Vitals - Chrome 网上应用店 Stetho Stetho 是一个复杂的 Android 应用调试桥接工具。启用后,开发者可以使用 Chrome 自带的 Chrome DevTools 对 Android 应用进行调试。 开发者还可以选择启用 dumpapp 工具,为应用提供强大的命令行界面。 Home Page:facebook.github.io/stetho GitHub Repo:facebook/stetho: Stetho is a debug bridge for Android applications, enabling the powerful Chrome Developer Tools and much more. modern-normalize 一个更加现代化的样式标准化工具,相比normalize.css更小,且测试更完全。 GitHub Repo:sindresorhus/modern-normalize: 🐒 Normalize browsers' default style. react-render-tracker 一个能够发现 React 应用的性能问题并避免不必要的重复渲染的工具,支持以下特性: 查看包括已经卸载的组件在内的组件树的 state,以及 state 的更新次数 查看组件树中的两种层次结构 打印组件及其子组件事件日志 查看组件自身或所有组件的渲染总时长 查看事件和组件实例的总体统计信息 &etc...(RodeMap) GitHub Repo:lahmatiy/react-render-tracker: React render tracker – a tool to discover performance issues related to unintentional re-renders and unmounts. Ultra Runner 适用于 monorepo 的工作流组织工具,优势在兼容所有包管理工具的 workspace 方案以及灵活的执行流控制,支持以下特性: 零配置:能够在已有的 monorepo 中开箱即用 非侵入式:不需要修改package.json中的任何内容 workspaces:能够检测在lerna、yarn、npm@7以及pnpm的 workspaces 的包,或者递归搜索 &etc... GitHub Repo:folke/ultra-runner: 🏃⛰ Ultra fast monorepo script runner and build tool. Sucrase 面向现代 JavaScript 的编译工具,又一个 Babel 的替代者,优势在快(前提是编译后的代码完全只运行在现代浏览器中,通过这一点来减少工作量),甚至优于 SWC。 TimeSpeed Sucrase1.64seconds220221linespersecond swc2.13seconds169502linespersecond esbuild3.02seconds119738linespersecond TypeScript24.18seconds14937linespersecond Babel27.22seconds13270linespersecond Playground:sucrase.io GitHub Repo:alangpierce/sucrase: Super-fast alternative to Babel for when you can target modern JS runtimes. 📑 Article 废宅阿斗 NPM 即将被 Node.js 官方抛弃 文章介绍了近期 Node.js 16.9.0 中推出的实验性功能 Corepack,意图从解决 npm/yarn/pnpm 等各种包管理工具各自为战,相互割据的问题。 npm 将慢慢从 Node.js 的内置包中移除,预计在下一个大版本启动。目前 Corepack 已经内置到 Node.js 的安装包中,感兴趣的朋友可以大胆尝试一下。 原文链接:废宅阿斗 NPM 即将被 Node.js 官方抛弃 - 知乎

优秀的个人博客,低调大师

超百位计算机系学生报名,蚂蚁金服联合浙江大学举办CodeLab科技创新营

2019 年 5 月 11 日,蚂蚁金服携手浙江大学举办了第 5 期 CodeLab 科技创新营。该创新营旨在提供学生与社会相结合的培训,提高学生实际动手操作和应用创新能力。 今年 4 月启动的“CodeLab 科技创新营”主要针对高校计算机信息技术专业的在校生,通过邀请蚂蚁金服高级技术工程师及高校博士导师,以 3 天集中课程的形式向学生输出蚂蚁技术与能力,让参加 CodeLab 的同学们既可以学到新的技术知识,也能在蚂蚁的技术支持下变身为开发者,运用蚂蚁的产品平台,如 mPaaS、小程序等,做出属于自己的作品。 目前已有将近 500 位来自浙江大学、浙江工业大学、杭州电子科技大学、中国计量大学和杭州师范大学等院校的同学成为了 CodeLab 的一员,并成功做出小程序 demo 超过 100 个。 “在校园中,我们平常没有机会去接触小程

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册