deepin UOS AI 如何配置自定义模型
科技飞速发展的今天,操作系统作为计算机系统的灵魂,其每一次的更新与变革都牵动着无数用户的心弦。近日,开源操作系统deepin迎来了一次重大更新,这次更新不仅在性能上进行了全面优化,更在AI智能化方面迈出了划时代的步伐:内置AI助理,并成功兼容多个千亿级大模型,为用户带来了前所未有的智能操作体验。
为了让deepin和UOS AI变得更开放、更强大,支持更多的大模型,我们开放了UOS AI的模型接入接口,所有OpenAI接口格式的大模型均可以接入到UOS AI,你可以根据自身需求,自行接入自己喜欢的大模型,让UOS AI成为更个性化的智能伙伴。为了让更多用户了解如何配置专属模型,本篇文章将详细介绍:
1. UOS AI如何接入在线模型(例如月之暗面和智谱)
2. UOS AI如何接入本地模型(例如使用Ollama运行本地模型)
UOS AI 如何接入在线模型
目前,UOS AI 1.3.0版已在deepin V23 RC2应用商店发布,新版支持用户添加自定义模型。
接入条件
UOS AI的自定义模型的接口规范为OpenAI的/v1/chat/completions。因此只有提供了OpenAI兼容接口的模型服务才可以被添加到UOS AI中使用。
接入在线模型
接下来介绍在线模型的添加方式:
一、月之暗面
01:获取API
打开月之暗面的API说明,获取:模型名称和Domain(请求地址):https://platform.moonshot.cn/docs/api/chat#api-%E8%AF%B4%E6%98%8E
请求地址:https://api.moonshot.cn/v1/chat/completions
模型名称:moonshot-v1-8k
Tips:UOS AI会在请求地址中自动添加/chat/completions,因此这里填入的地址需要在月之暗面的地址去掉/chat/completions部分。实际填入为:https://api.moonshot.cn/v1
02:获取API Key
登录月之暗面控制台:https://platform.moonshot.cn/console/api-keys
进入【API Key管理】,点击右侧“创建”按钮,生成API Key:
在此界面复制生成的密钥。
03:UOS AI添加模型
进入UOS AI设置界面,添加模型。在模型添加界面的模型选项中切换为“自定义”。然后填入以下信息:
- API Key:在API Key栏粘贴上步复制的密钥
- 账号名称:任意填写
- 模型名称:填入第一步中月之暗面API声明的模型名称:moonshot-v1-8k
- 请求地址:https://api.moonshot.cn/v1
最终的填写效果是:
点击确认,完成校验后即可在对话窗口中使用。
二、智谱
01:获取API
进入智谱AI开发平台,查询模型API:https://open.bigmodel.cn/dev/api#glm-4
请求地址:https://open.bigmodel.cn/api/paas/v4/chat/completions
模型名称:glm-4
02:获取API Key
进入智谱《API keys》界面:https://open.bigmodel.cn/usercenter/apikeys
点击右侧《添加新的API key》按钮,并在生成的新key后点击复制按钮。
03:UOS AI添加模型
进入UOS AI设置界面,添加模型,在模型添加界面的模型选项中切换为“自定义”。然后填入以下信息:
-
API Key:在API Key栏粘贴上步复制的密钥
-
账号名称:任意填写
-
模型名称:填入智谱模型的模型名称:glm-4
-
请求地址:UOS AI会在请求地址中自动添加 /chat/completions,因此这里填入的地址需要在智谱的地址去掉 /chat/completions部分。实际填入的为:https://open.bigmodel.cn/api/paas/v4
点击确认,完成校验后即可在对话窗口中使用。
三、其他模型
其他兼容OpenAI API接口的在线模型皆可用以上方法接入。
下面为部分大模型厂商的API说明:
-
通义千问:https://help.aliyun.com/zh/dashscope/developer-reference/compatibility-of-openai-with-dashscope
-
零一万物:https://platform.lingyiwanwu.com/docs#api-%E5%B9%B3%E5%8F%B0
UOS AI 如何接入本地模型
Ollama
Ollama是一个开源的大语言模型本地部署工具,通过它可以方便的在本机部署开源大模型。
01:安装
Ollama仓库地址:https://github.com/ollama/ollama
按照教程在deepin V23中安装ollama程序。执行以下命令,直接安装ollama。
curl -fsSL https://ollama.com/install.sh | sh
Tips:编译安装、Docker安装请参阅Github中说明。
ollama 服务地址:127.0.0.1:11434
02:运行
安装完成后在终端运行模型,如Qwen2的7B模型:ollama run qwen2:7b
模型第一次运行会自动下载,根据网络情况需要等待一会儿。
03:模型仓库
Ollama模型仓库:https://ollama.com/library
可根据自身需要选择模型。
04:UOS AI配置
Ollama启动模型后,即可在UOS AI中添加该模型。
① 进入UOS AI的模型添加界面,选择模型类型为自定义。
②账号名称:根据需要随意填写。
③API Key:Ollama未开启鉴权,可以随意填写。
④模型名:填写Ollama运行的模型名称,如前文运行的是qwen2:7b,那么这里就填qwen2:7b。
⑤模型请求地址:
Ollama默认服务地址为127.0.0.1:11434
,
其OpenAI的兼容接口为http://127.0.0.1:11434/v1/chat/completions
因此在UOS AI中只需填入:http://127.0.0.1:11434/v1
完成添加后即可在UOS AI中与本地模型对话。
目前,deepin UOS AI已覆盖90%主流开源大模型与AI框架,随着模型接口的开放,用户将在UOS AI中体验到更多优秀的国内外大模型。未来,deepin将持续探索大模型与AI原生应用,自然语言交互兼容性,数据安全性等多个技术点,推动人工智能与基础软件融合,为产业发展带来革命性变化。
附录:
(1)deepin 历史版本镜像(含 deepin V15):https://distrowatch.com/index.php?distribution=deepin
(2)UOS AI 打通全局智能搜索:https://www.deepin.org/zh/uos-ai-gets-a-major-upgrade/

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
开发者为 Linux 内核的 Panic 界面“整活”:添加二维码、修改背景颜色
Linux 6.10 引入了一个新的 DRM Panic 处理程序基础设施,以便于在出现内核致命错误 (Panic),或者VT 支持可能被禁用的情况下显示相关信息。 这项功能类似于 Windows 的蓝屏死机,此前我们也报道了 Red Hat 工程师创建的 Linux 版本蓝屏死机界面。 有人抱怨这与 Windows 的蓝屏过于相似。Javier 表示这都是开源的,因此可以根据自己的喜好进行定制,于是他转身就拿出了“黑屏死机界面” (Black Screen Of Death): 近日,Red Hat 的另一位内核开发者 Jocelyn Falempe 提交了新补丁,用于在 DRM Panic 界面中显示错误消息二维码。 Jocelyn Falempe 介绍称: 该系列补丁添加了一个新的"panic"界面,将 kmsg 数据嵌入二维码中。二维码的主要优势在于可以将调试数据复制/粘贴到错误报告中。 QR-code 编码器是用 rust 编写的,与 drm_panic 非常相关。原因是它是在 panic 处理程序中调用的,因此不能分配内存或使用锁定。 rust 代码使用了一些 rust 核...
- 下一篇
中软国际智创未来园区落地未来科学城
7月2日,由未来科学城集团下属置汇公司(以下简称“置汇公司”)负责实施的朱辛庄二期项目CP01-0801-0039、0040地块(以下简称“项目地块”)成功确认意向用地单位。北京中软国际信息技术有限公司(以下简称“中软国际”)摘得,将建设智创未来园区,助力昌平区成为数字化赋能行业“新一极”。 本次出让项目地块为M4工业研发用地,规划总用地面积约3.49公顷,规划地上总建筑面积约8.73万平方米,综合容积率为 2.5。 朱辛庄二期0039、0040地块所在位置示意图 项目地块所在朱辛庄街区聚焦新一代信息技术、智能制造等高端产业,现已集聚了小米智慧产业园、紫光数字经济科技园、中公教育、慧聪网等一批数字经济企业。 中软国际拿地后将建设智创未来园区,构建高效协同的信息技术创新生态,打造具有国际影响力和区域带动力的数字经济发展高地。 智创未来园区效果图 园区将以一线城市龙头企业总部需求业态比例为蓝本,构建数字化业务咨询、AIGC研究院、新创全产业链研发、职能部门四大主要功能板块,以及共享交流等多项服务配套设施。 智创未来园区效果图 依托朱辛庄街区新一代信息技术产业发展的良好势头,中软国际智...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- MySQL8.0.19开启GTID主从同步CentOS8
- SpringBoot2更换Tomcat为Jetty,小型站点的福音
- Red5直播服务器,属于Java语言的直播服务器
- CentOS7,8上快速安装Gitea,搭建Git服务器
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作
- SpringBoot2全家桶,快速入门学习开发网站教程
- CentOS8安装MyCat,轻松搞定数据库的读写分离、垂直分库、水平分库