首个生成式 AI 安全指导性文件来了-低调大师

首个生成式 AI 安全指导性文件来了

2023-10-13 354

10月11日，全国信息安全标准化技术委员会官网发布《生成式人工智能服务安全基本要求》（征求意见稿），面向社会公开征求意见。

公告原文：https://www.tc260.org.cn/front/postDetail.html?id=20231011143225

这是国内首个专门面向生成式 AI 安全领域的规范意见稿，也是对7月网信办等七部门推出的《生成式人工智能服务管理暂行办法》的支撑。

征求意见稿首次提出生成式AI服务提供者需遵循的安全基本要求，涉及语料安全、模型安全、安全措施、安全评估等方面。

下文介绍了该文件部分要点。

要求：提供者不应使用未经主管部门备案的基础模型进行研发。在训练过程中，应将生成内容安全性作为评价生成结果优劣的主要考虑指标之一。

在每次对话中，应对使用者输入信息进行安全性检测，引导模型生成积极正向内容。

《要求》提出，建立语料来源黑名单，不得使用黑名单来源的数据进行训练。应对各来源语料进行安全评估，单一来源语料内容含违法不良信息超5%应将其加入黑名单。

应使用包含个人信息的语料时，获得对应个人信息主体的授权同意，或满足其他合法使用该个人信息的条件。

应使用包含人脸等生物特征信息的语料时，获得对应个人信息主体的书面授权同意，或满足其他合法使用该生物特征信息的条件。

在训练过程中，应将生成内容安全性作为评价生成结果优劣的主要考虑指标之一。

全文：https://www.tc260.org.cn/upload/2023-10-11/1697008495851003865.pdf

微信关注我们

原文链接：https://www.oschina.net/news/261654

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

聊聊即将到来的 MySQL 5.7 停服事件

GreatSQL社区原创内容未经授权不得随意使用，转载请联系小编并注明来源。上个月，信通院下属的云计算开源产业联盟发布了一个关于MySQL数据库开源生态的研究报告《开源数据库生态发展研究报告-MySQL开源数据库》，其中提到了在10月份MySQL社区将会发生一件大事--MySQL 5.7将会于2023年10月21日结束服务期（EOL）。 MySQL目前已经成为中国用户使用最广泛的开源数据库，其中5.7版本的用户的比重又是最高的，因此MySQL 5.7 EOL事件会影响到很多MySQL用户。根据报告中的统计数字，MySQL 5.7用户占比在国内高达47%。届时这些用户将会面临选择，如何应对EOL事件。实际上2020年的时候就有一些机构提醒用户，MySQL 5.7按照生命周期将于2023年到达服务期限，当时这件事还在MySQL社区和DBA圈子里引发过一些关于开源项目安全性的讨论。3年后，这个狼来了的问题，终于正式要面对我们了。实际上数据库EOL的问题并不是在MySQL 5.7上第一次出现，Oracle用户都很清楚每个版本EOL的时间表。只不过Oracle官方依然会...

2023-10-13

298

KubeSphere 社区双周报主要整理展示新增的贡献者名单和证书、新增的讲师证书以及两周内提交过 commit 的贡献者，并对近期重要的 PR 进行解析，同时还包含了线上/线下活动和布道推广等一系列社区动态。本次双周报涵盖时间为：2023.09.29-2023.10.12。贡献者名单新晋 KubeSphere Contributor 两周内共有 4 位新晋 KubeSphere Contributor，感谢各位对 KubeSphere 社区的贡献！近期更新 KubeSphere 1. 修复某些情况下 storageclass-accessor webhook 无法访问的问题相关 PR：https://github.com/kubesphere/kubesphere/pull/5927 贡献者：stoneshi-yunify 2. 修复应用分类无法修改的问题相关 PR：https://github.com/kubesphere/kubesphere/pull/5925 贡献者：king-119 3. 修复潜在的死锁问题相关 PR：https://github.com/ku...

2023-10-13

323

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。