谷歌、微软等 14 家公司成立“安全人工智能联盟”-低调大师

谷歌、微软等 14 家公司成立“安全人工智能联盟”

2024-07-19 295

谷歌、OpenAI、微软等 14 家科技公司宣布联合成立安全人工智能联盟 (CoSAI) 。该倡议旨在通过提供开源方法、框架和工具来解决“AI 安全碎片化的问题”。

其他创始成员还包括亚马逊、英特尔、英伟达、IBM、思科、Paypal、Anthropic、Cohere、Chainguard、WIZ、GenLab。

CoSAI 被定义为一个开源社区，由项目管理委员会领导，负责推进和管理其整体技术议程，并由来自学术界和工业界的人工智能专家组成的技术指导委员会负责监督其工作流程。

CoSAI 的工作范围包括安全地构建、集成、部署和操作 AI 系统，重点是减轻模型盗窃、数据中毒、提示注入、规模化滥用和推理攻击等风险。该项目旨在制定全面的安全措施，解决 AI 系统中典型和独有的风险。

CoSAI 最初将形成三个工作流：

AI 系统的软件供应链安全：增强组成和来源追踪以保护 AI 应用的安全。
为不断变化的网络安全形势做好防御者的准备：解决 AI 和传统系统中的投资和集成挑战。
AI 安全治理：为 AI 安全制定最佳实践和风险评估框架。

后续还计划随着时间的推移增加更多工作流。

更多详情可查看官方公告。

微信关注我们

原文链接：https://www.oschina.net/news/302858/google-microsoft-ai-cosai

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

OpenAI 发布“小”模型 GPT-4o Mini

OpenAI 今天正式发布小型模型 GPT-4o mini。据OpenAI 表示，GPT-4o mini GPT-4o mini 在 MMLU 上的得分为 82%，目前在 LMSYS 排行榜（在新窗口中打开）上的聊天偏好方面优于 GPT-4。它的价格为每百万输入代币 15 美分，每百万输出代币 60 美分，比以前的前沿模型便宜一个数量级，比 GPT-3.5 Turbo 便宜 60% 以上。 GPT-4o mini 以其低成本和低延迟实现了广泛的任务，如连锁或并行多个模型调用（如调用多个 API）、向模型传递大量上下文（如完整代码库或对话历史）或通过快速、实时文本回复与客户交互（如客户支持聊天机器人）的应用。目前，GPT-4o mini 的应用程序接口支持文本和视觉，未来还将支持文本、图像、视频和音频输入和输出。该模型的上下文窗口可容纳 128K 标记，每个请求最多支持 16K 输出标记，知识库可持续到 2023 年 10 月。 GPT-4o mini 现已作为文本和视觉模型提供给助手应用程序接口（Assistants API）、聊天完成应用程序接口（Chat Completion...

2024-07-19

318

借助 R515 驱动程序，英伟达于 2022 年 5 月发布了一套开源的Linux GPU 内核模块，该模块采用双许可证，即 GPL 和 MIT 许可。初始版本主要面向数据中心计算 GPU，而 GeForce 和工作站 GPU 则处于 Alpha 状态。当时，他们宣布在后续版本中将提供更可靠、功能齐全的 GeForce 和工作站 Linux 支持，NVIDIA 开放内核模块最终将取代闭源驱动。 NVIDIA GPU 具有通用的驱动架构和功能集。这意味着同一驱动适用于您的台式机或笔记本电脑，也可在云端运行世界上最先进的 AI 工作负载。两年过去了，英伟达利用开源的 GPU 内核模块实现了与原来的应用程序性能相当或更好的性能，并添加了大量新的功能。异构内存管理 (HMM) 支持机密计算 Grace 平台的连贯内存架构等等现在英伟达通过官方博客现在正式宣布，其开源内核模块最终将取代闭源驱动——目前正处于完全过渡到开源 GPU 内核模块的时刻。在即将发布的 R560 驱动版本中，他们将作出这一更改。英伟达称，对于 Grace Hopper 或 Blackwell 等平台，必须使用...

2024-07-19

357

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。