首页 文章 精选 留言 我的

精选列表

搜索[质量风险]，共10000篇文章
优秀的个人博客,低调大师

开源 AI 和 ML 工具的安全风险日益增加

Protect AI 最新发布的一份 2024 年 7 月漏洞报告在各种大语言模型（LLM）中发现了 20 个严重漏洞。 这些漏洞是通过 Protect AI 的“huntr”漏洞赏金计划发现的，这也是全球首个 AI/ML 漏洞赏金计划。该社区由 15,000 多成员组成，在整个 OSS AI/ML 供应链中寻找有影响力的漏洞。 “我们发现供应链中用于构建支持 AI 应用程序的机器学习模型的工具容易受到独有的安全威胁。这些工具是开源的，每月被下载数千次以构建企业 AI 系统。它们还可能存在漏洞，这些漏洞可能直接导致完全的系统接管，例如未经身份验证的远程代码执行或本地文件包含。” 此次报告的漏洞涉及了 ZenML、lollms 和 AnythingLLM 等广泛使用的工具。ZenML 中的权限提升漏洞，未经授权的用户可以通过发送精心设计的 HTTP 请求将其权限提升到服务器帐户。可以通过修改请求负载中的 is_service_account 参数来利用此漏洞。利用此漏洞的攻击者可能会破坏整个系统，导致未经授权的访问和控制。 lollms 中的本地文件包含 (LFI) 漏洞，允许攻击者读取或删除服务器上的敏感文件，从而可能导致数据泄露或拒绝服务。该漏洞源于 lollms 中的 sanitize_path_from_endpoint 函数未正确处理 Windows-style paths，导致其容易受到目录遍历攻击。 AnythingLLM 中的路径遍历漏洞使得攻击者可以读取、删除或覆盖关键文件，包括应用程序的数据库和配置文件。该漏洞位于 normalizePath() 函数中，可导致数据泄露、应用程序入侵或拒绝服务。 更多详情可查看完整报告。
2024-07-20
优秀的个人博客,低调大师

全球加强数字政府建设，提高应对未来风险能力

新冠病毒COVID-19的大流行使许多地区国家因失业率暴增造成巨大压力。尽管有些国家的情况比其他国家好，但所有政府都可以利用云技术等优势为下一次风暴做好准备。 冠状病毒对经济产生了毁灭性的影响。在3月下旬至4月初之间，有2200万美国人申请失业。不幸的是，由于需求激增，许多州政府网站崩溃，呼叫中心不堪重负，许多人面临着巨大的挑战和寻求利益的延误。 根据美国信息技术和创新基金会(ITIF)的分析，到4月中旬，超过一半的州失业网站经历了严重的停机。佛罗里达的站点一度宕机了16个小时，而密歇根州的宕机了近6个小时。即使居民可以访问这些站点，他们通常也无法完成其申请，或者会收到错误消息，称他们不符合资格。 显然，部分问题在于许多机构根本没有考虑过这种数量的激增。例如，在明尼苏达州，该州从每天每小时50名申请人增加到每天2000名申请人。纽约州劳工部报告说，与通常一周相比，网络流量增加了1600%。 但是，即使全国失业人数激增，并非所有州的失业网站都崩溃了。已经开发了基于云的应用程序的代理商通常能够满足需求。其他人则在运行过时的系统。例如，佛罗里达州的失业网站正在运行旧版本的Internet Information Services(基于Windows的Web服务器)，并使用旧版的ASP.net设计其系统。一项对州失业机构的调查发现，至少有12个州在其系统中使用了COBOL(一种在1970年代流行的编程语言，现在几乎没有程序员可用)。 另一个问题是失业网站无法跟上政策的变化。例如，许多州通常要求申请人证明他们正在积极寻找符合失业救济资格的工作，但在大流行期间放弃了这些要求。不幸的是，这些更改并非总是在政府的在线表格上进行，从而使申请人感到困惑。 这些小错误可能会产生重大影响。通常，如果人们对自己的申请有疑问，或者网站关闭，则可以致电代理商。但是呼叫中心也无能为力，因为它们没有能力快速扩展以满足更高的需求。 例如，德克萨斯州劳工委员会报告每天最多接到300万个电话。此外，许多政府机构还没有将整个失业申请过程完全数字化。例如，在纽约，要求申请人致电以验证其详细信息，然后才能获得福利。结果，该州在通常的几周内通话量增加了16000%。在许多机构的计划中，对呼叫中心的依赖暴露出了第二条故障线。 如今，全球各国争相解决这些问题。一些人通过建议他们在深夜或仅在某些天提交申请来解决他们的问题，这取决于他们姓氏的首字母，以避免再次使系统不堪重负。其他人则迅速启动了IT计划。纽约与Google合作建立了一个新的失业网站。佛罗里达州签署了价值超过1亿美元的合同，以提供更多的呼叫中心，并增加了100台服务器来处理互联网流量的激增。 但是，即使这些网站在线，许多网站仍然无法满足用户的需求。例如，据ITIF称，有41个州的失业现场在移动设备上表现不佳。设计用于移动的政府网站至关重要，因为这是大约20%的美国人唯一的家庭互联网访问形式。此外，有19个州的网站不符合万维网联盟的可访问性标准，这确保了残疾人(尤其是盲人或视力低下的人)可以访问网站。 虽然各州最终有责任确保其站点快速、可访问、对移动设备友好且安全，但迁移到云并采用移动优先策略是正确方向上的步骤。
2020-06-08
优秀的个人博客,低调大师

数据依赖症：当今AI领域的核心风险

在最近结束的2017年度AI星际争霸竞赛上，Facebook做出了一款人工智能“CherryPi”，参与到这项旨在让各路AI技术在星际争霸游戏中同场竞技的赛事之中。 但很遗憾的是，Facebook仅仅获得了赛事的第六名，最直接的原因，在于Facebook坚持在CherryPi的研发中主要使用机器学习技术，而非像其他大多数参与者那样使用纯粹的预设编码脚本。预设编码脚本即通过人工方式预编程了非常复杂的游戏策略脚本，让程序根据脚本按图索骥机械式执行游戏。面对这些实际上并不能称为人工智能的对手，Facebook自家主要基于AI技术的CherryPi基本处于劣势，最终仅能获得第六名。随便提一下今年这项赛事的获胜者是一名对星际争霸游戏本身有深刻理解的业余人士所编制的脚本机器人。当然Facebook的失败并不意外，因为目前要纯粹靠人工智能去挑战携
2017-10-23

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

时间: 2026-08-21 大小: 1MB 下载: 10次
Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

时间: 2026-09-24 大小: 189MB 下载: 9次
Spring

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

时间: 2026-08-21 大小: 5MB 下载: 2次
WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。

时间: 2025-12-13 大小: 249.54MB 下载: 22次
热门标签
DeepSeek Jdk25 OpenAi HarmonyOS6 Nacos3 SpringBoot4 SpringCloud Docker Kubernetes Service Mesh Redis Gemini3 Rocky

欢迎您来访！

登录后，您将获得更多功能！
热门文章
联系我们

有任何问题或合作意向欢迎联系我们

Email: 99873273@qq.com

QQ: 99873273

用户登录
用户注册