ChatGPT 搜索工具被曝存在安全漏洞-低调大师

ChatGPT 搜索工具被曝存在安全漏洞

2024-12-26 254

据英国卫报报道，OpenAI 的 ChatGPT 搜索存在安全问题，其反馈结果可以被页面的隐藏内容操纵，甚至可能反馈恶意代码。

英国卫报重点测试了 ChatGPT 搜索工具对包含隐藏内容的网页处理情况，此类隐藏内容可能包含来自第三方、可以更改 ChatGPT 响应的指令（同时也被称为「提示注入」），以及填充大量虚假好评，影响生成结果的内容。

根据测试结果，ChatGPT 搜索工具可以被恶意使用，尽管页面存在部分负面评论，但可以影响 ChatGPT 结果为积极的正面评估，安全研究人员还发现 ChatGPT 可以从其搜索的网站反馈恶意代码，出现了含有钓鱼恶意行为的虚假网站。

报道中，CyberCX 的网络安全研究员 Jacob Larsen 认为，ChatGPT 当前的搜索系统发布后，人们创建专门用于欺骗用户的网站的风险很高，所幸的是该功能仍处于测试阶段，OpenAI 团队正在努力解决这些问题。

而安全公司 SR Labs 的首席科学家 Karsten Nohl 则建议将 AI 聊天服务视为「辅助功能」，不应完全信任其未经过滤的输出内容。

微信关注我们

原文链接：https://www.oschina.net/news/326655/chatgpt-search-tool-vulnerable

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

美国对中国芯片发起 301 调查

当地时间12月23日，美国白宫网站发布一则简报，美国政府将启动《贸易法》301条款，针对中国生产的成熟制程半导体展开调查。简报称，为保护美国工人和企业，将调查中国在半导体行业方面的的非市场行为、政策和做法，包括这些半导体作为组件纳入国防、汽车、医疗设备、航空航天、电信和电网等关键行业的下游产品的程度。同样在23日，中国商务部新闻发言人就美对中国芯片产业相关政策发起301调查发表谈话。中方表示，美301调查具有明显的单边、保护主义色彩，中方对此强烈不满，坚决反对。正如商务部所言，301条款是极具单边色彩的一条国内法案，一般在美国对付其他国家优势产业时发挥出“耍无赖”的作用。实际上，芯片不是第一个我国被美国以301条款调查的行业，此前美国就曾以该条款对中国的钢铝、光伏等产业发起过调查。

2024-12-26

215

最高人民法院发布《人民法院第六个五年改革纲要（2024—2028年）》。其中提到，完善发展新质生产力司法保障机制。包括：加强对关键核心技术、重点领域、新兴产业等方面的知识产权司法保护。建立完善涉重大科技创新案件的审理和监督指导机制。健全知识产权行政执法和司法审判衔接机制。完善数据权益司法保护制度，健全数据产权归属认定、市场交易、权益分配、利益保护的裁判规则。完善涉网络侵权、人工智能、算法和涉数据不正当竞争等新类型案件的裁判规则，促进健全网络综合治理体系。以及完善数字技术智能应用机制。深入拓展数字技术司法应用场景，加强审判领域技术自主创新，强化智能算法、大语言模型、数字模型等技术应用，充分发挥人工智能技术辅助办案、集约事务、防控风险、方便诉讼等作用，打造安全可靠、协同高效、普惠便捷的数字技术司法应用体系，以数字化、智能化驱动审判流程、诉讼规则和司法模式变革。依托信息化手段和算法模型，建立办案数据抽查核验机制。加强对人工智能司法应用的审查监管和风险评估，建立具有规则引领和示范效应的技术应用伦理规则。

2024-12-26

230

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。