ChatGPT 搜索工具被曝存在安全漏洞-低调大师

ChatGPT 搜索工具被曝存在安全漏洞

2024-12-26 196

据英国卫报报道，OpenAI 的 ChatGPT 搜索存在安全问题，其反馈结果可以被页面的隐藏内容操纵，甚至可能反馈恶意代码。

英国卫报重点测试了 ChatGPT 搜索工具对包含隐藏内容的网页处理情况，此类隐藏内容可能包含来自第三方、可以更改 ChatGPT 响应的指令（同时也被称为「提示注入」），以及填充大量虚假好评，影响生成结果的内容。

根据测试结果，ChatGPT 搜索工具可以被恶意使用，尽管页面存在部分负面评论，但可以影响 ChatGPT 结果为积极的正面评估，安全研究人员还发现 ChatGPT 可以从其搜索的网站反馈恶意代码，出现了含有钓鱼恶意行为的虚假网站。

报道中，CyberCX 的网络安全研究员 Jacob Larsen 认为，ChatGPT 当前的搜索系统发布后，人们创建专门用于欺骗用户的网站的风险很高，所幸的是该功能仍处于测试阶段，OpenAI 团队正在努力解决这些问题。

而安全公司 SR Labs 的首席科学家 Karsten Nohl 则建议将 AI 聊天服务视为「辅助功能」，不应完全信任其未经过滤的输出内容。

微信关注我们

原文链接：https://www.oschina.net/news/326655/chatgpt-search-tool-vulnerable

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

美国对中国芯片发起 301 调查

当地时间12月23日，美国白宫网站发布一则简报，美国政府将启动《贸易法》301条款，针对中国生产的成熟制程半导体展开调查。简报称，为保护美国工人和企业，将调查中国在半导体行业方面的的非市场行为、政策和做法，包括这些半导体作为组件纳入国防、汽车、医疗设备、航空航天、电信和电网等关键行业的下游产品的程度。同样在23日，中国商务部新闻发言人就美对中国芯片产业相关政策发起301调查发表谈话。中方表示，美301调查具有明显的单边、保护主义色彩，中方对此强烈不满，坚决反对。正如商务部所言，301条款是极具单边色彩的一条国内法案，一般在美国对付其他国家优势产业时发挥出“耍无赖”的作用。实际上，芯片不是第一个我国被美国以301条款调查的行业，此前美国就曾以该条款对中国的钢铝、光伏等产业发起过调查。

2024-12-26

157

最高人民法院发布《人民法院第六个五年改革纲要（2024—2028年）》。其中提到，完善发展新质生产力司法保障机制。包括：加强对关键核心技术、重点领域、新兴产业等方面的知识产权司法保护。建立完善涉重大科技创新案件的审理和监督指导机制。健全知识产权行政执法和司法审判衔接机制。完善数据权益司法保护制度，健全数据产权归属认定、市场交易、权益分配、利益保护的裁判规则。完善涉网络侵权、人工智能、算法和涉数据不正当竞争等新类型案件的裁判规则，促进健全网络综合治理体系。以及完善数字技术智能应用机制。深入拓展数字技术司法应用场景，加强审判领域技术自主创新，强化智能算法、大语言模型、数字模型等技术应用，充分发挥人工智能技术辅助办案、集约事务、防控风险、方便诉讼等作用，打造安全可靠、协同高效、普惠便捷的数字技术司法应用体系，以数字化、智能化驱动审判流程、诉讼规则和司法模式变革。依托信息化手段和算法模型，建立办案数据抽查核验机制。加强对人工智能司法应用的审查监管和风险评估，建立具有规则引领和示范效应的技术应用伦理规则。

2024-12-26

171

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Eclipse

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。

JDK

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。