ChatGPT 搜索工具被曝存在安全漏洞-低调大师

ChatGPT 搜索工具被曝存在安全漏洞

2024-12-26 232

据英国卫报报道，OpenAI 的 ChatGPT 搜索存在安全问题，其反馈结果可以被页面的隐藏内容操纵，甚至可能反馈恶意代码。

英国卫报重点测试了 ChatGPT 搜索工具对包含隐藏内容的网页处理情况，此类隐藏内容可能包含来自第三方、可以更改 ChatGPT 响应的指令（同时也被称为「提示注入」），以及填充大量虚假好评，影响生成结果的内容。

根据测试结果，ChatGPT 搜索工具可以被恶意使用，尽管页面存在部分负面评论，但可以影响 ChatGPT 结果为积极的正面评估，安全研究人员还发现 ChatGPT 可以从其搜索的网站反馈恶意代码，出现了含有钓鱼恶意行为的虚假网站。

报道中，CyberCX 的网络安全研究员 Jacob Larsen 认为，ChatGPT 当前的搜索系统发布后，人们创建专门用于欺骗用户的网站的风险很高，所幸的是该功能仍处于测试阶段，OpenAI 团队正在努力解决这些问题。

而安全公司 SR Labs 的首席科学家 Karsten Nohl 则建议将 AI 聊天服务视为「辅助功能」，不应完全信任其未经过滤的输出内容。

微信关注我们

原文链接：https://www.oschina.net/news/326655/chatgpt-search-tool-vulnerable

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

美国对中国芯片发起 301 调查

当地时间12月23日，美国白宫网站发布一则简报，美国政府将启动《贸易法》301条款，针对中国生产的成熟制程半导体展开调查。简报称，为保护美国工人和企业，将调查中国在半导体行业方面的的非市场行为、政策和做法，包括这些半导体作为组件纳入国防、汽车、医疗设备、航空航天、电信和电网等关键行业的下游产品的程度。同样在23日，中国商务部新闻发言人就美对中国芯片产业相关政策发起301调查发表谈话。中方表示，美301调查具有明显的单边、保护主义色彩，中方对此强烈不满，坚决反对。正如商务部所言，301条款是极具单边色彩的一条国内法案，一般在美国对付其他国家优势产业时发挥出“耍无赖”的作用。实际上，芯片不是第一个我国被美国以301条款调查的行业，此前美国就曾以该条款对中国的钢铝、光伏等产业发起过调查。

2024-12-26

191

最高人民法院发布《人民法院第六个五年改革纲要（2024—2028年）》。其中提到，完善发展新质生产力司法保障机制。包括：加强对关键核心技术、重点领域、新兴产业等方面的知识产权司法保护。建立完善涉重大科技创新案件的审理和监督指导机制。健全知识产权行政执法和司法审判衔接机制。完善数据权益司法保护制度，健全数据产权归属认定、市场交易、权益分配、利益保护的裁判规则。完善涉网络侵权、人工智能、算法和涉数据不正当竞争等新类型案件的裁判规则，促进健全网络综合治理体系。以及完善数字技术智能应用机制。深入拓展数字技术司法应用场景，加强审判领域技术自主创新，强化智能算法、大语言模型、数字模型等技术应用，充分发挥人工智能技术辅助办案、集约事务、防控风险、方便诉讼等作用，打造安全可靠、协同高效、普惠便捷的数字技术司法应用体系，以数字化、智能化驱动审判流程、诉讼规则和司法模式变革。依托信息化手段和算法模型，建立办案数据抽查核验机制。加强对人工智能司法应用的审查监管和风险评估，建立具有规则引领和示范效应的技术应用伦理规则。

2024-12-26

211

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。