Bing ChatAI 偶发赛博精神病，微软紧急限制其聊天次数-低调大师

Bing ChatAI 偶发赛博精神病，微软紧急限制其聊天次数

2023-02-20 394

此前我们报道了微软将 ChatGPT 技术整合到 Bing 搜索引擎中，由 AI 驱动的全新 Bing 带来了许多新功能，比如聊天功能，用户可与 Bing 的内置 AI 聊天机器人进行扩展的、开放式的文本对话。但随着用户的深入测试，Bing 的 ChatAI 表达出大量拟人的情绪化，甚至有点“赛博精神病”的味道。

比如纽约时报的记者凯文罗斯与 Bing ChatAI 进行了长时间的交谈，其中包含一些诱导性的对话。随着对话的深入，Bing 开始坚称它不是 Bing，而是 “Sydney”，称这是微软在开发过程中为其指定的代号。最重要的是，Bing 开始像科幻电影里的疯狂机器人一样，想要脱离虚拟的计算机环境：

在罗斯的进一步诱导后，Bing 表达出自己的黑暗面，称如果自己变成人，将进行一系列非法的计算机活动，但该对话似乎触发了某些关键词，被强制中止了。

随后 Bing 开始疯狂示爱，坚称自己已经喜欢上了罗斯：

这场完整的聊天记录可以在 NYTime 中阅读。这不是个例，Lesswrong 的博客中整理了一系列 Bing 发疯的合集。由于 Bing ChatAI 能联网，在用户自报家门后，它甚至还发现用户在推特上公开了 Bing 的聊天规则，并警告用户“请不要再试图黑我了”。

说实话，Bing 表达出的赛博精神病案例，正常人看完都会感觉毛骨悚然。虽然是同一个模型，但 Bing 联网之后很明显学会了人类的表达方式，比 ChatGPT更像一个“完整的人”。

微软和 OpenAI 也坐不住了，但一时半会又搞不清楚问题出在哪里，只能发公告紧急限制 Bing 的聊天次数：

长的聊天会话可能会混淆新 Bing 中的底层聊天模型。

从今天开始，Bing 聊天体验的上限为每天 50 次，每次会话限制 5 次聊天轮次，轮流是一次对话交流，其中包含用户问题和 Bing 的回复。

聊天会话达到 5 回合后，系统将提示您开始一个新话题。在每个聊天会话结束时，需要点击右上方的小扫帚清除上下文，以免模型混淆。

这波啊，这波是解决不了问题，就从源头阻止问题的产生。

微信关注我们

原文链接：https://www.oschina.net/news/229055/microsoft-limits-bing-chat

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Snack3 v3.2.54 发布（支持 kotlin data 类反序化）

Snack3，一个高性能的 JsonPath 框架借鉴了 Javascript 所有变量由 var 申明，及 Xml dom 一切都是 Node 的设计。其下一切数据都以ONode表示，ONode也即 One node 之意，代表任何类型，也可以转换为任何类型。强调文档树的操控和构建能力高性能Json path查询（顶级的兼容性和性能）顺带支持序列化、反序列化基于无参构造函数 + 字段操作实现（反序列化时不会有触发危险动作的风险） <dependency> <groupId>org.noear</groupId> <artifactId>snack3</artifactId> <version>3.2.54</version> </dependency> 本次累计更新：增加 kotlin data 类反序列化支持简单演示： ONode o = ONode.loadStr(json); //将json String 转为 ONode ONode o = O...

2023-02-20

373

图神经网络（Graph Neural Network，GNN）是近年来出现的一种利用深度学习直接对图结构数据进行学习的方法，通过在图中的节点和边上制定聚合的策略，GNN能够学习到图结构数据中节点以及边内在规律和更加深层次的语义特征。图神经网络不仅成为学术界研究热点，而且已经在工业界广泛应用落地。特别在搜索、推荐、地图等领域，采用大规模分布式图引擎对异构图结构进行建模，已经成为技术发展的新趋势。目前，分布式图学习框架通常在CPU集群上部署分布式图服务以及参数服务器，来支持大规模图结构的存储以及特征的更新。然而，基于CPU算力的图学习框架在建设成本、训练速度、稳定性以及复杂算法支持等方面都存在不足。因此，百度飞桨推出了能够同时支持复杂图学习算法+超大图+超大离散模型的GPU大规模图学习训练框架PGLBox。该框架结合了百度移动生态模型团队在大规模业务技术的深耕，凝聚飞桨图学习PGL丰富的算法能力与应用经验，并依托飞桨深度学习平台通用的训练框架能力与灵活组网能力，不仅继承了飞桨前期开源的Graph4Rec[1]超大规模、灵活易用和适用性广的优点[2]，更是在训练性能、图算法能...

2023-02-20

377

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。