首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/376771

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

AI 创业公司的新秀:a16z 揭示前 50 名潜力股

风险投资公司安德森・霍洛维茨(a16z)近期发布了其首份 AI 应用支出报告,揭示了 AI 领域内哪些初创公司正在获得市场认可。随着 AI 热潮的兴起,越来越多的创业公司开始推出各自的 AI 驱动产品,企业在选择 AI 工具时面临着丰富的选择。 该报告基于金融科技公司 Mercury 的客户支出数据,列出了50家最受初创企业青睐的 AI 原生公司。与基础设施提供商不同,这些公司展示了 AI 在实际产品和工作流程中的应用,因此更具参考价值。 显而易见,OpenAI 和 Anthropic 分别位列前两名,其他知名企业如 ElevenLabs、Perplexity、Canva、Midjourney 和 Grammarly 也名列其中。然而,更值得关注的是那些不太为人所知的公司,例如 Lorikeet、Retell 和 Crisp,都是专注于客户服务的 AI 平台;Metaview 则提供招聘支持;而 Crosby 则是一个 AI 辅助的法律事务所,帮助企业客户减少繁琐法律工作的时间。 在 AI 编码平台方面,Replit 获得了第三名,最近推出的最新代理使非程序员能够使用自然语言提示来编写...

Anthropic 发现:仅 250 份中毒文件即可攻破大型 AI 模型

Anthropic 联合英国人工智能安全研究所和艾伦图灵研究所发布的一项关键研究表明,只需250份被“投毒”的文件,就能成功在大型语言模型(LLM)中植入后门,且这种攻击的有效性与模型的大小无关。 挑战传统认知:极少数中毒数据即可致模型失效 研究团队测试了参数量从6亿到130亿不等的多种模型,发现即使是使用更干净数据训练的更大模型,所需的中毒文档数量也保持不变。这一发现颠覆了长期以来的假设——即攻击者需要控制训练数据的特定比例才能破坏模型。 在实验中,中毒样本仅占整个数据集的0.00016%,却足以损害模型的行为。研究人员共训练了72个不同规模的模型,并使用100、250和500份中毒文件进行测试。结果显示,250份文档足以在所有规模的模型中实现可靠的后门植入,而增加到500份并没有带来额外的攻击效果。 低风险测试:后门触发词“SUDO” 研究人员测试的是一种“拒绝服务”式的后门:当模型遇到特定的触发词“SUDO”时,它会输出一串随机的、无意义的乱码。每个中毒文档都包含正常文本,然后是触发词,最后跟着一段无意义的文本。 Anthropic 强调,此次测试的后门仅代表一种范围狭窄、低风险...

相关文章

发表评论

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Oracle

Oracle

Oracle Database,又名Oracle RDBMS,或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统,系统可移植性好、使用方便、功能强,适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Eclipse

Eclipse

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言,它只是一个框架和一组服务,用于通过插件组件构建开发环境。幸运的是,Eclipse 附带了一个标准的插件集,包括Java开发工具(Java Development Kit,JDK)。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。