210 万 token 免费测试星火大模型 V3.5,试用还有个人云盘可领!
10 万 token 能做什么?写一篇行业分析报告,翻译一章外国小说,又或是畅聊情感话题,解答一个复杂问题…… 在大模型世界,"token"是一个常用的度量单位。一个 token 通常代表一个文本单元,通常一个英文单词、一个标点符号就是一个 token。在自然语言处理(NLP)中,一个 token 可以是任何可以独立识别的字符串单元。 对 token 数量的支持可以在一定程度上反映大模型的能力。一般来说,token 数量越多,模型能够处理的语义单位就越多,理论上其对语言的理解也就越细致。这意味着模型可以更好地理解和生成更复杂的文本,包括更专业的术语和更细腻的情感表达。目前最新版 GPT-4 Turbo 模型最高支持 128k token 上下文。 而不久前刚发布的讯飞星火 V3.5 也实现了长文本能力全新升级,在多个垂直领域的知识问答任务上,星火大模型长文本总体水平已经超过GPT-4 Turbo。此外,通过“剪枝”和“蒸馏”技术,讯飞推出了业界最高性能的13B,130亿的模型来处理长文本。在效果损失仅3%以内的情况下,使文档上传解析、知识问答的首响时间以及文字生成上获得极大效率提升,在...