大模型在问答领域的探索和实践
随着大模型应用持续火热,应用门槛也越来越低,去年底开始我们利用少部分精力做了一些 AI 探索和实践,并完成了业务所在垂直领域答疑机器人产品的上线。这里主要从普通使用者的视角,把一边学习一边实践的过程记录下来,和大家一起学习交流。 本文定位无门槛。本文受众主要是入门玩家,但对大模型感兴趣想做一些小工具,或者在平常的业务工作中希望使用大模型来提效的读者。 背景 当前大模型的应用还是处于比较初期的阶段,以物流领域常见场景为例,可以看到一些行业常见要求和当前大模型能力有较多冲突,在这些业务生产环境应用之前,我们还是希望先在容错性较高的场景进行一些实践。因此我们尝试基于大模型来优化答疑机器人,为后续更多的深度应用积累实践经验。(下面的示例图片由大模型生成,仅供参考) ▐传统答疑机器人的痛点 在大模型崛起之前,传统答疑机器人一般有两种模式: 1. 基于多级目录分类,让用户慢慢翻到想了解的知识。 2. 基于传统关键词检索方式,根据用户提问,在知识库中找到和用户提问相关的知识。 核心痛点是,不能快速准确找到用户想寻找的答案。 ▐我们的目标 由于我们答疑机器人受众不是C端普通用户,而是内部作业人员,因此...

