GPTCache 悬赏令!寻找最佳捉虫猎手,豪华赏格等你来拿!
号外号外!GPTCache 全宇宙寻找最佳捉虫猎手!捉虫数量越多,奖品越丰厚! GPTCache 是为 AIGC 应用搭建的全新缓存,典型的应用场景是大模型,它采用语义缓存技术,能够存储 LLM 响应,从而显著减少检索数据所需的时间、降低 API 调用开销、提升应用可扩展性。不仅如此,用户还可以通过定制个性化缓存规则并监控缓存性能,进一步优化 GPTCache 并提升效率。 GPTCache 一经推出便吸引了全球各地的开发者前来申请和试用,Weaviate 的联合创始人也下场点赞介绍 CPTCache 功能的文章,而 GPTCache 也凭借其出色的能力,短短 3 个多月的时间 Star 数量就冲到了 4.8k。 最近,我们发布了 GPTCache 的新版本,本次新增了对 Redis、Qdrant 和 MongoDB 数据库的支持,以及更多的相似评估,例如:SBERT CrossEncoder/Cohere rerank/Multi-round dialog similarity 等。 当然,作为一个新的开源项目,GPTCache 仍有很大提升的空间,我们很希望能听到广大开发者的声音。...





