开源公告｜多模态内容理解算法框架 Lichee 开源

导语

Lichee是一个多模态内容理解算法框架项目，其中包含数据增强、预训练引擎、常见模型以及推理加速等模块。由腾讯看点内容算法研发中心研发。并于2021年在腾讯看点、腾讯视频、内容管线、QQ等业务场景均有落地，并平均减少标注样本量40%+。经过多次实践迭代，可以大幅缩短信息流内容理解需求的研发周期提升人效。此外，为QQ浏览器2021AI算法大赛-多模态视频相似度赛道提供baseline模型及代码。现将Lichee对外开源，为微服务开源社区贡献力量。

主要设计目标

1. 缩短信息流内容理解需求的研发周期

2. 集成AI领域的成熟解决方案

Lichee功能介绍以及适用场景

Lichee主框架采用分层的思想组织模型训练，通过配置文件组合 DATA、Parser、MODEL、Optimizer、Scheduler 等组件，构建具体的训练流程。此外，Lichee还提供了数据清理、推理加速等能力。

Lichee技术特点：

1. 性能优越的预训练引擎

提供了自研中文预训练模型，如LICHEE-NLG-ENGINE、LICHEE-RESNET-ENGINE等，免除训练中文预训练模型必须的大量资源和高质量语料库的限制。LICHEE/ShenZhou预训练模型先后于2021年1月8号和2021年9月19号登顶中文NLP权威榜单CLUE。相关技术创新在NLP顶会ACL 2021发表文章(https://arxiv.org/pdf/2108.00801.pdf)。

2. 基于配置化的模型训练

满足90%+业务场景仅通过配置即可完成模型训练任务。

3. 提供二次开发能力

提供了基于插件的二次开发能力，来满足更复杂的特殊业务场景。

4. 数据增强

为了进一步降低任务样本的数量，提供了数据增强插件，解决脏数据清洗和数据生成等方面的工作。

5. 能力插件

提供了更多的结构化能力插件，如词法分析工具LICHEE-LAC、句子相似度工具LICHEE-SIM、人脸识别工具LICHEE-Face等。

6. 推理加速

集成推理加速的能力，能够降低业务模型的实际部署成本。

Lichee项目规划

1. 扩充各领域的预训练模型

2. 扩充训练加速、推理加速能力

3. 兼容hugging face项目

4. 提升项目的易用性、开放性及效率

Lichee开源地址

https://github.com/Tencent/Lichee