每日一博 | GPU 在外卖场景精排模型预估中的应用实践
GPU等专用芯片以较低的成本提供海量算力,已经成为机器学习领域的核心利器,在人工智能时代发挥着越来越重要的作用。如何利用GPU这一利器赋能业务场景,是很多技术研发者都要面临的问题。本文分享了美团外卖搜索/推荐业务中模型预估的GPU架构设计及落地的过程,希望能对从事相关应用研发的同学有所帮助或启发。 1 前言 近些年,随着机器学习技术的蓬勃发展,以GPU为代表的一系列专用芯片以优越的高性能计算能力和愈发低廉的成本,在机器学习领域得到广泛认可和青睐,且与传统的CPU体系不断融合,形成了新的异构硬件生态。 在这种技术浪潮之中,很多技术研发者会面临着这样的问题:在我们的业务上应用GPU硬件能获得什么?如何快速、平滑地从传统CPU体系基础上完成切换?站在机器学习算法设计的角度,又会带来什么影响和改变?在GPU生态下众多的技术路线和架构选型中,如何找到一条最适合自身场景的路径? 美团外卖搜索推荐团队,也面临着类似的挑战和问题。本文我们会分享美团外卖搜索/推荐业务中,模型预估的GPU架构设计与落地过程,并将一些技术细节和测试数据做了详尽的披露,希望能为广大的技术同行提供一些有价值的参考。 2 背景 ...

