揭开AI部署神秘面纱：在云端和边缘
如今，有两种可能的深度学习技术部署：直接在设备上在云端和边缘。 由于对处理能力和内存消耗的广泛需求以及AI模型的规模，这些部署中的大多数依赖于云。尽管云部署使AI可以从高性能计算系统的功能中受益，但挑战依然存在。需要将数据从设备来回发送到云以进行处理会引起隐私问题，并且由于延迟，带宽和连接性而存在限制。 这促使业界专注于边缘AI的开发，这是我在上一篇文章中谈到的主题。这些工作主要围绕引入用于训练AI模型的新方法进行，这些方法可以减少占用空间，因此可以将这些模型直接部署在边缘设备上。 边缘AI将通过使智能设备实时做出真正自主的决策来解决深度云的不足，从而促进深度学习。具体而言，这将消除了将所有数据连续发送到云或从云连续发送的需要，从而改善了隐私，带宽和延迟限制。此外，新兴的边缘AI部署方法极大地提高了速度，功耗和内存消耗，从而可以降低成本并限制对环境的影响。 一个人的利益不能被另一个人完全取代;因此，最具影响力的现实世界AI部署将是采用混合方法的部署：在云中和边缘。但是混合方法是什么样的呢? 混合部署的免费工作流可获得更好的结果 第一步是通过确定必须实时在边缘进行决策的用例，并通过可在云...
