中国人工智能学会通讯——构建强健的人工智能:原因及方式 4. 检测异常
4. 检测异常 首先,我们可以检测到模型里的缺陷。或许我们不能修正它们,但是至少可以检测出来。如果能检测到模型里的某个异常,那么就可以寻求用户的帮助,或者可以采取一些我们认为比机器学习到的更安全的措施。 比如,我们可以监测预测类别的分布。试想一下,我们在做手写字符的识别系统,在英语里,我们知道字符是有一定分布频率的:最常见的英语字符是E,第二常见的是T,等等。我们可以观察一下模型的分类器的结果,对比预测的分布,如果两者相差很大,那么很可能是出了问题。 另一种方法是马尔科夫决策过程。举个例子,如果我们正在玩游戏,并希望达到某个目标,那么我们玩的时间越长,离达成目标的距离就越近。 比如,这是我们的预期价值函数,是解决问题的步骤。通常情况下,我们在玩游戏或者按计划执行时是在朝上走的,最大限度地让价值最大化。当然,当我们做的不好时,可以看到有些曲线的轨迹并不是朝上走,看起来就像我们脱离了轨道,这或许意味着我们的模型存在一些问题。 另外一件可以做的事就是监测辅助规律。Hermansky 写过一篇很有意思的论文,是关于语音识别里的未知的未知。在做语音识别时,你可以为不同的频段,比如低频、中频、高频...