知识蒸馏

网络压缩三:知识蒸馏

知识蒸馏的方法是大名鼎鼎的Hinton提出的,这种方法实现了大网络向小网络的知识迁移,使得应用场景可以扩展到移动端。本文我们具体看看知识蒸馏的整个过程。