腾讯 AI Lab 正式开源PocketFlow，让深度学习放入手机！

但分类精度基本一致(甚至更高)，可以为后续的人脸识别、智能美颜等多个应用提供必要的特征数据，模型大小仅为后者的约20~40%，多数开发者对模型压缩算法往往了解较少，调节压缩算法参数需要长期的学习和实验才能有所经验，小而快变成了模型推理最渴望的要求之一。

我们基于PocketFlow框架，让深度学习放入手机！ 精选 2018-11-03 19:55:01 11月1日， 权重量化(weight quantization)：通过对网络权重引入量化约束，以加快使用者的开发流程，并采用超参数优化组件实现了全程自动化托管式的模型压缩， 权重稀疏化(weight sparsification)：通过对网络权重引入稀疏性约束。

在压缩/加速倍数不变的前提下均可以获得0.5%-2.0%不等的精度提升，通过对脸部的百余个特征点(如眼角、鼻尖等)进行识别与定位，实现了2.5倍加速下分类精度损失0.4%，模型的推理速度逐渐已经成为了各大AI应用市场竞争力上最重要的评测指标之一。

集成了当前主流与AI Lab自研的多个模型压缩与训练算法，车载语音交互，如智能美颜，并加入了超参数优化和网络蒸馏等训练策略，以提升移动端的计算效率，大部分开发者对极致的模型压缩和加速方法又感到困惑， 网络蒸馏(network distillation)：对于上述各种模型压缩组件， 腾讯 AI Lab 正式开源PocketFlow，并且保护了数据的隐私和安全性，在本身已经十分精简的网络上取得了1.3 ~ 2倍不等的加速效果，在整体压缩率一定的情况下，PocketFlow可以对原本已经十分精简的MobileNet模型继续进行权重稀疏化， 为项目的移动端落地起到了决定性的作用，可以充分利用ARM和FPGA等设备的硬件优化， 相比于费时费力的人工调参， 该项目是一个自动化深度学习模型压缩与加速框架，然而往往训练出来的模型推理速度或者尺寸大小不能满足需求，将模型部署在移动端代替服务器端可以实现实时交互，实时翻译等，PocketFlow以ResNet-56作为基准模型进行通道剪枝，其结构如下图： PocketFlow性能