树莓派NCNN环境搭建

前言

镜像已经做好了，传到百度网盘中了（请大家及时保存，不定期删除！）

链接: https://pan.baidu.com/s/1fhiX86L8iL8tsLbsiVa6Wg 密码: e64s

SD卡要求：至少16GB，板卡型号为树莓派3B+（其他型号未知）

板卡介绍

本系列教程采用树莓派3B+开发板：

板卡特点：

• 1.4GHz 64位4核 ARM Cortex-A53 CPU
• 双频 802.11ac 无线网卡和蓝牙 4.2
• 更快的以太网（千兆以太网 over USB 2.0）
• 1G LPDDR2
• PoE 支持（Power-over-Ethernet，with PoE HAT）
• 改进 PXE 网络与 USB 大容量存储启动

说在前面

因为NCNN的部署是不依赖任何第三方库的，所以在模型部署的过程中，只需要了解CMake编译工程的步骤。具体详见CMake 入门实践

下载ResNet-50模型

caffe model zoo中有对应的各种不同版本的训练好的model,因为是部署，所以我们需要的仅仅是对应的caffemodel文件和deploy.prototxt文件。

NCNN 简介

ncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。ncnn 从设计之初深刻考虑手机端的部署和使用。无第三方依赖，跨平台，手机端 cpu 的速度快于目前所有已知的开源框架。基于 ncnn，开发者能够将深度学习算法轻松移植到手机端高效执行，开发出人工智能 APP，将 AI 带到你的指尖。ncnn 目前已在腾讯多款应用中使用，如 QQ，Qzone，微信，天天P图等。
ncnn与同类框架对比：

CMake 入门实践

什么是 CMake

你或许听过好几种 Make 工具，例如 GNU Make ，QT 的 qmake ，微软的 MS nmake，BSD Make（pmake），Makepp，等等。这些 Make 工具遵循着不同的规范和标准，所执行的 Makefile 格式也千差万别。这样就带来了一个严峻的问题：如果软件想跨平台，必须要保证能够在不同平台编译。而如果使用上面的 Make 工具，就得为每一种标准写一次 Makefile ，这将是一件让人抓狂的工作。
CMake就是针对上面问题所设计的工具：它首先允许开发者编写一种平台无关的 CMakeList.txt 文件来定制整个编译流程，然后再根据目标用户的平台进一步生成所需的本地化 Makefile 和工程文件，如 Unix 的 Makefile 或 Windows 的 Visual Studio 工程。从而做到“Write once, run everywhere”。显然，CMake 是一个比上述几种 make 更高级的编译配置工具。一些使用 CMake 作为项目架构系统的知名开源项目有 VTK、ITK、KDE、OpenCV、OSG 等。
在 linux 平台下使用 CMake 生成 Makefile 并编译的流程如下：

• 编写 CMake 配置文件 CMakeLists.txt 。
• 执行命令 cmake PATH 或者 ccmake PATH 生成 Makefile。其中， PATH 是 CMakeLists.txt 所在的目录。
• 使用 make 命令进行编译。

PyTorch 60分钟入门

PyTorch简介

这是一个基于Python的科学计算包，主要针对两类人群：

• 替代Numpy以发挥GPU的强大能力
• 一个提供最大灵活性和速度的深度学习研究平台

Tensorpack架构

• DataFlow是一个用于在Python中高效地加载数据的库。除了DataFlow之外，本地TF运营商也可以用于数据加载。它们最终将被封装在相同的InputSource接口下并进行预取。
• 可以使用任何基于TF的符号函数库来定义模型，其中包括tensorpack中的一小组函数。 ModelDesc是连接模型的接口和InputSource的接口。
• Tensorpack的Trainers用于管理训练过程中的循环迭代。它们还包括用于多GPU或分布式训练的数据并行逻辑。同时，也拥有很强大的定制能力。
• Callbacks就像tf.train.SessionRunHook或者plugins。在训练过程中，除了主迭代以外，您想要做的所有事情都可以通过回调进行定义并轻松重用。
• 所有组件尽管完美地结合在一起，但都具有高度的去相关性：您可以：
  • 单独使用DataFlow作为数据加载库，根本不用tensorfow。
  • 使用tensorpack构建具有多GPU或分布式支持的图结构，然后使用自己的循环进行训练。
  • 自行构建图形，并使用tensorpack回调进行训练。

DCGAN简介

DCGAN在GAN的基础上优化了网络结构，加入了 conv，batch_norm 等层，使得网络更容易训练，网络结构如下：

注意：本图只是示例，与下面实际网络参数不对应。

生成对抗网络简介

生成对抗网络（GAN）启发自博弈论中的二人零和博弈（two-player game），类似于周伯通的绝学——“左右互搏”。GAN 模型中的两位博弈方分别由生成式模型（generative model）和判别式模型（discriminative model）充当。生成模型 G 捕捉样本数据的分布，用服从某一分布（均匀分布，高斯分布等）的噪声 z 生成一个类似真实训练数据的样本，追求效果是越像真实样本越好；判别模型 D 是一个二分类器，估计一个样本来自于训练数据（而非生成数据）的概率，如果样本来自于真实的训练数据，D 输出大概率，否则，D 输出小概率。可以做如下类比：生成网络 G 好比假币制造团伙，专门制造假币，判别网络 D 好比警察，专门检测使用的货币是真币还是假币，G 的目标是想方设法生成和真币一样的货币，使得 D 判别不出来，D 的目标是想方设法检测出来 G 生成的假币。随着训练时间的增加，判别模型与生成模型的能力都相应的提升！

具体生成网络的示意图如下所示：

LSTM 简介

公式 LSTM

LSTM作为门控循环神经网络因此我们从门控单元切入理解。主要包括：

• 输入门：It
• 遗忘门：Ft
• 输出门：Ot
• 候选细胞：~Ct
• 细胞：Ct
• 隐含状态：Ht

假设隐含状态长度为h，数据Xt是一个样本数为n、特征向量维度为x的批量数据，其计算如下所示（W和b表示权重和偏置）：

最后的输出其实只有两个，一个是输出，一个是状态，输出就是Ht，而状态为(Ct,Ht)，其他都是中间计算过程。[^2]

多层感知机的Tensorboard可视化

1
2
3

from __future__ import print_function

import tensorflow as tf

导入数据集

1
2
3

# Import MNIST data
from tensorflow.examples.tutorials.mnist import input_data
mnist = input_data.read_data_sets("./data/", one_hot=True)

Extracting ./data/train-images-idx3-ubyte.gz
Extracting ./data/train-labels-idx1-ubyte.gz
Extracting ./data/t10k-images-idx3-ubyte.gz
Extracting ./data/t10k-labels-idx1-ubyte.gz