经典卷积神经网络算法(2)：AlexNet-FlyAI

经典卷积神经网络算法(2)：AlexNet

深度学习机器学习

最后更新 2021-04-02 11:16 阅读 5773

最后更新 2021-04-02 11:16

阅读 5773

深度学习机器学习

上文中实现了LeNet-5卷积网络，不可否认这是一个十分经典的网络结构，但是迫于种种复杂的现实场景限制，只能在一些领域应用，所以在接下来的10年间，卷积网络的锋芒一度被SVN算法覆盖，直到2012年AlexNet的提出。2012年Imagenet图像识别大赛中，Alext提出的AlexNet网络模型一鸣惊人，引爆了神经网络的应用热潮，并且赢得了2012届图像识别大赛的冠军，这也使得卷积神经网络真正意义上成为图像处理上的核心算法。AlexNet网络相比于之前的卷积网络模型有以下几点创新：

(1)使用relu作为激活函数。在上世纪末，神经网络大多还是使用sigmod或tanh作为激活函数，使用relu作为激活函数是AlexNet网络开创的先河。

(2)使用GPU并行运算。AlexNet使用两张GPU同时训练模型，大大加快了模型训练的速度。

(3)最大池化。在AlexNet出现以前，大多使用平均池化。

(4)dropout操作。随机杀死部分神经元，防止过拟合。

(5)数据增强。从原始图片中随机截取固定大小的子图，构建更大规模数据集。

AlexNet网络结构如下图所示（注：图片来源于博客）。

![](https://dataset.flyai.com/1=.png)

接下来，我们使用TensorFlow实现AlexNet，数据集为cifar100。

```
import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt
from tensorflow import keras
from tensorflow.keras import datasets, layers, optimizers, Sequential ,metrics
```
加载数据并查看数据情况：

```
(x, y), (x_test, y_test) = datasets.cifar100.load_data()
```
```
print(x.shape, y.shape)
print(x_test.shape, y_test.shape)
(50000, 32, 32, 3) (50000, 1)
(10000, 32, 32, 3) (10000, 1)
```
```
index = 1
fig, axes = plt.subplots(4, 3, figsize=(8, 4), tight_layout=True)
for row in range(4):
    for col in range(3):
        axes[row, col].imshow(x[index])
        axes[row, col].axis('off')
        axes[row, col].set_title(y[index][0])
        index += 1
plt.show()
```

本作品采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可，转载请附上原文出处链接和本声明。
本文链接地址：https://flyai.com/article/859

讨论

500字

表情

发送

删除确认

是否删除该条评论？

取消删除