多层感知机——使用Gluon

下面我们使用Gluon来实现上一节中的多层感知机。导入所需的包或模块。

In [1]:
import sys
sys.path.append('..')
import gluonbook as gb
from mxnet import autograd, gluon, init, nd
from mxnet.gluon import loss as gloss, nn

定义模型

和Softmax回归唯一的不同在于,我们多加了一个全连接层作为隐藏层。我们指定了该层的隐藏单元个数为256,并使用ReLU作为激活函数。

In [2]:
net = nn.Sequential()
net.add(nn.Dense(256, activation='relu'))
net.add(nn.Dense(10))
net.add(nn.Dense(10))
net.initialize(init.Normal(sigma=0.01))

读取数据并训练模型

我们使用和训练Softmax回归几乎相同的步骤来读取数据并训练模型。

In [3]:
batch_size = 256
train_iter, test_iter = gb.load_data_fashion_mnist(batch_size)

loss = gloss.SoftmaxCrossEntropyLoss()
trainer = gluon.Trainer(net.collect_params(), 'sgd', {'learning_rate': 0.5})
num_epochs = 5
gb.train_cpu(net, train_iter, test_iter, loss, num_epochs, batch_size,
             None, None, trainer)
epoch 1, loss 2.3770, train acc 0.173, test acc 0.100
epoch 2, loss 2.2008, train acc 0.154, test acc 0.219
epoch 3, loss 2.0370, train acc 0.220, test acc 0.174
epoch 4, loss 1.4907, train acc 0.398, test acc 0.256
epoch 5, loss 1.3796, train acc 0.419, test acc 0.618

小结

  • 通过Gluon我们可以更方便地构造多层感知机。

练习

  • 尝试多加入几个隐藏层,对比上节中从零开始的实现。
  • 使用其他的激活函数,看看对结果的影响。

扫码直达讨论区