Cara menggunakan PyTorch untuk latihan rangkaian saraf
Pengenalan:
PyTorch ialah rangka kerja pembelajaran mesin sumber terbuka berdasarkan Python Kefleksibelan dan kesederhanaannya menjadikannya pilihan pertama ramai penyelidik dan jurutera. Artikel ini akan memperkenalkan anda kepada cara menggunakan PyTorch untuk latihan rangkaian saraf dan memberikan contoh kod yang sepadan.
1. Pasang PyTorch
Sebelum bermula, anda perlu memasang PyTorch terlebih dahulu. Anda boleh memilih versi yang sesuai untuk sistem pengendalian dan perkakasan anda untuk dipasang melalui panduan pemasangan yang disediakan di tapak web rasmi (https://pytorch.org/). Setelah dipasang, anda boleh mengimport perpustakaan PyTorch dalam Python dan mula menulis kod.
2. Bina model rangkaian saraf
Sebelum menggunakan PyTorch untuk melatih rangkaian saraf, anda perlu membina model yang sesuai. PyTorch menyediakan kelas yang dipanggil torch.nn.Module
, yang boleh anda warisi untuk menentukan model rangkaian saraf anda sendiri. torch.nn.Module
的类,您可以通过继承该类来定义自己的神经网络模型。
下面是一个简单的例子,展示了如何使用PyTorch构建一个包含两个全连接层的神经网络模型:
import torch import torch.nn as nn class Net(nn.Module): def __init__(self): super(Net, self).__init__() self.fc1 = nn.Linear(in_features=784, out_features=256) self.fc2 = nn.Linear(in_features=256, out_features=10) def forward(self, x): x = x.view(x.size(0), -1) x = self.fc1(x) x = torch.relu(x) x = self.fc2(x) return x net = Net()
在上面的代码中,我们首先定义了一个名为Net的类,并继承了torch.nn.Module
类。在__init__
方法中,我们定义了两个全连接层fc1
和fc2
。然后,我们通过forward
方法定义了数据在模型中前向传播的过程。最后,我们创建了一个Net的实例。
三、定义损失函数和优化器
在进行训练之前,我们需要定义损失函数和优化器。PyTorch提供了丰富的损失函数和优化器的选择,可以根据具体情况进行选择。
下面是一个示例,展示了如何定义一个使用交叉熵损失函数和随机梯度下降优化器的训练过程:
loss_fn = nn.CrossEntropyLoss() optimizer = torch.optim.SGD(net.parameters(), lr=0.01)
在上面的代码中,我们将交叉熵损失函数和随机梯度下降优化器分别赋值给了loss_fn
和optimizer
变量。net.parameters()
表示我们要优化神经网络模型中的所有可学习参数,lr
参数表示学习率。
四、准备数据集
在进行神经网络训练之前,我们需要准备好训练数据集和测试数据集。PyTorch提供了一些实用的工具类,可以帮助我们加载和预处理数据集。
下面是一个示例,展示了如何加载MNIST手写数字数据集并进行预处理:
import torchvision import torchvision.transforms as transforms transform = transforms.Compose([ transforms.ToTensor(), transforms.Normalize((0.5,), (0.5,)), ]) train_set = torchvision.datasets.MNIST(root='./data', train=True, download=True, transform=transform) train_loader = torch.utils.data.DataLoader(train_set, batch_size=32, shuffle=True) test_set = torchvision.datasets.MNIST(root='./data', train=False, download=True, transform=transform) test_loader = torch.utils.data.DataLoader(test_set, batch_size=32, shuffle=False)
在上面的代码中,我们首先定义了一个transform
变量,用于对数据进行预处理。然后,我们使用torchvision.datasets.MNIST
类加载MNIST数据集,并使用train=True
和train=False
参数指定了训练数据集和测试数据集。最后,我们使用torch.utils.data.DataLoader
类将数据集转换成一个可以迭代的数据加载器。
五、开始训练
准备好数据集后,我们就可以开始进行神经网络的训练。在一个训练循环中,我们需要依次完成以下步骤:将输入数据输入到模型中,计算损失函数,反向传播更新梯度,优化模型。
下面是一个示例,展示了如何使用PyTorch进行神经网络训练:
for epoch in range(epochs): running_loss = 0.0 for i, data in enumerate(train_loader): inputs, labels = data optimizer.zero_grad() outputs = net(inputs) loss = loss_fn(outputs, labels) loss.backward() optimizer.step() running_loss += loss.item() if (i+1) % 100 == 0: print('[%d, %5d] loss: %.3f' % (epoch+1, i+1, running_loss/100)) running_loss = 0.0
在上面的代码中,我们首先使用enumerate
函数遍历了训练数据加载器,得到了输入数据和标签。然后,我们将梯度清零,将输入数据输入到模型中,计算预测结果和损失函数。接着,我们通过backward
方法计算梯度,再通过step
方法更新模型参数。最后,我们累加损失,并根据需要进行打印。
六、测试模型
训练完成后,我们还需要测试模型的性能。我们可以通过计算模型在测试数据集上的准确率来评估模型的性能。
下面是一个示例,展示了如何使用PyTorch测试模型的准确率:
correct = 0 total = 0 with torch.no_grad(): for data in test_loader: inputs, labels = data outputs = net(inputs) _, predicted = torch.max(outputs.data, 1) total += labels.size(0) correct += (predicted == labels).sum().item() accuracy = 100 * correct / total print('Accuracy: %.2f %%' % accuracy)
在上面的代码中,我们首先定义了两个变量correct
和total
,用于计算正确分类的样本和总样本数。接着,我们使用torch.no_grad()
rrreee
Dalam kod di atas, kami mula-mula mentakrifkan kelas bernama Net dan mewarisi daripada torch.nn. Modul
kelas. Dalam kaedah __init__
, kami mentakrifkan dua lapisan bersambung sepenuhnya fc1
dan fc2
. Kemudian, kami mentakrifkan proses penyebaran data ke hadapan dalam model melalui kaedah forward
. Akhir sekali, kami mencipta contoh Net.
3. Tentukan fungsi kehilangan dan pengoptimum
Sebelum latihan, kita perlu menentukan fungsi kehilangan dan pengoptimum. PyTorch menyediakan pelbagai pilihan fungsi kehilangan dan pengoptimum, yang boleh dipilih mengikut keadaan tertentu.loss_fn
dan optimizer
diberikan. net.parameters()
menunjukkan bahawa kami ingin mengoptimumkan semua parameter yang boleh dipelajari dalam model rangkaian saraf dan parameter lr
menunjukkan kadar pembelajaran. torchvision.datasets.MNIST
dan menentukan data latihan menggunakan parameter train=True
dan train=False
set dan set data ujian. Akhir sekali, kami menggunakan kelas torch.utils.data.DataLoader
untuk menukar set data kepada pemuat data boleh lelar. 🎜🎜5. Mulakan latihan🎜Selepas menyediakan set data, kita boleh mula melatih rangkaian saraf. Dalam gelung latihan, kita perlu melengkapkan langkah berikut mengikut urutan: memasukkan data input ke dalam model, mengira fungsi kehilangan, merambat belakang kecerunan yang dikemas kini dan mengoptimumkan model. 🎜🎜Berikut ialah contoh yang menunjukkan cara menggunakan PyTorch untuk latihan rangkaian saraf: 🎜rrreee🎜Dalam kod di atas, kami mula-mula melintasi pemuat data latihan menggunakan fungsi enumerate
untuk mendapatkan data input dan Label. Kami kemudiannya mensifarkan kecerunan, memasukkan data input ke dalam model, dan mengira ramalan dan fungsi kehilangan. Seterusnya, kami mengira kecerunan melalui kaedah undur
dan kemudian mengemas kini parameter model melalui kaedah step
. Akhirnya, kami mengumpul kerugian dan mencetaknya mengikut keperluan. 🎜🎜 6. Uji model 🎜Selepas latihan selesai, kita masih perlu menguji prestasi model. Kita boleh menilai prestasi model dengan mengira ketepatannya pada set data ujian. 🎜🎜Berikut ialah contoh yang menunjukkan cara menguji ketepatan model menggunakan PyTorch: 🎜rrreee🎜Dalam kod di atas, kami mula-mula mentakrifkan dua pembolehubah torch.no_grad()
untuk mematikan pengiraan kecerunan, dengan itu mengurangkan penggunaan memori. Kemudian, kami mengira hasil ramalan secara berurutan, mengemas kini bilangan sampel yang dikelaskan dengan betul dan jumlah bilangan sampel. Akhir sekali, ketepatan dikira berdasarkan bilangan sampel yang dikelaskan dengan betul dan jumlah bilangan sampel dan dicetak. 🎜🎜Ringkasan: 🎜Melalui pengenalan artikel ini, anda telah memahami langkah asas cara menggunakan PyTorch untuk latihan rangkaian saraf, dan mempelajari cara membina model rangkaian saraf, menentukan fungsi kehilangan dan pengoptimum, menyediakan set data, memulakan latihan dan menguji model. Saya harap artikel ini dapat membantu kerja dan kajian anda dalam menggunakan PyTorch untuk latihan rangkaian saraf. 🎜🎜Rujukan: 🎜🎜🎜Tapak web rasmi PyTorch: https://pytorch.org/🎜🎜Dokumentasi PyTorch: https://pytorch.org/docs/stable/index.html🎜🎜Atas ialah kandungan terperinci Cara menggunakan PyTorch untuk latihan rangkaian saraf. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!