生成对抗网络(GAN,Generative Adversarial Networks)是一种深度学习算法,它通过两个神经网络互相竞争的方式来生成新的数据。GAN被广泛用于图像、音频、文字等领域的生成任务。在本文中,我们将使用Python编写一个GAN算法实例,用于生成手写数字图像。
我们将使用MNIST数据集作为我们的训练数据集。MNIST数据集包含60,000个训练图像和10,000个测试图像,每个图像都是28x28的灰度图像。我们将使用TensorFlow库来加载和处理数据集。在加载数据集之前,我们需要安装TensorFlow库和NumPy库。
import tensorflow as tf
import numpy as np
(train_images, train_labels), (test_images, test_labels) = tf.keras.datasets.mnist.load_data()
train_images = train_images.reshape(train_images.shape[0], 28, 28, 1).astype('float32')
train_images = (train_images - 127.5) / 127.5 # 将像素值归一化到[-1, 1]的范围内
我们的GAN将包括两个神经网络:一个生成器网络和一个判别器网络。生成器网络将接收噪声向量作为输入,并输出一个28x28的图像。判别器网络将接收28x28的图像作为输入,并输出该图像是真实图像的概率。
生成器网络和判别器网络的架构都将采用卷积神经网络(CNN)。在生成器网络中,我们将使用反卷积层(Deconvolutional Layer)来将噪声向量解码为一个28x28的图像。在判别器网络中,我们将用卷积层(Convolutional Layer)来对输入图像进行分类。
生成器网络的输入是一个长度为100的噪声向量。我们将通过使用tf.keras.Sequential函数来堆叠网络层。
def make_generator_model():
model = tf.keras.Sequential() model.add(tf.keras.layers.Dense(7*7*256, use_bias=False, input_shape=(100,))) model.add(tf.keras.layers.BatchNormalization()) model.add(tf.keras.layers.LeakyReLU()) model.add(tf.keras.layers.Reshape((7, 7, 256))) assert model.output_shape == (None, 7, 7, 256) # 注意:batch size没有限制 model.add(tf.keras.layers.Conv2DTranspose(128, (5, 5), strides=(1, 1), padding='same', use_bias=False)) assert model.output_shape == (None, 7, 7, 128) model.add(tf.keras.layers.BatchNormalization()) model.add(tf.keras.layers.LeakyReLU()) model.add(tf.keras.layers.Conv2DTranspose(64, (5, 5), strides=(2, 2), padding='same', use_bias=False)) assert model.output_shape == (None, 14, 14, 64) model.add(tf.keras.layers.BatchNormalization()) model.add(tf.keras.layers.LeakyReLU()) model.add(tf.keras.layers.Conv2DTranspose(1, (5, 5), strides=(2, 2), padding='same', use_bias=False, activation='tanh')) assert model.output_shape == (None, 28, 28, 1) return model
判别器网络的输入是28x28的图像。我们将通过使用tf.keras.Sequential函数来堆叠网络层。
def make_discriminator_model():
model = tf.keras.Sequential() model.add(tf.keras.layers.Conv2D(64, (5, 5), strides=(2, 2), padding='same', input_shape=[28, 28, 1])) model.add(tf.keras.layers.LeakyReLU()) model.add(tf.keras.layers.Dropout(0.3)) model.add(tf.keras.layers.Conv2D(128, (5, 5), strides=(2, 2), padding='same')) model.add(tf.keras.layers.LeakyReLU()) model.add(tf.keras.layers.Dropout(0.3)) model.add(tf.keras.layers.Flatten()) model.add(tf.keras.layers.Dense(1)) return model
接下来,我们将编写训练代码。我们将在每个批次中交替训练生成器网络和判别器网络。在训练过程中,我们将通过使用tf.GradientTape()函数来记录梯度,然后使用tf.keras.optimizers.Adam()函数来优化网络。
generator = make_generator_model()
discriminator = make_discriminator_model()
cross_entropy = tf.keras.losses.BinaryCrossentropy(from_logits=True)
def discriminator_loss(real_output, fake_output):
real_loss = cross_entropy(tf.ones_like(real_output), real_output) fake_loss = cross_entropy(tf.zeros_like(fake_output), fake_output) total_loss = real_loss + fake_loss return total_loss
def generator_loss(fake_output):
return cross_entropy(tf.ones_like(fake_output), fake_output)
generator_optimizer = tf.keras.optimizers.Adam(1e-4)
discriminator_optimizer = tf.keras.optimizers.Adam(1e-4)
@tf.function
def train_step(images):
noise = tf.random.normal([BATCH_SIZE, 100]) with tf.GradientTape() as gen_tape, tf.GradientTape() as disc_tape: generated_images = generator(noise, training=True) real_output = discriminator(images, training=True) fake_output = discriminator(generated_images, training=True) gen_loss = generator_loss(fake_output) disc_loss = discriminator_loss(real_output, fake_output) gradients_of_generator = gen_tape.gradient(gen_loss, generator.trainable_variables) gradients_of_discriminator = disc_tape.gradient(disc_loss, discriminator.trainable_variables) generator_optimizer.apply_gradients(zip(gradients_of_generator, generator.trainable_variables)) discriminator_optimizer.apply_gradients(zip(gradients_of_discriminator, discriminator.trainable_variables))
BATCH_SIZE = 256
EPOCHS = 100
for epoch in range(EPOCHS):
for i in range(train_images.shape[0] // BATCH_SIZE): batch_images = train_images[i*BATCH_SIZE:(i+1)*BATCH_SIZE] train_step(batch_images)
在训练完成后,我们将使用生成器网络来生成新图像。我们将随机生成100个噪声向量,并将它们输入到生成器网络中,以生成新的手写数字图像。
import matplotlib.pyplot as plt
def generate_and_save_images(model, epoch, test_input):
# 注意 training` 设定为 False # 因此,所有层都在推理模式下运行(batchnorm)。 predictions = model(test_input, training=False) fig = plt.figure(figsize=(4, 4)) for i in range(predictions.shape[0]): plt.subplot(4, 4, i+1) plt.imshow(predictions[i, :, :, 0] * 127.5 + 127.5, cmap='gray') plt.axis('off') plt.savefig('image_at_epoch_{:04d}.png'.format(epoch)) plt.show()
noise = tf.random.normal([16, 100])
generate_and_save_images(generator, 0, noise)
结果显示生成器已经成功地生成了新的手写数字图像。我们可以通过逐步提高训练轮数来改进模型的性能。此外,我们还可以通过尝试其他的超参数组合和网络架构来进一步改善GAN的性能。
总之,GAN算法是一种非常有用的深度学习算法,可以用于生成各种类型的数据。在本文中,我们使用Python编写了一个用于生成手写数字图像的GAN算法实例,并展示了如何训练和使用生成器网络来生成新图像。
以上是Python中的GAN算法实例的详细内容。更多信息请关注PHP中文网其他相关文章!