生成對抗網路(GAN,Generative Adversarial Networks)是一種深度學習演算法,它透過兩個神經網路互相競爭的方式來產生新的資料。 GAN被廣泛用於圖像、音訊、文字等領域的生成任務。在本文中,我們將使用Python編寫一個GAN演算法實例,用於產生手寫數位影像。
我們將使用MNIST資料集作為我們的訓練資料集。 MNIST資料集包含60,000個訓練影像和10,000個測試影像,每個影像都是28x28的灰階影像。我們將使用TensorFlow庫來載入和處理資料集。在載入資料集之前,我們需要安裝TensorFlow庫和NumPy庫。
import tensorflow as tf
import numpy as np
(train_images, train_labels), (test_images, test_labels) = tf.keras.datasets.mnist.load_data()
train_images = train_images.reshape(train_images.shape[0], 28, 28, 1).astype('float32')
train_images = (train_images - 127.5) / 127. # 將像素值歸一化到[-1, 1]的範圍內
我們的GAN將包括兩個神經網路:一個生成器網路和一個判別器網路。生成器網路將接收雜訊向量作為輸入,並輸出一個28x28的影像。判別器網路將接收28x28的影像作為輸入,並輸出該影像是真實影像的機率。
生成器網路和判別器網路的架構都將採用卷積神經網路(CNN)。在生成器網路中,我們將使用反捲積層(Deconvolutional Layer)來將雜訊向量解碼為一個28x28的影像。在判別器網路中,我們將以卷積層(Convolutional Layer)來對輸入影像進行分類。
生成器網路的輸入是長度為100的雜訊向量。我們將透過使用tf.keras.Sequential函數來堆疊網路層。
def make_generator_model():
model = tf.keras.Sequential() model.add(tf.keras.layers.Dense(7*7*256, use_bias=False, input_shape=(100,))) model.add(tf.keras.layers.BatchNormalization()) model.add(tf.keras.layers.LeakyReLU()) model.add(tf.keras.layers.Reshape((7, 7, 256))) assert model.output_shape == (None, 7, 7, 256) # 注意:batch size没有限制 model.add(tf.keras.layers.Conv2DTranspose(128, (5, 5), strides=(1, 1), padding='same', use_bias=False)) assert model.output_shape == (None, 7, 7, 128) model.add(tf.keras.layers.BatchNormalization()) model.add(tf.keras.layers.LeakyReLU()) model.add(tf.keras.layers.Conv2DTranspose(64, (5, 5), strides=(2, 2), padding='same', use_bias=False)) assert model.output_shape == (None, 14, 14, 64) model.add(tf.keras.layers.BatchNormalization()) model.add(tf.keras.layers.LeakyReLU()) model.add(tf.keras.layers.Conv2DTranspose(1, (5, 5), strides=(2, 2), padding='same', use_bias=False, activation='tanh')) assert model.output_shape == (None, 28, 28, 1) return model
判別器網路的輸入是28x28的圖像。我們將透過使用tf.keras.Sequential函數來堆疊網路層。
def make_discriminator_model():
model = tf.keras.Sequential() model.add(tf.keras.layers.Conv2D(64, (5, 5), strides=(2, 2), padding='same', input_shape=[28, 28, 1])) model.add(tf.keras.layers.LeakyReLU()) model.add(tf.keras.layers.Dropout(0.3)) model.add(tf.keras.layers.Conv2D(128, (5, 5), strides=(2, 2), padding='same')) model.add(tf.keras.layers.LeakyReLU()) model.add(tf.keras.layers.Dropout(0.3)) model.add(tf.keras.layers.Flatten()) model.add(tf.keras.layers.Dense(1)) return model
接下來,我們將寫訓練程式碼。我們將在每個批次中交替訓練生成器網路和判別器網路。在訓練過程中,我們將透過使用tf.GradientTape()函數來記錄梯度,然後使用tf.keras.optimizers.Adam()函數來優化網路。
generator = make_generator_model()
discriminator = make_discriminator_model()
#cross_entropy = tf.keras.losses.BinaryCrossentropy(from_logits>
判別器損失函數def discriminator_loss(real_output, fake_output):real_loss = cross_entropy(tf.ones_like(real_output), real_output) fake_loss = cross_entropy(tf.zeros_like(fake_output), fake_output) total_loss = real_loss + fake_loss return total_loss
return cross_entropy(tf.ones_like(fake_output), fake_output)
discriminator_optimizer = tf.keras.optimizers.Adam(1e-4)
def train_step(images):
noise = tf.random.normal([BATCH_SIZE, 100]) with tf.GradientTape() as gen_tape, tf.GradientTape() as disc_tape: generated_images = generator(noise, training=True) real_output = discriminator(images, training=True) fake_output = discriminator(generated_images, training=True) gen_loss = generator_loss(fake_output) disc_loss = discriminator_loss(real_output, fake_output) gradients_of_generator = gen_tape.gradient(gen_loss, generator.trainable_variables) gradients_of_discriminator = disc_tape.gradient(disc_loss, discriminator.trainable_variables) generator_optimizer.apply_gradients(zip(gradients_of_generator, generator.trainable_variables)) discriminator_optimizer.apply_gradients(zip(gradients_of_discriminator, discriminator.trainable_variables))
BATCH_SIZE = 256
EPOCHS = 100for epoch in range(EPOCHS):for i in range(train_images.shape[0] // BATCH_SIZE): batch_images = train_images[i*BATCH_SIZE:(i+1)*BATCH_SIZE] train_step(batch_images)
產生新圖像
在訓練完成後,我們將使用生成器網路來產生新圖像。我們將隨機產生100個雜訊向量,並將它們輸入到生成器網路中,以產生新的手寫數位影像。
import matplotlib.pyplot as plt
###def generate_and_save_images(model, epoch, test_input):#### 注意 training` 设定为 False # 因此,所有层都在推理模式下运行(batchnorm)。 predictions = model(test_input, training=False) fig = plt.figure(figsize=(4, 4)) for i in range(predictions.shape[0]): plt.subplot(4, 4, i+1) plt.imshow(predictions[i, :, :, 0] * 127.5 + 127.5, cmap='gray') plt.axis('off') plt.savefig('image_at_epoch_{:04d}.png'.format(epoch)) plt.show()
以上是Python中的GAN演算法實例的詳細內容。更多資訊請關注PHP中文網其他相關文章!