Mixtral 8x7B的推出在開放AI領域引起了廣泛關注，特別是混合專家（Mixture-of-Experts：MoEs）這一概念被大家所熟知。混合專家（MoE）概念象徵著協作智能，體現了整體大於部分總和的理念。 MoE模型整合了多種專家模型的優勢，以提供更準確的預測。它由一個門控網絡和一組專家網絡構成，每個專家網絡都擅長處理特定任務的不同方面。透過合理分配任務和權重，MoE模型能夠利用專家的專長，進而提升整體的預測表現。這種協作式的智慧模型為AI領域的發展帶來了新的突破，將在未來的應用中發揮重要作用。
本文將使用PyTorch實作MoE模型。在介紹具體程式碼前，先簡單介紹混合專家的體系結構。
MoE由兩種類型的網路組成:(1)專家網路和(2)門控網路。
專家網路是一種採用專有模型的方法，在資料的一個子集中得到良好的表現。它的核心理念是透過多個優勢互補的專家來涵蓋問題空間，確保全面解決問題。每個專家模型經過訓練，具備獨特的能力和經驗，進而提升整體系統的表現和效果。透過專家網路的使用，可以有效地應對複雜的任務和需求，提供更好的解決方案。
門控網路是一種用於指揮、協調或管理專家貢獻的網路。它透過學習和權衡不同網路對不同類型輸入的處理能力，來決定哪個網路最擅長處理特定的輸入。訓練有素的門控網路可以評估新的輸入向量，並根據專家的熟練程度將處理任務分配給最合適的專家或專家組合。門控網路會根據專家的輸出與目前輸入的相關性動態調整權重，以確保個人化的回應。這種動態調整權重的機制使得門控網路能夠靈活地適應不同的情境和需求。
上圖顯示了MoE中的處理流程。混合專家模型的優點在於它的簡單性。透過學習複雜的問題空間以及專家在解決問題時的反應，MoE模型有助於產生比單一專家更好的解決方案。門控網路作為一個有效的管理者，評估情境並將任務傳遞給最佳專家。當新資料輸入時，模型可以透過重新評估專家對新輸入的優勢來適應，從而產生靈活的學習方法。 簡而言之，MoE模型利用多位專家的知識和經驗來解決複雜的問題。透過一個門控網路的管理，模型能夠根據不同的情境選擇最適合的專家來處理任務。這種方法的優點在於它能夠產生比單一專家更好的解決方案，並且能夠靈活地適應新的輸入資料。總的來說，MoE模型是一種有效且簡單的方法，可以用於解決各種複雜的問題。
MoE為部署機器學習模型提供了巨大的好處。以下是兩個顯著的好處。
MoE的核心優勢在於其多元化和專業化的專家網絡。 MoE的設定能夠高精度地處理多個領域的問題，這是單一模型難以達到的。
MoE具有固有的可擴展性。隨著任務複雜性的增加，更多的專家可以無縫地整合到系統中，擴大專業知識的範圍，而不需要改變其他專家模型。換句話說，MoE能夠將預先訓練過的專家打包到機器學習系統中，幫助系統應對不斷增長的任務要求。
混合專家模型在許多領域都有應用，包括推薦系統、語言建模和各種複雜的預測任務。有傳言稱，GPT-4是由多個專家組成的。儘管我們無法確認，但類似gpt -4的模型將透過MoE方法利用多個模型的力量來提供最佳結果。
我們這裡不討論Mixtral 8x7B這種大模型中使用的MOE技術，而是我們寫一個簡單的、可以應用在任何任務中的自訂MOE，透過程式碼我們可以了解MOE的工作原理，這樣對理解MOE在大模型中的工作方式是非常有幫助的。
下面我們將一段一段介紹PyTorch的程式碼實作。
導入庫：
import torch import torch.nn as nn import torch.optim as optim
定義專家模型:
class Expert(nn.Module): def __init__(self, input_dim, hidden_dim, output_dim): super(Expert, self).__init__() self.layer1 = nn.Linear(input_dim, hidden_dim) self.layer2 = nn.Linear(hidden_dim, output_dim) def forward(self, x): x = torch.relu(self.layer1(x)) return torch.softmax(self.layer2(x), dim=1)
這裡我們定義了一個簡單的專家模型，可以看到它是一個2層的mlp，使用了relu激活，最後使用softmax輸出分類機率。
定義門控模型:
## Define the gating model class Gating(nn.Module): def __init__(self, input_dim,num_experts, dropout_rate=0.1): super(Gating, self).__init__() # Layers self.layer1 = nn.Linear(input_dim, 128) self.dropout1 = nn.Dropout(dropout_rate) self.layer2 = nn.Linear(128, 256) self.leaky_relu1 = nn.LeakyReLU() self.dropout2 = nn.Dropout(dropout_rate) self.layer3 = nn.Linear(256, 128) self.leaky_relu2 = nn.LeakyReLU() self.dropout3 = nn.Dropout(dropout_rate) self.layer4 = nn.Linear(128, num_experts) def forward(self, x): x = torch.relu(self.layer1(x)) x = self.dropout1(x) x = self.layer2(x) x = self.leaky_relu1(x) x = self.dropout2(x) x = self.layer3(x) x = self.leaky_relu2(x) x = self.dropout3(x) return torch.softmax(self.layer4(x), dim=1)
门控模型更复杂，有三个线性层和dropout层用于正则化以防止过拟合。它使用ReLU和LeakyReLU激活函数引入非线性。最后一层的输出大小等于专家的数量，并对这些输出应用softmax函数。输出权重，这样可以将专家的输出与之结合。
说明：其实门控网络，或者叫路由网络是MOE中最复杂的部分，因为它涉及到控制输入到那个专家模型，所以门控网络也有很多个设计方案，例如（如果我没记错的话）Mixtral 8x7B 只是取了8个专家中的top2。所以我们这里不详细讨论各种方案，只是介绍其基本原理和代码实现。
完整的MOE模型：
class MoE(nn.Module): def __init__(self, trained_experts): super(MoE, self).__init__() self.experts = nn.ModuleList(trained_experts) num_experts = len(trained_experts) # Assuming all experts have the same input dimension input_dim = trained_experts[0].layer1.in_features self.gating = Gating(input_dim, num_experts) def forward(self, x): # Get the weights from the gating network weights = self.gating(x) # Calculate the expert outputs outputs = torch.stack([expert(x) for expert in self.experts], dim=2) # Adjust the weights tensor shape to match the expert outputs weights = weights.unsqueeze(1).expand_as(outputs) # Multiply the expert outputs with the weights and # sum along the third dimension return torch.sum(outputs * weights, dim=2)
这里主要看前向传播的代码，通过输入计算出权重和每个专家给出输出的预测，最后使用权重将所有专家的结果求和最终得到模型的输出。
这个是不是有点像“集成学习”。
下面我们来对我们的实现做个简单的测试，首先生成一个简单的数据集:
# Generate the dataset num_samples = 5000 input_dim = 4 hidden_dim = 32 # Generate equal numbers of labels 0, 1, and 2 y_data = torch.cat([ torch.zeros(num_samples // 3), torch.ones(num_samples // 3), torch.full((num_samples - 2 * (num_samples // 3),), 2)# Filling the remaining to ensure exact num_samples ]).long() # Biasing the data based on the labels x_data = torch.randn(num_samples, input_dim) for i in range(num_samples): if y_data[i] == 0: x_data[i, 0] += 1# Making x[0] more positive elif y_data[i] == 1: x_data[i, 1] -= 1# Making x[1] more negative elif y_data[i] == 2: x_data[i, 0] -= 1# Making x[0] more negative # Shuffle the data to randomize the order indices = torch.randperm(num_samples) x_data = x_data[indices] y_data = y_data[indices] # Verify the label distribution y_data.bincount() # Shuffle the data to ensure x_data and y_data remain aligned shuffled_indices = torch.randperm(num_samples) x_data = x_data[shuffled_indices] y_data = y_data[shuffled_indices] # Splitting data for training individual experts # Use the first half samples for training individual experts x_train_experts = x_data[:int(num_samples/2)] y_train_experts = y_data[:int(num_samples/2)] mask_expert1 = (y_train_experts == 0) | (y_train_experts == 1) mask_expert2 = (y_train_experts == 1) | (y_train_experts == 2) mask_expert3 = (y_train_experts == 0) | (y_train_experts == 2) # Select an almost equal number of samples for each expert num_samples_per_expert = \ min(mask_expert1.sum(), mask_expert2.sum(), mask_expert3.sum()) x_expert1 = x_train_experts[mask_expert1][:num_samples_per_expert] y_expert1 = y_train_experts[mask_expert1][:num_samples_per_expert] x_expert2 = x_train_experts[mask_expert2][:num_samples_per_expert] y_expert2 = y_train_experts[mask_expert2][:num_samples_per_expert] x_expert3 = x_train_experts[mask_expert3][:num_samples_per_expert] y_expert3 = y_train_experts[mask_expert3][:num_samples_per_expert] # Splitting the next half samples for training MoE model and for testing x_remaining = x_data[int(num_samples/2)+1:] y_remaining = y_data[int(num_samples/2)+1:] split = int(0.8 * len(x_remaining)) x_train_moe = x_remaining[:split] y_train_moe = y_remaining[:split] x_test = x_remaining[split:] y_test = y_remaining[split:] print(x_train_moe.shape,"\n", x_test.shape,"\n", x_expert1.shape,"\n", x_expert2.shape,"\n", x_expert3.shape)
这段代码创建了一个合成数据集，其中包含三个类标签——0、1和2。基于类标签对特征进行操作，从而在数据中引入一些模型可以学习的结构。
数据被分成针对个别专家的训练集、MoE模型和测试集。我们确保专家模型是在一个子集上训练的，这样第一个专家在标签0和1上得到很好的训练，第二个专家在标签1和2上得到更好的训练，第三个专家看到更多的标签2和0。
我们期望的结果是：虽然每个专家对标签0、1和2的分类准确率都不令人满意，但通过结合三位专家的决策，MoE将表现出色。
模型初始化和训练设置:
# Define hidden dimension output_dim = 3 hidden_dim = 32 epochs = 500 learning_rate = 0.001 # Instantiate the experts expert1 = Expert(input_dim, hidden_dim, output_dim) expert2 = Expert(input_dim, hidden_dim, output_dim) expert3 = Expert(input_dim, hidden_dim, output_dim) # Set up loss criterion = nn.CrossEntropyLoss() # Optimizers for experts optimizer_expert1 = optim.Adam(expert1.parameters(), lr=learning_rate) optimizer_expert2 = optim.Adam(expert2.parameters(), lr=learning_rate) optimizer_expert3 = optim.Adam(expert3.parameters(), lr=learning_rate)
实例化了专家模型和MoE模型。定义损失函数来计算训练损失，并为每个模型设置优化器，在训练过程中执行权重更新。
训练的步骤也非常简单
# Training loop for expert 1 for epoch in range(epochs):optimizer_expert1.zero_grad()outputs_expert1 = expert1(x_expert1)loss_expert1 = criterion(outputs_expert1, y_expert1)loss_expert1.backward()optimizer_expert1.step() # Training loop for expert 2 for epoch in range(epochs):optimizer_expert2.zero_grad()outputs_expert2 = expert2(x_expert2)loss_expert2 = criterion(outputs_expert2, y_expert2)loss_expert2.backward()optimizer_expert2.step() # Training loop for expert 3 for epoch in range(epochs):optimizer_expert3.zero_grad()outputs_expert3 = expert3(x_expert3)loss_expert3 = criterion(outputs_expert3, y_expert3)loss_expert3.backward()
每个专家使用基本的训练循环在不同的数据子集上进行单独的训练。循环迭代指定数量的epoch。
下面是我们MOE的训练
# Create the MoE model with the trained experts moe_model = MoE([expert1, expert2, expert3]) # Train the MoE model optimizer_moe = optim.Adam(moe_model.parameters(), lr=learning_rate) for epoch in range(epochs):optimizer_moe.zero_grad()outputs_moe = moe_model(x_train_moe)loss_moe = criterion(outputs_moe, y_train_moe)loss_moe.backward()optimizer_moe.step()
MoE模型是由先前训练过的专家创建的，然后在单独的数据集上进行训练。训练过程类似于单个专家的训练，但现在门控网络的权值在训练过程中更新。
最后我们的评估函数：
# Evaluate all models def evaluate(model, x, y):with torch.no_grad():outputs = model(x)_, predicted = torch.max(outputs, 1)correct = (predicted == y).sum().item()accuracy = correct / len(y)return accuracy
evaluate函数计算模型在给定数据上的精度(x代表样本，y代表预期标签)。准确度计算为正确预测数与预测总数之比。
结果如下：
accuracy_expert1 = evaluate(expert1, x_test, y_test) accuracy_expert2 = evaluate(expert2, x_test, y_test) accuracy_expert3 = evaluate(expert3, x_test, y_test) accuracy_moe = evaluate(moe_model, x_test, y_test) print("Expert 1 Accuracy:", accuracy_expert1) print("Expert 2 Accuracy:", accuracy_expert2) print("Expert 3 Accuracy:", accuracy_expert3) print("Mixture of Experts Accuracy:", accuracy_moe) #Expert 1 Accuracy: 0.466 #Expert 2 Accuracy: 0.496 #Expert 3 Accuracy: 0.378 #Mixture of Experts Accuracy: 0.614可以看到
专家1正确预测了测试数据集中大约46.6%的样本的类标签。
专家2表现稍好，正确预测率约为49.6%。
专家3在三位专家中准确率最低，正确预测的样本约为37.8%。
而MoE模型显著优于每个专家，总体准确率约为61.4%。
我们测试的输出结果显示了混合专家模型的强大功能。该模型通过门控网络将各个专家模型的优势结合起来，取得了比单个专家模型更高的精度。门控网络有效地学习了如何根据输入数据权衡每个专家的贡献，以产生更准确的预测。混合专家利用了各个模型的不同专业知识，在测试数据集上提供了更好的性能。
同时也说明我们可以在现有的任务上尝试使用MOE来进行测试，也可以得到更好的结果。
以上是利用PyTorch實現混合專家模型(MoE)的詳細內容。更多資訊請關注PHP中文網其他相關文章！
