首頁 > 後端開發 > Python教學 > ## TensorFlow 中 Softmax 和 softmax_cross_entropy_with_logits 有什麼不同?

## TensorFlow 中 Softmax 和 softmax_cross_entropy_with_logits 有什麼不同?

Linda Hamilton
發布: 2024-10-27 03:10:30
原創
234 人瀏覽過

## What's the Difference Between Softmax and softmax_cross_entropy_with_logits in TensorFlow?

Tensorflow 中的Logits 以及Softmax 和softmax_cross_entropy_with_logits 之間的區別

在TensorFlow 中,術語「logits」指的是幾層的未縮放線性相對尺度。它們通常在機器學習模型中用於表示應用 softmax 函數之前的預概率激活。

Softmax 和softmax_cross_entropy_with_logits 之間的差異

Softmax (tf.nn.softmax) 將softmax 函數應用於輸入量數機率​​(logits) 轉換為0 到1 之間的機率。輸出保持與輸入相同的形狀。

softmax_cross_entropy_with_logits (tf.nn.softmax_cross_entropy_with_logits) 將 softmax 步驟和交叉熵損失的計算結合在一個操作中。它提供了一種數學上更合理的方法來優化 softmax 層的交叉熵損失。此函數的輸出形狀小於輸入,並建立一個對元素求和的總和指標。

範例

考慮以下範例:

<code class="python">import tensorflow as tf

# Create logits
logits = tf.constant([[0.1, 0.3, 0.5, 0.9]])

# Apply softmax
softmax_output = tf.nn.softmax(logits)

# Compute cross-entropy loss and softmax
loss = tf.nn.softmax_cross_entropy_with_logits(logits, tf.one_hot([0], 4))

print(softmax_output)  # [[ 0.16838508  0.205666    0.25120102  0.37474789]]
print(loss)  # [[0.69043917]]</code>
登入後複製

softmax_output 表示每個類別的機率,而損失值表示logits 和提供的標籤之間的交叉熵損失。

何時使用 softmax_cross_entropy_with_logits

建議對模型輸出進行 softmax 處理的最佳化場景使用 tf.nn.softmax_cross_entropy_with_logits。此功能可確保數值穩定性並無需手動調整。

以上是## TensorFlow 中 Softmax 和 softmax_cross_entropy_with_logits 有什麼不同?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
作者最新文章
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板