首页 > 后端开发 > Python教程 > Keras 中的密集层会使输入张量变平吗?

Keras 中的密集层会使输入张量变平吗?

Barbara Streisand
发布: 2024-10-21 07:53:30
原创
1074 人浏览过

Does a Dense Layer in Keras Flatten the Input Tensor?

了解 Keras 的密集层行为

在 Keras 中,密集层在其权重和输入张量之间执行点积。如文档中所述,默认行为是在输入张量的秩大于 2 时压平输入张量。但是,与本文档相反,密集层实际上应用于输入张量的最后一个轴。

让我们用一个例子来澄清。假设一个具有 m 个单位的密集层应用于形状为 (n_dim1, n_dim2, ..., n_dimk) 的输入张量。输出形状将为 (n_dim1, n_dim2, ..., m)。

此观察结果意味着 TimeDistributed(Dense(...)) 和 Dense(...) 在功能上是等效的。此外,应用具有共享权重的密集层会产生有趣的效果。考虑以下玩具网络:

<code class="python">model = Sequential()
model.add(Dense(10, input_shape=(20, 5)))

model.summary()</code>
登录后复制

下面的模型摘要仅显示 60 个可训练参数:

_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
dense_1 (Dense)              (None, 20, 10)            60        
=================================================================
Total params: 60
Trainable params: 60
Non-trainable params: 0
_________________________________________________________________
登录后复制

发生这种情况是因为密集层中的每个单元都连接到每个单元的所有五个元素输入中具有相同权重的行。因此,仅需要 10 × 5 10(每单位偏差参数)= 60 个参数。

为了进一步说明此行为,请考虑以下视觉表示:

[密集层的图像Keras 中二维或多维输入上的应用]

在此图像中,Dense 层(以红色显示)应用于三维输入张量。输出张量也是三维的,输入张量中的每一列独立映射到输出张量中的一列。

以上是Keras 中的密集层会使输入张量变平吗?的详细内容。更多信息请关注PHP中文网其他相关文章!

来源:php
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
作者最新文章
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板