type
status
date
slug
summary
tags
category
icon
password
本节，我们将介绍以下内容：
- 访问参数，用于调试、诊断和可视化；
- 参数初始化；
- 在不同模型组件间共享参数。
5.2.1 参数访问
查看第二个全连接层的参数
可以得到的信息：
这个全连接层包含两个参数，分别是该层的权重和偏置。
5.2.1.1 目标参数
这里可以访问 bias 偏置，以及查看 bias 里的细节
weight 同理
5.2.1.2 一次性访问所有参数
1、访问第一个全连接层的参数
2、访问所有层的参数
5.2.1.3 从嵌套块收集参数
Sequential 可以嵌套5.2.2 参数初始化
深度学习框架提供默认随机初始化， 也允许我们创建自定义初始化方法， 满足我们通过其他规则实现初始化权重。
默认情况下，PyTorch会根据一个范围均匀地初始化权重和偏置矩阵， 这个范围是根据输入和输出维度计算出的。 PyTorch的
nn.init模块提供了多种预置初始化方法。5.2.2.1 内置初始化
将所有权重参数初始化为标准差为0.01的高斯随机变量
将所有参数初始化为给定的常数
使用Xavier初始化方法初始化第一个神经网络层， 然后将第三个神经网络层初始化为常量值42
5.2.2.2 自定义初始化
感觉可能目前用不太到，不整理了
5.2.3 参数绑定
就是给共享层起个名，方便调用
- 作者:昊卿
- 链接:hqhq1025.tech/article/1b3a897c-9da0-807d-8926-cba74505237a
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议，转载请注明出处。
