第三章：PyTorch的主要组成模块

• 3.1 思考：完成深度学习的必要部分
• 3.2 基本配置
• 3.3 数据读入
• 3.4 模型构建
  • 3.4.1 神经网络的构造
  • 3.4.2 神经网络中常见的层
  • 3.4.3 模型示例
• 3.5 模型初始化
  • torch.nn.init内容
  • torch.nn.init使用
  • 初始化函数的封装
• 3.6 损失函数
  • 3.5.1 二分类交叉熵损失函数
  • 3.5.2 交叉熵损失函数
  • 3.5.3 L1损失函数
  • 3.5.4 MSE损失函数
  • 3.5.5 平滑L1 (Smooth L1)损失函数
  • 3.5.6 目标泊松分布的负对数似然损失
  • 3.5.7 KL散度
  • 3.5.8 MarginRankingLoss
  • 3.5.9 多标签边界损失函数
  • 3.5.10 二分类损失函数
  • 3.5.11 多分类的折页损失
  • 3.5.12 三元组损失
  • 3.5.13 HingEmbeddingLoss
  • 3.5.14 余弦相似度
  • 3.5.15 CTC损失函数
• 3.7 训练和评估
• 3.8 可视化
• 3.9 PyTorch优化器
  • 3.9.1 PyTorch提供的优化器
  • 3.9.2 实际操作
  • 3.9.3 输出结果
  • 3.9.4 实验