(5)深度学习学习笔记-多层感知机

news/2024/11/13 3:24:45/

文章目录

  • 多层感知机和激活函数
  • 代码
  • 来源


多层感知机和激活函数

通过在网络中加入一个或多个隐藏层来克服线性模型的限制,使其能处理更普遍的函数关系类型。最简单的方法是将多个全连接层堆叠在一起。每一层都输出到上面的层,直到生成最后的输出,把最后一层看作线性预测器。这种架构通常称为多层感知机。
在这里插入图片描述
这个多层感知机有4个输入,3个输出,其隐藏层包含5个隐藏单元。输入层不涉及任何计算,只需要实现隐藏层和输出层的计算。这个多层感知机中的层数为2。这两个层都是全连接的。每个输入都会影响隐藏层中的每个神经元,而隐藏层中的每个神经元又会影响输出层中的每个神经元。
为了发挥多层架构,在仿射变换之后对每个隐藏单元应用非线性的激活函数。
激活函数(activation function)通过计算加权和并加上偏置来确定神经元是否应该被激活, 它们将输入信号转换为输出的可微运算。 常用激活函数:Sigmoid和ReLU


代码

代码如下(部分代码和问题和上篇文章中类似,可以参考上篇文章):

import torch
import torchvision
from torch.utils import data
from torchvision import transforms
from d2l import torch as d2l
from torch import nn# 处理anaconda和torch重复文件
import osos.environ["KMP_DUPLICATE_LIB_OK"] = "TRUE"def get_dataloader_workers():"""使用4个进程来读取数据"""return 4def load_data_fashion_mnist(batch_size, resize=None):"""下载Fashion-MNIST数据集,然后将其加载到内存中"""trans = [transforms.ToTensor()]  # 把图片转换为pytorch tensorif resize:trans.insert(0, transforms.Resize(resize))trans = transforms.Compose(trans)mnist_train = torchvision.datasets.FashionMNIST(root="D:/python_project/fashion-mnist-master/fashion-mnist-master/data/fashion",train=True,transform=trans,download=False)mnist_test = torchvision.datasets.FashionMNIST(root="D:/python_project/fashion-mnist-master/fashion-mnist-master/data/fashion",train=False,transform=trans,download=False)return (data.DataLoader(mnist_train, batch_size, shuffle=True,num_workers=get_dataloader_workers()),data.DataLoader(mnist_test, batch_size, shuffle=False,num_workers=get_dataloader_workers()))# 第一层是隐藏层,它包含256个隐藏单元,并使用了ReLU激活函数。 第二层是输出层。
net = nn.Sequential(nn.Flatten(),nn.Linear(784, 256),nn.ReLU(),nn.Linear(256, 10))def init_weights(m):# 初始化参数if type(m) == nn.Linear:nn.init.normal_(m.weight, std=0.01)net.apply(init_weights)batch_size, num_epochs = 256, 10loss = nn.CrossEntropyLoss()trainer = torch.optim.SGD(net.parameters(), lr=0.1)train_iter, test_iter = load_data_fashion_mnist(batch_size)d2l.train_ch3(net, train_iter, test_iter, loss, num_epochs, trainer)

在这里插入图片描述


来源

b站 跟李沐学AI 动手学深度学习v2 10


http://www.ppmy.cn/news/661575.html

相关文章

企业微信通讯录同步

/*** 获取部门》用户信息* 该接口已失效,企业微信于2022.8月份对接口进行了调整,原使用该接口仍可以使用;新的IP调用该接口将被拒绝。** return*/public void getAllwxUser() {log.info("begin-----执行---获取员工信息-----getUser&quo…

同步联系人

从我的旧的N70手机中同步联系人到新的android手机中。 首先,安装Nokia的PC套件,导出手机中的所有联系人到电脑硬盘中。保存成(.csv)文件形式。 登陆gmail,在Gmail的左边有通讯录一览,可以导入csv文件&…

android版qq通讯录备份通讯录备份,安卓手机怎么备份通讯录 QQ同步助手备份通讯录方法-站长资讯中心...

随着智能手机的普及,智能手机带来的一些问题也日益增多,比如容易出现故障导致手机数据丢失,或者有时候换了手机导致原来手机上的数据没有导出,特别是通讯录/联系人资料。这时候,养成备份习惯的重要性就十分突出。那么怎…

通讯录同步【一】

最近在弄一个android通讯录同步的事,一直想把通讯录中联系人的修改时间拿出来。可是,找了半天,没找到相关的信息,跑到contacts2.db里面看了所有的表和字段,唯一发现了同步时可能会存有时间戳一样的信息,其次…

将纸质的电话号码导入到手机通讯录(二):使用网页版QQ同步助手将电话号码导入到手机通讯录...

第一步中已经获取到了电子版的电话号码,这一步将电子版导入到QQ同步助手中。 1、使用QQ号登陆网页版QQ同步助手,链接为:http://pim.qq.com/pim/login.jsp 2、登陆账号,找到右侧“更多操作”中的“导入联系人”,然后选择…

企业微信开发之通讯录同步

前言: 本文主要是用来拉取企业微信用户数据,企业微信有人员变更等参考我的另一篇文章。 目录 开发文档:http://work.weixin.qq.com/api/doc#10093 步骤: 第一步: 后台管理界面开启通讯录同步 第二步. Acces…

QQ通讯录

using System; using System.Collections.Generic; using System.Linq; using System.Text; using System.Threading.Tasks; using System.Data.SqlClient;namespace 扣扣通讯录 {class Game{public SqlConnection conn new SqlConnection("Data Source.;Initial Catalog…

钉钉通讯录同步

第一步&#xff1a;获取钉钉token private string GetToken() {var token CacheFactory.Cache().GetCache<string>("DDToken");if (!token.IsEmpty()) return token;var url "https://oapi.dingtalk.com/gettoken?corpid" CorpId "&c…