人工智能“最强模型”transformer详解-2天
人工智能“最强模型”transformer详解-2天详细内容
人工智能“最强模型”transformer详解-2天
人工智能“最强模型”transformer详解
【课程简介】
Transformer 是迄今为止人工智能领域的最新和最强大的模型类别之一。它几乎正在凭借一己之力来推动深度学习的又一波重大进步。Transformer 模型充分运用了称为注意力和自注意力机制,以检测系列(或图像)中元素相互影响和相互依赖的微妙关系。本课程通过2天时间的详细介绍,可使学习者初步了解Transformer的原理、应用场景、最新发展等。
【课程收益】
掌握深度学习框架:TensorFlow、pytorch等;
理解“自监督学习”在当代AI领域的核心作用;
掌握Transformer背景知识、相关理论与实践;
理解Transformer在NLP领域和CV领域的应用场景;
为学员的后续项目应用提供针对性的建议。
【课程特点】
本课程力图理论结合实践,强调从零开始,重视动手实践;课程内容以原理讲解为根本,以应用落地为目标。课程通过大量形象的比喻和手算示例来解释复杂的理论,既能将原理充分讲懂讲透,也避免了繁复而枯燥的公式推导。
【课程对象】
理工科本科以上,或至少了解一种编程语言。
时间
内容
案例实践与练习
第一天上午
深度学习知识
BP神经网络
人工神经元及感知机模型
Sigmoid激活函数
前向神经网络的架构
梯度下降
误差反向传播详解
深度学习基础
连接主义的兴衰
深度学习与神经网络
目标函数与激励函数
学习步长
权重初始化
权重衰减(Weight Decay)
梯度下降的方法
案例实践:
手算神经网络BP算法
只用numpy,手推BPNN
深度BP网络实现手写数字的识别
各种梯度下降方法的实战效果
第一天上午
CV初步
CNN
图像分类概述
AlexNet与ZF-Net
VGG(5层变为5组)
迁移学习
GoogLenet
模型退化与ResNet
DenseNet(充分利用特征)
最新的efficientnet
VAE与GAN
图像生成模型
AE与VAE
DAE
GAN
改进的GAN
案例实践:
VGG各层的可视化展现
迁移学习:猫狗大战
VAE生成的数字
StyleGAN
第二天上午
RNN与W2V
循环神经网络
RNN基本原理
LSTM、GRU
双向循环神经网络
编码器与解码器结构
seq2seq模型
初识Attention
NIC模型
词向量基础(word2vec)
W2V:CBOW
W2V:skip-gram
W2V:Hierachical Softmax
W2V:Negative Sampling
案例实践:
股票交易数据的预测;
谁和小鱼儿最相似?
SnowNLP:褒义的中性词
Word2vec代码解读
第二天下午
Transformer以及发展
Transformer
所有你需要的仅仅是“注意力”
Transformer中的block
自注意力机制
多头注意力
位置编码(抛弃RNN)
Batch Norm与Layer Norm
解码器的构造
BERT
BERT整体架构
Masked-LM
Next Sentence Prediction
改造下游任务
WordPiece作为输入
CV领域的Transformer
iGPT
Vision Transformer(ViT)
BEiT
MAE令人惊奇的效果
MAE详解
未来可期:MaskFeat等
案例实践:
手推Transformer
BERT代码解读
BERT下游任务的改造
BEiT的效果
叶梓老师的其它课程
DeepSeek 辅助日常工作培训提纲 03.03
DeepSeek辅助日常工作培训提纲一、引言介绍大模型领域的竞争态势强调DeepSeek的独特优势二、DeepSeek概述DeepSeek的发展背景与定位DeepSeek各版本的特点与区别三、DeepSeek部署本地单机部署DeepSeek蒸馏版的硬件要求本地单机部署DeepSeek(量化)满血版的配置与性能本地单机多卡部署DeepSeek(量化)满血版的策
讲师:叶梓详情
知识图谱的Python实现 03.03
知识图谱的Python实现【课程简介】本课程包含知识图谱的基本概念及常用算法,并实现了一个基于知识图谱的对话机器人。通过1天的系统学习、案例讲解和动手实践,让学员能初步了解知识图谱的的相关知识与技术。【课程对象】理工科本科以上,或至少了解一种编程语言。知识图谱基础知识图谱存储知识图谱基础概念知识推理本体推理方法本体推理工具语义搜索RDF与RDFSOWL与OW
讲师:叶梓详情
智能医疗技术与ChatGPT临床应用三日深度培训 03.03
智能医疗技术与ChatGPT临床应用三日深度培训第一天:人工智能基础与Python编程入门上午:人工智能在医疗领域的应用概述Python编程基础环境搭建、数据类型、流程控制Python环境搭建Python数据类型与流程控制Python函数的应用Python面向对象编程 文件读写和目录操作异常处理机器学习概述数据探索性分析:智能化数据分析特征工程:数据准备、数
讲师:叶梓详情
人工智能+自然语言处理3天 03.03
||1.人工智能概述||第一节:人工智能与机器学习基础|2.机器学习概述|||3.机器学习算法应用分析|||1.一元线性回归|||2.代价函数|||3.梯度下降法||第二节:回归算法|4.sklearn一元线性回归应用|||5.多元线性回归|||6.sklearn多元线性回归应用|||案例:葡萄酒质量和时间的关系|||1.KNN分类算法介绍|||2.KNN分
讲师:叶梓详情
人工智能算法详解 03.03
人工智能技术详解【课程内容】本课程包含大数据、机器学习、深度学习、知识图谱、强化学习与深度强化学习的相关知识。【课程时长】7天(7小时/天)【课程对象】理工科本科及以上,且至少了解一门编程语言。【课程大纲】(培训内容可根据客户需求调整)时间内容案例实践与练习Day1上午准备工作准备工作1.概念与术语2.Python(Anaconda)的安装3.Pycharm
讲师:叶梓详情
人工智能与深度学习_3天 03.03
人工智能与深度学习第一天:人工智能概念与经典算法人工智能概念综述(第一天——1)从一些术语辨析人工智能人工智能之连接主义的兴衰史这次AI的热潮是怎么来的?图像处理领域的最新热点(第一天——2)分类、目标检测与实例分割风格迁移自动驾驶人体姿态识别超分辨率图像生成语言处理领域的最新热点(第一天——3)Attention机制自动构建知识图谱看图说话预训练机制三大经
讲师:叶梓详情
人工智能之自然语言处理技术与实战(4天) 03.03
人工智能之最新自然语言处理技术与实战课程介绍:自然语言处理(简称NLP)是计算机科学和人工智能研究的一个重要方向,研究计算机和理解和运用人类语言进行交互的问题,它是集语言学、机器学习、统计学、大数据于一体的综合学科。本课程主要介绍了NLP中的常用知识点:分词、词法分析、句法分析、向量化方法、经典的NLP机器学习算法,还重点介绍了NLP中最近两年来基于大规模语
讲师:叶梓详情
数据分析与数据挖掘导论_两天 03.03
第一天上午:统计分析原理从最简单的案例开始统计基础描述性统计用SPSS实现描述性统计的案例回归分析:线性回归回归分析:logistics回归用SPSS实现回归分析的案例可视化工具第一天下午:数据库与数据仓库介绍数据库概述SQL(基本的增、删、改、查)SQL(稍复杂的子句或嵌套)基于MySQL的上机操作SQL语言数据仓库:度量与维度数据仓库:星型模型、雪花模型
讲师:叶梓详情
计算机视觉(含姿态识别)-3天 03.03
计算机视觉【课程时长】3天(7小时/天)【课程对象】理工科本科及以上,且至少了解一门编程语言。【课程大纲】(培训内容可根据客户需求调整)时间内容案例实践与练习Day1上午准备工作准备工作决策树准备工作(1)概念与术语Python(Anaconda)的安装Pycharm的安装与使用JupyterNotebook的安装与使用Tensorflow与pytorch的
讲师:叶梓详情
计算机视觉(含姿态识别疫情防控案例)-2天 03.03
计算机视觉【课程简介】本课程包含计算机视觉领域的的重要概念及常用算法(神经网络、支持向量机、CNN、GAN等),以及人工智能领域热点应用场景:目标检测、图像分割、图像生成等。通过2天的系统学习、案例讲解和动手实践,让学员能初步迈入深度学习和计算视觉的知识殿堂。【课程收益】掌握基于python的视觉分析知识;掌握深度学习框架:TensorFlow、pytorc
讲师:叶梓详情
- [潘文富]薪资考核的初步改善措施
- [潘文富]新开门店的白板期要做些什
- [潘文富]经销商终端建设的基本推进
- [潘文富]中小企业招聘广告的内容完
- [潘文富]优化考核方式,减少员工抵
- [王晓楠]辅警转正方式,定向招录成为
- [王晓楠]西安老师招聘要求,西安各区
- [王晓楠]西安中小学教师薪资福利待遇
- [王晓楠]什么是备案制教师?备案制教
- [王晓楠]2024年陕西省及西安市最
- 1社会保障基础知识(ppt) 21202
- 2安全生产事故案例分析(ppt) 20282
- 3行政专员岗位职责 19084
- 4品管部岗位职责与任职要求 16276
- 5员工守则 15490
- 6软件验收报告 15426
- 7问卷调查表(范例) 15149
- 8工资发放明细表 14587
- 9文件签收单 14248