深度学习框架【TensorFlow2】 - 第五章:AI经典模型进阶拓展
分享给朋友:

按住画面移动小窗

下载
self-attention计算方法-深度学习与TensorFlow 2入门实战
虎课APP支持视频下载
扫码下载/打开虎课APP
支持视频下载,随时随地学
手机观看
扫一扫,手机继续学
扫码下载/打开虎课APP
支持视频下载,随时随地学
self-attention计算方法-深度学习与TensorFlow 2入门实战_虎课网
记笔记

全新AI视频总结上线

一键节省你80%学习时间

视频暂不支持AI视频总结
AI视频总结
编辑完成后,记得点我~

36

已学

17小时

时长

13

配套素材

完课证书

¥199(¥299)

全站通VIP免费畅学

立即购买
学员评价 (0条评论)视频字幕
您需要学习后才可以评价, 立即学习
评论列表
仅显示有内容的评论
仅显示带图评论
排序方式:

好了 ,接下来再说下面呢 ,唉呀 ,那大家可能知道了 ,唉呀在我单身啊大概什么意思 ,那这东西怎么玩啊 ,怎么做计算啊 ,给大家举个例子吧 ,这个例子也是我看了好多演讲的都愿意这么去 ,听过很多演讲报告 ,都愿意去这么通过这个例题讲好再来这么说 ,我说在这里啊咱现在有这么两个词吧 ,啊一个是x1 ,一个是x2 ,既然说啊我们文本当中两个词啊中文当中你说两个字两个词都行 ,啊两个词来了 ,第一步咱们干什么 ,诶我们正常 ,我们说第一步啊 ,是不是要先对我的一个向量做一个初始化来做一个 b ,然后呢 ,你拿一行练结尾也行 ,哪个所以初始化也行啊 ,这第一步 ,先把一个词转换成一个编码吧 ,比如第一步啊 ,先这一个词转换成一个四维的向量可以吧 ,啊 ,就是四个特征吧一个词转成向量 ,这是第一步 ,作为 w 然后呢 ,接下来唉呀 ,接下来他做的稍微就是大家可能觉得有点奇怪啊 ,他是这么说的 ,你说接下来啊我需要干什么 ,我是不是得考虑考虑唉 ,当前我输入的比如说一句话当中就这两个词 ,我需要知道这是第一个词 ,这是第二次 ,我需要知道在第一个词看来 ,这两个词上下文分别对我第一个词做什么样的贡献 ,在第二次看来 ,这两个词分别对我第二次做什么样的贡献 ,然后呢我做它们重新的一个向量编码 ,重新的进行组合 ,是不是在这里啊 ,他是怎么去做的 ,唉呀 ,这个作者啊 ,这个不是这个模型啊 ,或者说这个方面 ,这个都是一篇论文啊 ,作者他是这么说的 ,他说呀 ,我为了使得这件事做得更好 ,其实无非神经网络做一件什么事儿 ,就是怎么提特征呗 ,那怎么提到这呢 ,他说了一点 ,现在我找这么三个矩阵 ,这三个矩阵分别叫做一个 q 矩阵 ,c 矩阵 ,k 矩阵 ,k 矩阵 ,然后呢 ,一个 v 矩阵 ,y 矩阵 ,在这里啊 ,他说找这三个矩阵是干什么呀 ,唉 ,他说一点找这三个矩阵啊 ,

给我当做一个辅助吧 ,我借助这三个矩阵啊 ,我就想一想 ,怎么样能求出来 ,我当前对第一个词编码的时候 ,唉 ,怎么样考虑我上下文 ,对第二次编码的时候怎么样考虑我上下文唉 ,他说这一点先找到我们三个辅助矩阵 ,一会儿呢 ,我会给大家去说啊 ,这三个辅助矩阵这个做什么事儿的 ,但现在大家都知道有这样一件事儿啊 ,一会儿要做三个矩阵了 ,你看这三个矩阵一般用什么来命名的 ,是不是个 ww 什么意思 ,权重吧 ,一旦咱提到这个权重 ,那你说它是怎么来的 ,按照正常思路 ,一开始初始化一个 ,然后呢 ,随着我训练过程当中 ,让网络慢慢去学一学这几个矩阵该怎么构建吧 ,其实说白了这些是什么呢 ,这些啊 ,就是我们要构建的一些权重参数 ,基于权重参数要求一求诶这些向量或者这些词的一个关系了这样一件事儿 ,好了 ,大概是大家可能现在听了 ,但可能还不是特别理解 ,什么 q 矩阵 k 矩阵 v 矩阵 ,在这扯什么呢 ,这三个干什么用的啊 ,好了 ,再来说一下这三个矩阵 ,它实际做了一件什么事儿 ,首先第一步 ,呃这一块用这个向量形式给大家描述了 ,比如第一个 ,我说这是x1 ,这是x2 ,咱都用向量了 ,然后呢这一块儿有个 q 矩阵 ,一个矩阵 ,再来看吧 ,无论这个 q 矩阵啊你要给它设计成什么样子 ,反正就要一点 ,我 x 经过这个跟这个 q 矩阵做了一个矩阵乘法之后 ,要得到什么 ,要得到了两个 q ,为什么两个 q ,你看这不是x1x2吗 ,那做完之后啊 ,是否能得到 qe ,反正就是一个向量q2 ,我能把这两个得到的这个是 x 跟我的 c 矩阵组合完之后 ,我得到了新的两个特征向量 qqq 二 ,咱一会儿再说 ,qaq 做的实验什么事儿咱先知道一点啊 ,就是有我的输入 ,经过了三个矩阵之后 ,我能得到三种不同的特征向量就可以了 ,

你看这个经过这个 k 矩阵是一样的 ,x1 ,x2就相当于经过 k 矩阵的一个编码 ,得到了k1和k22个辅助的特征 ,然后呢 ,接下来还有v1和v22个辅助的特征 ,行吧 ,那好比这样一件事儿 ,原来呢 ,就是x1 ,x22个输入的数据嘛 ,

登录后查看更多
ChatGPT-工作效率提升利器
共 32 节课
AI建筑设计-Stable Diffusion
共 15 节课
深度学习框架【PyTorch】
共 69 节课
AIGC平面&电商实战设计
共 29 节课
Midjourney绘画与设计应用
共 24 节课
已是第一张图了
已是最后一张图了
记笔记

导出笔记

笔记导出历史

00:00

0/12
确定保存
笔记导出历史导出完成的笔记将保留1天,如有需求请及时下载
课程名称
导出时间
文件大小
状态
操作
AI视频总结
AI正在分析视频,请稍等…
AI总结遇到了一些问题 点击重新获取
点击重新获取
成为全站通VIP 查看完整AI总结
复制

职业路径建议意见

请选择你对职业路径课程的满意程度

请选择你对职业路径课程的满意程度

请填写关于职业路径的建议意见:

同学,小虎知道你非常努力的想学习!

老师录制课程真的也很辛苦

赞助一下吧

确定学习吗?

您每天可免费学习一个教程。

成为VIP可无限学习 !

成为VIP吧!

成为VIP吧!

您已经免费学习 1 个教程 !

我们录制教程很努力的,赞助下吧 !

升级VIP吧!

您已经学习 5 个教程啦!

我们录制教程很努力的,赞助升级下吧 !

您已经累计下载5个源文件


您在当前分类下不是VIP,赞助VIP享受无限下载


您已经累计下载5个素材文件


您在当前分类下不是VIP,赞助VIP享受无限下载


您已经累计下载5个源文件


您在当前分类下不是VIP,赞助VIP享受无限下载


您已经累计观看5个图文教程


您在当前分类下不是VIP,赞助VIP享受无限观看


学习后才能评价哦!

获得30虎课币

评论提交成功,将在审核通过后显示

×

下载素材/源文件:

收藏成功
取消成功
特惠
充值
7折购
今日还在继续学习的你,太棒了!
7
折扣券可用于
年费无限VIP
立 即
使 用
此活动优惠不可与其他活动叠加使用
有效期:000000
消息
登录即可查看消息记录
建议
意见
官方
客服
在线咨询客服热线

您可以与在线客服进行沟通获得帮助

工作日:9:00~22:00节假日:9:00~18:00

联系在线客服

您可以电话联系客服进行沟通获得帮助

工作日:9:30~18:30

400-862-9191
虎课
积分
免费学习90000+个教程!
配套素材、源文件一键下载!
昨日学员已学习了26,258
并提交了203份作业!
登录后立即学习!
loading
微信扫码关注即可登录
您需要同意协议才可以进行登录
登录虎课网,每天免费学课程全站 90000+ 视频会员教程 | 每日可免费学 1
为确保账户信息安全
请先进行真实姓名验证后进行充值付款
立即验证