ox180 最近的时间轴更新 ox180 最近的时间轴更新 |
ox180V2EX 第 207633 号会员，加入于 2016-12-26 12:00:54 +08:00今日活跃度排名 3892 |
geasyheart.github.io/
ox180 最近回复了
55 天前 回复了 chinesehuazhou 创建的主题 › Python › Python 之父的导师聊 Python 的起源，以及缩进语法那古老而前卫的设计思想 |
年年黑 python ，年年都缩进
144 天前 回复了 dfgddgf 创建的主题 › 程序员 › 请问最佳的爬虫语言是什么 |
js
196 天前 回复了 Richard14 创建的主题 › 程序员 › 深度学习中位置编码的本质是不是就是一层 nn.Parameter()而已？ |
1 、position_embeddings 是把句子的位置信息加进去，self-attention 是为了学习语义信息。如果不管句子顺序如何，后面 self-attention 输出都一样。另外 position_embeddings 是 bert 的做法，transformer 是用的正余弦编码，关于位置编码，你还可以了解下绝对位置编码和相对位置编码。
2 、bert 输出有两个，一个是[CLS]位置所代表的句子信息，其实你看了源码就知道，这个无非是多增加其他层进行训练了罢了，你可以不用，直接用 seq_output 。捕捉位置在最开始 position_embeddings 已经学到了。
2 、bert 输出有两个，一个是[CLS]位置所代表的句子信息，其实你看了源码就知道，这个无非是多增加其他层进行训练了罢了，你可以不用，直接用 seq_output 。捕捉位置在最开始 position_embeddings 已经学到了。
214 天前 回复了 shigure00 创建的主题 › 程序员 › 想学一门新语言， go 和 Python 大家推荐哪个 |
看你喜欢哪一方面了，如果还是 CRUD ，意义不大。深度学习推荐 python 。
228 天前 回复了 Richard14 创建的主题 › Python › 在 Pytorch 学习的过程中如何借助预训练模型帮助理解结构？ |
重写 lstm 的__repr__就行
264 天前 回复了 liyang5945 创建的主题 › 分享创造 › 最近把博客重构了一下，来晒晒 |
我也来晒： https://geasyheart.github.io/
😘😘😘😘😘😘😘😘😘😘😘😘😘😘😘😘😘😘😘😘😘
😘😘😘😘😘😘😘😘😘😘😘😘😘😘😘😘😘😘😘😘😘
278 天前 回复了 taishan 创建的主题 › 北京 › 电动牙刷比普通牙刷好在那哪里？ |
优点：刷起来手不用动，懒人福星。
缺点：正在用的貌似毛有点软，感觉刷的效果不好，也有可能是我用的时间长了。。。
缺点：正在用的貌似毛有点软，感觉刷的效果不好，也有可能是我用的时间长了。。。
285 天前 回复了 a523 创建的主题 › Python › 为什么面试官喜欢问某一门语言（比如 go 或者 Python ）的内存回收机制？ |
@t2jk4000 对于深度学习领域，python 还是必要的，可以不知道。。
316 天前 回复了 chuanqirenwu 创建的主题 › 程序员 › 博客改版，有没有极简风的博客主题推荐参考？ |
Select Language