V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  askfermi  ›  全部回复第 1 页 / 共 21 页
回复总数  407
1  2  3  4  5  6  7  8  9  10 ... 21  
GPT-3 是一个由 OpenAI 开发的大型语言模型,它可以根据给定的输入文本生成自然语言文本。ChatGPT 是一个基于 GPT-3 的简化版,它专门用于聊天机器人的应用场景。

OpenAI 使用了许多新技术来开发 GPT-3 和 ChatGPT 。其中,GPT-3 使用了许多先进的深度学习技术,包括自注意力机制、残差网络等,以提高模型的语言理解能力。

此外,GPT-3 使用了一种叫做 "多头注意力" 的技术,它可以让模型在处理输入文本时,更加灵活地分配其计算资源,从而提高模型的效率。

ChatGPT 也使用了这些技术,并且还增加了一些新的优化技术,使得模型在聊天机器人的场景中能够更好地工作。例如,ChatGPT 使用了一种新的 "语境知识转移" 技术,它可以让模型在不同的聊天场景中自动调整自己的表现,从而提高模型的适用性。

总之,OpenAI 使用了许多先进的深度学习技术来开发 GPT-3 和 ChatGPT ,这些技术为模型提供了更强大的语言理解能力


From ChatGPT
very cool!
99 天前
回复了 PowerDi 创建的主题 问与答 Mac 有什么软件可以服务器之间传输文件
...手机放在口袋里莫名其妙打了一段字还发出去了...
99 天前
回复了 PowerDi 创建的主题 问与答 Mac 有什么软件可以服务器之间传输文件
@




日,
typesense
meilisearch
快速看了一下,我感觉完全可以去掉独立的条件,但也许应该加上仅限于离散的情况。
2021-11-22 22:02:58 +08:00
回复了 Marathonk 创建的主题 问与答 区块链毕设方向推荐
#19 给机器学习预训练的模型发行一个 token ?让大家分享模型的同时可能还有些经济回报 hh ,最近正在想给 https://hub.autoai.dev/ 加这个功能。
2021-11-22 22:02:40 +08:00
回复了 Marathonk 创建的主题 问与答 区块链毕设方向推荐
给机器学习预训练的模型发行一个 token ?让大家分享模型的同时可能还有些经济回报 hh ,最近正在想给 https://hub.autoai.dev/加这个功能。
2021-10-26 10:11:11 +08:00
回复了 Outliver0 创建的主题 程序员 日文 OCR 问题
可以试试 EasyOCR
2021-10-26 09:41:38 +08:00
回复了 lazy21 创建的主题 推广 让后端开发写个 API 文档就有那么难吗?
2021-10-25 16:25:01 +08:00
回复了 tanszhe 创建的主题 推广 最好的项目管理工具
@Livid go /t/promotions
2021-10-25 16:23:55 +08:00
回复了 tanszhe 创建的主题 推广 最好的项目管理工具
go /promotion
2021-10-12 23:33:40 +08:00
回复了 wszgrcy 创建的主题 机器学习 说下我对神经网络的认知不知道说的对不对求大佬来评价
> 有手写反向传播计算梯度的例子吗?因为看的只是推导,感觉还少一个像高数上那种一个定理后面跟个例子让我学习的.........还是一般情况下大家都是只了解下推理过程,最后计算机计算都是调方法?

其实就是 chain rule 反复用来用去。但我还真的曾经做了一个例子: https://tinynet.autoai.org/en/latest/induction/linear.html

这个例子只是 linear (或叫全连接?)层的,但是其他的基本上也通用。

> matlab,tensorflow,pytorh 等软件 /框架 /包是不是同一种神经网络(就是前面说的那种最简单的先正向计算结果,再反向计算梯度),实现原理是一样的?只不过其他的功能封装的有所不同?

据我所知,数学原理应该是一样的,但是优化的方法不同,例如 TF 1 会用静态图?我也不是很了解。

> 前馈神经网络是我前面说的输出=权重乘输入,没有计算梯度进行修改权重的方式,为啥还叫神经网络?个人理解应该要有纠正的环节,难道是权重手动瞎蒙吗?

感觉你的理解有误,前馈神经网络只是你的网络里没有环,但依然要反向传播算梯度。

> 如果理论没啥大问题,要开始实战,有没有大佬有什么推荐看的东西?

你可以自己实现一个神经网络框架。只有全连接的话很快。欢迎参考: https://github.com/autoai-org/Tinyml
2021-10-11 23:18:38 +08:00
回复了 newthing 创建的主题 问与答 你们手头上有没有正在进行或者未完成的副业?
2021-09-20 19:36:50 +08:00
回复了 wangbenjun5 创建的主题 知乎 如何从逻辑角度解释蛋生鸡、鸡生蛋问题?
Although the question is typically used metaphorically, evolutionary biology provides literal answers, made possible by the Darwinian principle that species evolve over time, and thus that chickens had ancestors that were not chickens,[4] similar to a view expressed by the Greek philosopher Anaximander when addressing the paradox.[3]

If the question refers to eggs in general, the egg came first. The first amniote egg—that is, a hard-shelled egg that could be laid on land, rather than remaining in water like the eggs of fish or amphibians—appeared around 312 million years ago.[6] In contrast, chickens are domesticated descendants of red junglefowl and probably arose little more than eight thousand years ago, at most.[7]

If the question refers to chicken eggs specifically, the answer is still the egg,[8] but the explanation is more complicated. The process by which the chicken arose through the interbreeding and domestication of multiple species of wild jungle fowl is poorly understood, and the point at which this evolving organism became a chicken is a somewhat arbitrary distinction. Whatever criteria one chooses, an animal nearly identical to the modern chicken (i.e., a proto-chicken) laid a fertilized egg that had DNA identical to the modern chicken (due to mutations in the mother's ovum, the father's sperm, or the fertilised zygote).[9][4][10][11].

It has been suggested that the actions of a protein found in modern chicken eggs may make the answer different.[10][11] In the uterus, chickens produce ovocleidin-17 (OC-17), which causes the formation of the thickened calcium carbonate shell around their eggs. Because OC-17 is expressed by the hen and not the egg, the bird in which the protein first arose, though having hatched from a non-reinforced egg, would then have laid the first egg having such a reinforced shell: the chicken would have preceded this first 'modern' chicken egg.[10][11] However, the presence of OC-17 or a homolog in other species, such as turkeys,[12] and finches[13] suggests that such eggshell-reinforcing proteins are common to all birds,[14] and thus long predate the first chickens.
1  2  3  4  5  6  7  8  9  10 ... 21  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   广告投放   ·   实用小工具   ·   316 人在线   最高记录 5497   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 74ms · UTC 21:33 · PVG 05:33 · LAX 13:33 · JFK 16:33
Developed with CodeLauncher
♥ Do have faith in what you're doing.