如果 AGI 甚至 ASI 真的被 OpenAI 或者其他美国公司制造出来,我们该怎么做?

164 天前
 badmotherfucker
目前能想到的两个威胁是:
1. 穿透密码系统被破解,银行系统,基础设施变得非常容易被攻击
2. 无数 bot 在社交网络上给民众洗脑

作为普通人,有什么办法可以止损么?除了润到其他国家。比如持有美金,买黄金,把数据都转移到离线设备上等等。
1806 次点击
所在节点    OpenAI
20 条回复
iomect
164 天前
期待 gfw 再猛一些防止外国 bot 进来偷你的钱洗你的脑
thinkm
164 天前
AGI 是什么
cxtrinityy
164 天前
??? AI 和密码破解有什么强相关么?这是两个领域吧
bot 洗脑和现在的洗脑有什么本质区别么,一样是舆论控制,只不过是多了种手段,就算没有那么多 bot ,热点不还是被控制么。这东西要从娃娃抓起才是真的绝杀,根正苗红。

另外,agi 就算了,asi 是不是有点吹大牛了。

最后,open ai 也不是你红色企业啊?跟你润有什么关系?难道是指美润中?那你买美金干啥?
exhale
164 天前
预言:千年内无可以投入使用的 AGI 。
smlcgx
164 天前
???为啥要帮官老爷操心?
macaodoll
164 天前
美国能研究出来的东西,我们马上就会有,毕竟偷偷调个接口的事情,画个旗子都是人家的。
badmotherfucker
164 天前
@cxtrinityy 你的反应好大。我就随口一说,思想实验而已。别那么认真。你应该学学 1 楼哈哈。
https://winbuzzer.com/2023/11/24/is-openais-q-ai-model-a-threat-to-humanity-mathematical-prowess-encryption-cracking-and-self-improvement-capabilities-spark-agi-rumors-xcxwbn/

Shapiro underscores several key points to support his claim that Q* is a breakthrough model for AI research:

Mathematical Prowess: Q* reportedly exhibits the ability to perform math comparable to a school child, a significant milestone for AI systems. This proficiency in understanding and manipulating mathematical concepts could have far-reaching consequences for various fields, including physics, chemistry, and cryptography.
Encryption Cracking: Q* is also rumored to have “cracked” AES 192 encryption, considered one of the most secure encryption algorithms that cannot be decrypted by current supercomputers working on them for ages. This breakthrough raises significant security concerns, as it suggests that AI could potentially decipher encryption methods.
Self-improvement: Q* is reportedly capable of evaluating its own performance and suggesting ways to enhance itself. This ability to self-learn and adapt could lead to AI systems that continuously grow in intelligence over time.
Ericcccccccc
164 天前
无数 bot 在社交网络上给民众洗脑

这个你上微博就知道正在发生, 不是什么大问题.
badmotherfucker
164 天前
@Ericcccccccc 俄罗斯*据说*已经在用了。尤其是美国右派民众的社交媒体,这些人可能对新技术接受能力比较差,好忽悠。但现在的 bot 还是挺原始的。如果有了 AGI 的加持,普通人根本分不出真假。不知道有什么对应策略。
Bateman
164 天前
有了 AGI ,我们的共产主义事业就成真了,无阶级,全球化,彻底的民主。
badmotherfucker
164 天前
@Bateman 你说的是外星人入侵地球吧哈哈。
Ericcccccccc
164 天前
@badmotherfucker 啥真假, 你觉得新闻联播是真的还是假的?
badmotherfucker
164 天前
@Ericcccccccc #12 你已经在杠了,而不是认真友善的讨论问题。你自己开心就好。
guotie
164 天前
如果 agi 真的出来了,那所有人类在他面前就如同蚂蚁一般,你我还需要担心什么呢?
Ericcccccccc
164 天前
@badmotherfucker 这还不是认真讨论问题啊.

你说的洗脑来源的真假从根源上讲就是不重要的. "无数 bot 在社交网络上给民众洗脑" 和 "无数真人在社交网络上给民众洗脑", 后者你会感觉更安心吗? 康辉一本正经给你洗脑你觉得非常舒心是吗?
purringpal
164 天前
先问是不是

关于你的两个结论,我认为,1 技术进步只会让系统更安全,比如计算机和互联网,而且还有法律加持。2 网络舆论归根到底是谁控制的你得搞清楚,ai 没有绝对的自由,包括在外网。
yvescheung
164 天前
1. 密码被轻松破解是量子计算那边的担忧,和 AGI 没关联,因为基础算力没变
2. 鉴于民众的整体智商,想要洗脑暂时也不需要 AGI 这种高级货,搬出日本台湾美国即可
netabare
164 天前
每次看到「 AI 即将毁天灭地」的新闻,都在想到底是我有问题还是这个世界疯了。

什么时候营销号小作文都能当严肃新闻来讨论了。而且看起来资本市场还蛮买账。
mrochcnnnnn
164 天前
打不过他们就加入他们
badmotherfucker
162 天前
@netabare famous last words :D

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/995283

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX