请教 vpc 互通方案和大模型部署相关问题

2024-07-24 17:30:24 +08:00
 dropdatabase

请教各位技术大佬: vpc 之间网络互通用什么方案?

另外: 大模型场景下应用服务容器化,建议用 aws eks 不?有啥坑或者经验分享不? 同样都是大模型场景下,有很多 GPU 机器需要管理调度,是用 eks(k8s)好还是 aws Elastic Container Service ?

1198 次点击
所在节点    问与答
3 条回复
CamelName
2024-07-24 18:21:12 +08:00
1. 同云厂商多地域的 VPC 互联,国内来看:通常都是有云专线方案的,可以打通多地域间的 VPC ,参考阿里的转发路由器 TR ,和 UCloud 的高速通道

转发路由器 TR_企业级云上网络_企业级组网_网络_阿里云
https://www.aliyun.com/product/network/ntr?spm=5176.28536895.J_kUfM_yzYYqU72woCZLHoY.3.cbe4586cPfhSg1
高速通道 UDPN_跨地域网络互联 - UCloud 中立云计算服务商
https://www.ucloud.cn/site/product/udpn.html

海外厂商的估计也都是有的,可以参考下;

2. 跨云厂商,本质上还是隧道网络来联通,在 VPC 里部署 vRouter ,通过 SD-WAN 来打通,参考产品如飞鼠

飞鼠科技
https://www.feishuwg.com/#/home

---
AI 容器化部署看看其他 V2 建议吧
blackeeper
2024-07-24 22:00:47 +08:00
vpc 之间网络互通可以用 VPN 互联,自建或者用云平台的 VPN 都是可以的。
BeautifulSoap
2024-07-24 22:50:53 +08:00
不太复杂的 aws vpc 进行点对点互通使用 vpc peering ,如果要多个 vpc 互相互通的话,就选择 transit gateway

前者同一 az 内数据流量免费,跨 az 按照标准流量收费。后者的话价格就有点需要考虑下了。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1059777

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX