自建 DeepSeek-V4-Flash API 定价问题

5 小时 28 分钟前
 daxy223

最近和朋友集资买了两个 DGX Spark 部署了 DeepSeek-V4-Flash-0731 自用。参考 https://forums.developer.nvidia.com/t/deepseek-v4-flash-0731-dspark-1m-nvfp4-kv-2x-dgx-spark/378824 效果很好,爽的飞起。这两天和周围的朋友说到这个,其中有一些程序员和初创小老板们都很感兴趣愿意付费一起用。

想了一下我跟朋友也不是 7x24 全力在跑,而且两个 spark 6 stream aggregate output 能到 200tok/s ,确实有不少闲置算力被浪费了,可以开几个 API 给他们用。

所以想问问 V2 的朋友们定价问题。因为也不想搞什么复杂的算 input/output tokens API 计价,就是开一个 API 出来给身边人无限量使用。这样的话我应该定价多少钱网友们觉得是合理的呢?我自己查了一下,好像市面上的价格大概在 699 799 一个月这样子。

787 次点击
所在节点    问与答
10 条回复
malusama
5 小时 26 分钟前
官方定价不就好了吗? 699 799 感觉。。。如果是 code 没人会买吧?
daxy223
5 小时 20 分钟前
@malusama 我也这么想过,但是这个就要写用户管理和 token 统计了。我不想这么麻烦,想着就放个 vLLM 在哪里跑就行了,然后包月无限使用。
malusama
5 小时 17 分钟前
接个 sub2api 不行吗? 反正都是 ai 自己弄
zizon
5 小时 3 分钟前
梁文锋帮你精算过了,按六个月回本定价.
miniliuke
3 小时 53 分钟前
感觉官网这价格很难拼得过,除非有那种 24 小时不停跑的用户,定价低点卖给这个人
r6cb
3 小时 18 分钟前
@daxy223 #2 把 vllm 的 api 作为 newapi 的上游不就行了,哪里要自己写用户管理和计费了?
volvo007
46 分钟前
DGX Spark 的跨机通信不是很慢吗?怎么做到 200 token 的,就是因为 MoE 架构吗?
cvbnt
41 分钟前
建议先设置官方价格的七成,你还要算上电费宽带费
phrack
33 分钟前
20 刀一个月差不多了

再多就有点割韭菜了,当然能割到也是能力
Solix
10 分钟前
呃,对外的话 RPM 和 TPM 都要高才行吧,因为是 agent 调用,几个人就撑不住了吧,不知道你压测过没

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1233637

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX