半个小时前, ollama 上线了目前单显卡里,最强的中小模型 gemma3

223 天前
 tool3d

由 google 出品,ollama 介绍就一句话“The current strongest model that fits on a single GPU.”,足以证明其强悍程度。

我去 google ai 官方页面看了跑分,27b 的小体积,竟然把体积大自己 20 倍的 deepseek v3 满血模型给灭了?有点令人难以置信。

官方介绍在这里,我也不知道真假,让子弹多飞一会儿。

https://ai.google.dev/gemma

7532 次点击
所在节点    Local LLM
51 条回复
z1060450187
222 天前
我觉得比 qwq 32b 好
anan1314git
222 天前
测试了一下, 代码能力一般, 但是写讽刺文章的水平还不错, 讽刺意味儿挺浓郁!
troilus
222 天前
@fredweili latest
c0494fe00251 • 3.3GB • 19 hours ago
1b
2d27a774bc62 • 815MB • yesterday
4b
c0494fe00251 • 3.3GB • 19 hours ago
12b
6fd036cefda5 • 8.1GB • yesterday
27b
30ddded7fba6 • 17GB • yesterday
12b-it-fp16
aac605cdf033 • 24GB • yesterday
1b-it-fp16
b822f21cb741 • 2.0GB • yesterday
27b-it-fp16
cf10306fe9c6 • 55GB • yesterday
4b-it-fp16
5a54224d4d14 • 8.6GB • 19 hours ago
tabc2tgacd
222 天前
上午试了 27b 的,感觉不错,图片识别啥的,效果也很好。我是 3060 显卡 12G ,所以要用内存,跑得比较慢,大概 1 秒蹦 1/2 个字吧。同样的图片,12b 的效果就差多了。27b 之所以慢,因为我内存也只有 64G ,在跑 27B 时,内存也不够,用到虚拟内存了,如是内存够的话,估计要快点。
seanss
222 天前
我是先问了他知不知道成语接龙的意思,再让他自己玩
Jhon11
222 天前
我的 m4 pro 48g 跑 Gemma 11 个 token,dp 是 9 个 token
dcdlove
222 天前
chen1210
222 天前
在 Google AI Studio 里试了一下
>>strawberry 这个单词里面有几个字母 r

输出:strawberry 这个单词里面有两个字母 r 。
4UyQY0ETgHMs77X8
222 天前
看了测试我笑笑不说话,最近有个积分活动用的 trae 配合 deepseekr1 解决问题,问题反复循环(解决死锁又出来嵌套解决嵌套又出来死锁,让他兼顾俩都写上了直接问题 x2),实际体验都不如 4o
hanbing135
222 天前
搞 deepsex 的大佬可以拿这个优化了
mizuhashi
164 天前
我的 gemma3 27b q4
------
(連登仔口吻)

仆街!食人族都咁 on9 ,竟然要人揀呢啲!? 彈一千下賓周? 肯定 pk 都爛埋啦! 真係抵佢哋俾人食。

不過... 等一等... 其實公主想表達咩啊 🤔 唔通佢想考我哋嘅承受能力? 睇嚟呢個陷阱唔單止係肉體上嘅折磨,仲有心理嘅考驗 🤯

或者佢想測試邊個最堅強? 亦有可能佢哋根本想玩弄我哋嘅心智,再慢慢享用我哋嘅痛苦 😈

總之,呢個食人族公主一定係一個變態! 我支持第三個巴絲直接揀死,起碼可以保留最後嘅尊嚴 💪🏻 而且仲可以慳返一千下賓周嘅痛苦 😂

btw, 有冇人用過賓周彈弓㗎? 威力係咪真係咁大? 😳

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1117922

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX