V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
HexHub
HexHub,一站式SSH、Docker、数据库连接管理工具,支持多种主流数据库、多窗口分屏、智能SQL编辑、极速数据处理、批量命令、云端同步,支持SSH跳板机、命令广播、历史命令、SFTP多端文件互传。
Promoted by xiwh
V2EX  ›  vpsvps  ›  全部回复第 3 页 / 共 9 页
回复总数  176
1  2  3  4  5  6  7  8  9  
支持,谢谢分享!
如果有 1G 的笔记,你们如何使用 ai ,是转化成 json 知识库,配合大模型使用还是用笔记微调个模型?
人情世故这方面,
在您身上用得确实比较到位!
121 天前
回复了 ok168168 创建的主题 随想 有没有觉得人生真的很短暂!
05 年感觉很近
但都已经是二十年前了
123 天前
回复了 klo424 创建的主题 Local LLM 求 DeepSeekR1 性价比硬件推荐
@NamelessRain
FP16 精度的吗? 1.3T 的版本 没见过搭建成功的?
123 天前
回复了 momomoi 创建的主题 MacBook 买了个 14 寸 m4pro 48+512
16 寸用惯了换 14 觉得习惯吗
123 天前
回复了 klo424 创建的主题 Local LLM 求 DeepSeekR1 性价比硬件推荐
去 B 站搜了下
发现需要上百万的硬件设备才行的
猜一下内心想法:
认识 2 年了,还以为你有钱,搞了这么久发现你存款才这么点,浪费老娘的青春。
134 天前
回复了 BlackHole1 创建的主题 分享创造 一款全新的工作流 IDE
分子子
魔兽世界
https://www.bilibili.com/video/BV19b4y1p717

很多人不信 oled 会造成眼睛散光
可以看看这个视频里收集了很多用户反馈
se4 也是 oled 瞎眼屏
真是服了
我也发现京东上很多非自营的假店铺,特别是百亿补贴里面的
154 天前
回复了 snowkylin 创建的主题 分享发现 本地部署 DeepSeek-R1 671B 千亿大模型流程
@uncat 谢谢 我试试
154 天前
回复了 snowkylin 创建的主题 分享发现 本地部署 DeepSeek-R1 671B 千亿大模型流程
@uncat 谢谢回复,是直接 ollama run deepseek-r1:671b 这个就行吗?这个简单些。huginnface 上的版本还得合并,比较麻烦,您说的是指用 unsloth/DeepSeek-R1-GGUF 这个模型文件吗
154 天前
回复了 snowkylin 创建的主题 分享发现 本地部署 DeepSeek-R1 671B 千亿大模型流程
@snowkylin #6 👍,这种方式是不是不能直接使用 ollama run deepseek-r1:671b 从 ollama 上下载,404G 的,而需要在 huginnface 上下载?

Download the model files (.gguf) from HuggingFace (better with a downloader, I use XDM), then merge the seperated files into one
154 天前
回复了 snowkylin 创建的主题 分享发现 本地部署 DeepSeek-R1 671B 千亿大模型流程
@snowkylin #4 谢谢回复,用 ollama 就可以吧,显存用完就会调用内存,
比如 我的服务器有 8 块 4090 ,内存 640G ,能跑得动 671b 404GB 这个,就是速度慢点是吧?
154 天前
回复了 snowkylin 创建的主题 分享发现 本地部署 DeepSeek-R1 671B 千亿大模型流程
请问 1.73-bit 量化版( 158GB 大小的模型)
一个 4090 24G 加上 160G 内存
可以跑起来吗?
不是需要 7 块 4090 吗?
163 天前
回复了 Czzzzzzzzzzr 创建的主题 买买买 今年买的最值的电子产品是什么
Mac mini m4
@yzqn 细说下平时如何相处之类的,谢谢
1  2  3  4  5  6  7  8  9  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1008 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 37ms · UTC 23:00 · PVG 07:00 · LAX 16:00 · JFK 19:00
Developed with CodeLauncher
♥ Do have faith in what you're doing.