V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  qieqie  ›  全部回复第 1 页 / 共 8 页
回复总数  141
1  2  3  4  5  6  7  8  
12 天前
回复了 gongxuanzhang 创建的主题 程序员 在一个群里被恶心坏了
几周前我还在 B 站上刷到这个人锐评 TiDB ,看了 5 分钟就发现是个外行胡说八道,在评论区喷了他他都不敢回我。
本地不了一点,考虑过模型常驻内存的成本或者不常驻内存冷启动的延迟吗。更不用说还有个功耗限制。
至于保证隐私的实现路径也很多,最简单的就是云端大模型做任务规划,出一个 NL SDK 之类的让各个 APP 去把自己的 function call 的能力提供给系统,然后端侧小模型去执行就行。
14 天前
回复了 dododada 创建的主题 程序员 yoloV8 推理 cpu 占用问题
推理吃不满就是 GPU 并行度太低,延迟允许的话,把 batch 加上去看看
35 天前
回复了 fruitmonster 创建的主题 程序员 clickhouse 怎么修改数据呢?
试试在每台机器上单独执行而不是远程表。当然原子性和一致性需要你手动保障。
拿 starknet 发的$交了手续费,白嫖到底
大概给 2w+star 项目累计有 30+pr 了
保证了主库 binlog 和 redo 一致不代表可以保证集群的状态一致性,
同步 binlog 最多只能保证最终一致性,强一致性需要分布式事务去支持。
134 天前
回复了 mayooot 创建的主题 Go 编程语言 调用接口的方式获取 NVDIA GPU 🤥
@mayooot 试试 nvidia-smi --query-gpu=index,uuid --format=csv,noheader,nounits
本地开发用 go 的编译 tags 控制下,mock 一个假的返回就行,我比较早一个项目就是这么搞的。
135 天前
回复了 mayooot 创建的主题 Go 编程语言 调用接口的方式获取 NVDIA GPU 🤥
业界普遍用环境变量去做容器化调度 GPU 的,用 device id 就好。

go-nvml 底层使用的 dl_open+cgo 方式去访问 nv 驱动中动态库的 c 接口,你这个报错多半是编译环境里 libc 版本太低了。

如果想要不引入 cgo 来支持 GPU 检测最简单就是在启动脚本执行 nvidia-smi 然后作为命令行或者环境变量参数丢给程序入口就好。
存本地数据库,duckdb 比 sqlite 更适合分析型任务。
202 天前
回复了 shum02 创建的主题 职场话题 何同学两日体验卡!
“.c 和.h 放在一起,有.h 没有.c”
不是,这有啥问题吗,你叫的出来的 c 语言开源项目 linux nginx redis etc.有几个可以不中枪的
huggingface 上模型好多都能在线 inference 的,而且这个单独拿出来基本没啥用
中小量级(<100k) sq pq 甚至暴搜估计都比 hnsw 快还省一个数量级内存
253 天前
回复了 dyllen 创建的主题 Go 编程语言 goframe 框架好吗?我感觉怪怪的。。。
和上面大部分意见相反,我倒是觉得小的项目可以用大而全框架来快速启动,大型项目应该精心选择贴合架构,性能和可定制性足够好的轮子来组合。

我没用过 GoFrame ,不过多年前和作者在某个写 PHP 的电商网站当过同事加过好友所以对这个项目有所耳闻 ;)
粗略看了下 paper ,请教几个问题
文章中只测试了 4 bits/key 的对比,是否意味着声称的性能提升基本来自于 baseline 在这个设置下 filter 失效带来的性能降级?如果设置为 8 bits/key 或者更高,是否还有论文声称的性能优势?
从内存节省方面,同样 workload 下与 RocksDB 团队提出的 Ribbon filter 相比是否具有优势?
如果是觉得 clone 太慢的话
git clone --depth 1
261 天前
回复了 Salomea 创建的主题 问与答 ARM 比 X86 的局限是什么
没有 256bit 以上 SIMD 指令和寄存器,没有硬件层面的 strong memory model
关键字: nl2sql
2023-03-21 14:14:42 +08:00
回复了 LeegoYih 创建的主题 Go 编程语言 Go 有哪些奇技淫巧
转[]any/ {}interface 比较特殊,其它类型可以用 reflect.SliceHeader 之类的奇技淫巧
https://github.com/golang/go/wiki/InterfaceSlice
2023-02-21 14:28:48 +08:00
回复了 Nazz 创建的主题 程序员 golang 内存 kv 缓存怎么做 gc 优化?
cgo
1  2  3  4  5  6  7  8  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2953 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 35ms · UTC 11:29 · PVG 19:29 · LAX 04:29 · JFK 07:29
Developed with CodeLauncher
♥ Do have faith in what you're doing.