pgvector 生成 embedding 好慢,是我用的方式有问题吗

21 小时 9 分钟前
 pureGirl

有没有能快速生成 embedding 的办法

595 次点击
所在节点    程序员
8 条回复
irrigate2554
21 小时 6 分钟前
pgvector 是纯 cpu 没有 gpu 加速的吧,你可以部署其它的 embedding 模型,生成向量后存储到 pg ,pg 只做存储和查询就快了。
w568w
20 小时 57 分钟前
> pgvector 生成 embedding 好慢

pgvector 可以生成 embedding 吗?我理解它不是只负责储存、索引和检索吗,还管生成?
rimworld
20 小时 53 分钟前
硅基找个做 embedding 的模型,最好和你用的对话模型是配套的。同意 2 楼的,这不是 pg 的拓展插件来方便保存,和提供一些方法来检索的吗?
pureGirl
20 小时 51 分钟前
@w568w 我用的这个方法生成的 from llama_index.vector_stores.postgres import PGVectorStore
pureGirl
20 小时 50 分钟前
@irrigate2554 生成 embedding 的过程也太慢了,千万级数据 embedding 生成不出来检索快有啥用
dreasky
20 小时 43 分钟前
生成 embedding 速度慢不是 embedding 模型慢吗 跟 pg 有关系吗
dzdh
20 小时 40 分钟前
生成不是模型做的吗? pgvector 不是只管 select 和 insert 吗
beginor
13 小时 45 分钟前
embedding 慢的话可以换个显卡加速的模型,关 pgvector 啥事? pgvector 只管存储和查询

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1159864

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX