R 里面使用 knn 进行计算太慢了~ 求优化建议~

2014-07-05 09:10:43 +08:00
 RangerWolf
笔记本i5 双核4线程。 跑一个knn , 训练数据1000天,test set 2W条。估计跑了10~20分钟
求性能优化建议。
我已经使用了openblas进行加速了。。。

难道要换个mac?
不知道有没有一些vps能提供这种服务?比如青云这种按秒计费的服务商,我刚试了一下8核4G 0.92元/小时

求靠谱建议
5612 次点击
所在节点    问与答
11 条回复
dndx
2014-07-05 09:15:00 +08:00
R 是单线程,性能不行,别说 KNN 这么复杂的算法,就做个简单的统计模拟都是慢的要死。

如果可以用 C++ 重写的话,试一试 http://www.cs.ubc.ca/research/flann/ ,据我用的情况来看比 R 快了几个数量级。
madeye
2014-07-05 09:17:27 +08:00
RangerWolf
2014-07-05 09:18:50 +08:00
@dndx 哎 看来用R入门之后 还是得靠cpp python 等传统语言来搞定生产系统
多谢~
RangerWolf
2014-07-05 09:22:03 +08:00
@madeye mac 里面的显卡能用吗? 我现在的本子是使用cpu集成的显示芯片的
madeye
2014-07-05 09:26:29 +08:00
@RangerWolf 不够用的。
canesten
2014-07-05 09:39:15 +08:00
@RangerWolf
集成显卡完全不行的
想玩CUDA请上英伟达开普勒架构以上的显卡
我记得貌似亚马逊有专门的实例
Comdex
2014-07-05 10:54:32 +08:00
用golang
canesten
2014-07-05 11:08:37 +08:00
ruoyu0088
2014-07-05 16:41:02 +08:00
能否具体一点?
你要对20000条测试数据在1000条数据中k个最近的数据吗?k值是多大?数据的维数是多少?
road2stat
2014-07-05 19:53:02 +08:00
RangerWolf
2014-07-05 20:37:28 +08:00
@road2stat 我用的就是FNN里面的knn

@ruoyu0088 其实这个是kaggle里面的一个比赛项目: http://www.kaggle.com/c/digit-recognizer
原始的训练数据有42W条,但是在R里面跑了一个晚上也没跑完。。。 我就只留了10000条数据作为训练数据了~ 每条数据是784列,k值我选的7

因为太慢了,没有能测试多个k值,不知道影响如何~

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/121035

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX