公司需要全自动采集

49 天前
 ibox163

公司要全自动采集各个部门的销售数据,并且需要汇总自动生成每个人的销售数据报表(详细到各个 sku ),使用 python 是否可行?现在是否有工具可以直接使用?数据遍布各个电商平台,淘宝、京东、小红书、抖音、得物等等。

7079 次点击
所在节点    程序员
33 条回复
Solix
49 天前
找个能接这些的第三方的 erp 平台就完事了呗
humbass
49 天前
要全自动,起码得各个电商后台可以提供接口,如果没有接口,大概率只能通过前端页面采集形式了。
daniel8642
49 天前
关键不是用什么语言,大多数语言都能做这件事。关键看你如何抓取数据,商家平台有没有开放统计用的 API ,展示数据是用网页还是生成图片推送飞书。
x86
49 天前
八爪鱼,后羿采集之类,影刀 RPA 之类
ibox163
49 天前
@gaobh 第三方 erp 采集不了主播的销售数据吧,主播都是轮班的,一个人直播一小时。
ibox163
49 天前
@humbass 前端采集如果找外包团队做,这个项目大概是什么级别的
KingZZZZ
49 天前
python 肯定行,这个是爬虫主流的语言,但是能否可行不在于语言的问题,在于是否有处理反爬的能力,这个是关键。
liaohongxing
49 天前
前端采集没有意义,比如抖音做了反爬虫,速率限制 ,访问过于频繁直接没数据 ,其 api 还有算法带加密 header, 算法隔断时间就变,你破解起来麻烦又不持久还可能犯法。每次换算法破解这段空档你的数据都没有,统计就没有意义
zsk425
49 天前
飞书多维表格就行,可以看今年的宣传视频
911061873
49 天前
强烈推荐影刀 RPA ,我在影刀上班,摸着良心说我们产品还是不错的。
使用门槛低,一般减单的网页数据获取业务人员自己就能完成。
比较通用的场景我们还有官方应用可以直接使用。
cowcomic
49 天前
这些数据是电商后台的数据还是商品页的?
这些电商后台通常都提供接口,看看文档访问接口就行
商品页的话就比较困难了,这些电商都做了反爬虫,不是专业做这种数据采集的公司很难弄的,特别是有些只有 APP 端就更难弄了,这部分就建议直接找专门做这种数据采集的公司

我上一家公司就是做互联网数据采集的,可惜今年刚倒,不然就推荐你了
woshivu
49 天前
爬很简单,主要是风控,我还是建议找专业的数据采集公司
woshivu
49 天前
@911061873 能不能让我白嫖一下专业版哈哈哈哈
woody3rd
49 天前
得有开放接口吧
superliy
49 天前
@liaohongxing 一天一次 或者两天一次通过页面解析,应该没问题吧
korvin
49 天前
从哪里采集?如果现有有系统里采集那就开接口/脚本抓取统一汇总,用 python 可以的。如果是没有现有系统记录这些数据,那直接用飞书即可。
1gzNr
49 天前
这不就是我正在做的事情~目前是每天自己的电脑 automa 做的。后面打算上影刀 rpa
flame666
49 天前
这种所谓采集,其中采集的技术部分是最简单的,最麻烦的是数据本身
Chicagoake
49 天前
@911061873 这个相对来讲确实简单不少,没啥门槛。
op351
49 天前
RPA+1
可以用 RPA 先把每个平台的数据脚本都做一遍 然后每个人电脑上自己点一下运行
数据收集的话 可以把 RPA 脚本的最后数据写入的那一步写到内部服务器的公共盘上
然后服务器从公共盘把每天数据读取,汇总

现在 RPA 大多个人使用免费 这种策略也能 0 成本试错
如果后期需要远程下发脚本 统一控制之类的功能可以考虑买 RPA 厂商的商业版

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1157214

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX