• 请不要在回答技术问题时复制粘贴 AI 生成的内容
leverestfish
V2EX  ›  程序员

[爬虫]如何获取公众号的所有文章(的链接)

  •  
  •   leverestfish · Oct 23, 2020 · 6864 views
    This topic created in 2208 days ago, the information mentioned may be changed or developed.

    需求简单来讲就是 [如何获取一个微信公众号的所有文章的链接] 。微信搜狗搜索早就跪了。现在还有办法实现吗?

    求大佬们提供点思路,谢谢~

    23 replies  •  2020-10-28 22:18:23 +08:00
    hunk
    hunk
    Oct 23, 2020❤️1
    1
    总之,很难。
    研究过用真机自动化操作获取的方法,太麻烦了。
    OldActorsSmile
    OldActorsSmile
    Oct 23, 2020❤️1
    2
    xposed
    wangyzj
    wangyzj
    Oct 23, 2020 via iPhone❤️1
    3
    逆向吧
    opengps
    opengps
    Oct 23, 2020❤️1
    4
    缺少公开的索引入口,天然的防爬虫
    lithbitren
    lithbitren
    Oct 23, 2020❤️1
    5
    主要把地址复制出来就好办了,闲置笔记本拿去做过些自用的挂机类小游戏的按键脚本,公众号没搞过但感觉比做小游戏的脚本还简单点,公众号聊天列表里按一次 page up/down 刚好是一屏,其他所有关键点的位置都是固定的,也不会误点广告,做脚本应该不太难,先拿完了地址再用别的东西爬就容易了
    leverestfish
    leverestfish
    OP
    Oct 24, 2020
    6
    谢谢各位回复,太难了哈哈哈,看来我的水平就不用惦记真自动方法了 hhh
    最后顺便不抱希望问问大家有没有见过这样需求的案例 /项目啊
    IllBeBack
    IllBeBack
    Oct 24, 2020 via Android❤️1
    7
    GitHub 有开源的 Python 代码,几个月前试过,模拟 Chrom 登入公众号后台,然后模拟插入别人的公众号文章链接到自己的文章。不过得到的是长连接。
    heiheidewo
    heiheidewo
    Oct 24, 2020❤️1
    8
    懒得抓啊,有现成的 api 接口卖嘛
    locoz
    locoz
    Oct 24, 2020 via Android❤️1
    9
    量多大?量大还愿意花钱就很好解决
    airqj
    airqj
    Oct 24, 2020 via Android❤️1
    10
    每个微信号每日请求公众号接口数量是有限制的
    具体多少没注意 大概两三百
    所以没法一次性拿到所有数据
    Leigg
    Leigg
    Oct 24, 2020 via Android❤️1
    11
    转换思维,你不行,有人行,高报酬求 xxx 爬虫源码,带文档,钱够了,没有找不到。所以说啊,典型的技术人思维,跳不出来。
    Leigg
    Leigg
    Oct 24, 2020 via Android
    12
    百度都查不到的东西,你指望会有人给你免费解答?
    gochat
    gochat
    Oct 24, 2020❤️1
    13
    不麻烦,有买家嘛?
    leverestfish
    leverestfish
    OP
    Oct 24, 2020
    14
    @IllBeBack 我去找找,我的需求不大哈哈哈,每天爬几十条最多了(增量爬阶段)。您这能否大致给个关键词,我之前搜过没搜到这个。

    @locoz 量的话就是给二三十个公众号做聚合搜索,要动态更新(不用特别及时,一天更新两次足够)。

    @Leigg 哈哈谢谢指点,还没工作呢,以后或许可以改变思维。

    @gochat 简单讲下我的需求吧,非商业需求算是志愿服务吧,想给几个常用的公众号做一个聚合搜索而已,所以花钱还是不太能承受的,最主要的是我需要增量爬取动态更新。但一个月十几块钱我还是能接受的。
    gochat
    gochat
    Oct 24, 2020
    15
    @leverestfish 可以的,增量更新文章,同时抓取阅读量,评论,数据全部入库
    leverestfish
    leverestfish
    OP
    Oct 24, 2020
    16
    Tianyan
    Tianyan
    Oct 24, 2020❤️1
    17
    这个网站做到了 wemp.app
    locoz
    locoz
    Oct 24, 2020 via Android❤️1
    18
    @leverestfish #14 量这么少你直接爬西瓜数据、二十次幂之类的就好了
    kingba
    kingba
    Oct 25, 2020❤️1
    19
    [Chrome 插件让微信公众号历史文章阅读不再痛苦,在 PC /Mac Chrome 浏览器上就能看,而且支持文章列表导出 CSV (开源) - V2EX]( https://www.v2ex.com/t/692681)
    自荐一下
    leverestfish
    leverestfish
    OP
    Oct 27, 2020
    20
    @kingba 已经失效了诶,打开历史页面看不到任何文章。
    leverestfish
    leverestfish
    OP
    Oct 27, 2020
    21
    @locoz 我需要特定公众号,这两个网站不一定有吧。
    locoz
    locoz
    Oct 27, 2020
    22
    @leverestfish #21 没有的就添加监控啊,让别人帮你爬就好了
    kingba
    kingba
    Oct 28, 2020
    23
    @leverestfish 可以参考下 github 上的 readme 说明哈,我试了下在 Windows 下是可以的,但你如果需要增量爬可能就不适合了。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2235 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 45ms · UTC 14:14 · PVG 22:14 · LAX 06:14 · JFK 09:14
    ♥ Do have faith in what you're doing.