V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
firhome
V2EX  ›  程序员

请教快速解析文本 html 的工具?

  •  
  •   firhome · 2020-06-24 15:52:33 +08:00 · 1612 次点击
    这是一个创建于 1374 天前的主题,其中的信息可能已经有所发展或是发生改变。
    一大堆 html 获取里面的某些文本,字段、

    我现在用的就是 1.正则,2.解析成 dom 然后 jquery


    请问各位爬虫大佬,你们是如何做的?有什么高效的工具吗?
    6 条回复    2020-06-25 10:49:43 +08:00
    Vegetable
        1
    Vegetable  
       2020-06-24 15:54:30 +08:00
    描述的太笼统了,什么技术栈啊?都绕不开你第二个方法的思路,xpath 什么的
    jorneyr
        2
    jorneyr  
       2020-06-24 15:55:13 +08:00
    直接用 jQuery 的选择器,用正则容易出错:
    var $html = $(htmlContent);
    var target = $html(selector);
    duan602728596
        3
    duan602728596  
       2020-06-24 16:17:32 +08:00
    jsdom:解析 html 字符串,然后可以使用部分 BOM 、DOM 的 api,对 html 进行操作,然后还可以重新生成 html 字符串
    parse5:将 html 字符串解析成 ast 树,也可以根据 ast 树生成 html 字符串
    cheerio:感觉没有 jsdom 好用
    bigboNed3
        4
    bigboNed3  
       2020-06-24 16:19:10 +08:00
    python beautifulsoup
    java jsoup
    基本每个语言都会有对应的 soup
    fivesmallq
        5
    fivesmallq  
       2020-06-24 16:30:36 +08:00
    之前做爬虫的时候写的一个小工具。

    https://github.com/fivesmallq/web-data-extractor

    Extracting and parsing structured data with jQuery Selector, XPath or JsonPath from common web format like HTML, XML and JSON.
    omph
        6
    omph  
       2020-06-25 10:49:43 +08:00
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2856 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 11:40 · PVG 19:40 · LAX 04:40 · JFK 07:40
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.