Nodejs 使用 Async 库多层嵌套之后产生的问题

2015-06-12 14:54:34 +08:00
 haozhang
itemCount ++;
if (itemCount === items) {
    pageCount ++;
    if (pageCount === pages) cb(null);

    async.eachSeries(webSites, function (site, cb___) {
        fs.appendFile(filepath, site, function (err) {
            if (err) console.error(err);
        });
        cb___();
    });

    cb_();
}

cb__();

我写的爬虫,在爬了一个page的所有item之后,还要深入到每个item里面取数据,取完之后写到文件里去,然后再爬下一个页面。

我使用了多层嵌套async.eachSeries之后发现,我只会在最深层级的回调中获取外层(套了很多层)的回调次数然后判断是不是继续下一步,所以写了很多的计数器。

有没有更好的解决方法呢?

4670 次点击
所在节点    JavaScript
8 条回复
xinyu198736
2015-06-12 15:06:41 +08:00
1. eachSeries有第三个参数。
2. 计数器是没有必要的,可以再加一层嵌套
```
var pageArr = [];
for(var i=1;i<=pageCount;i++){
pageArr.push(i)
}
async.eachLimit(pageArr...

```
ZackYang
2015-06-12 16:30:40 +08:00
你需要的只是一个 EventEmitter
ekousp
2015-06-12 18:20:50 +08:00
你需要的是使用 ES7 的 async 和 await。
haozhang
2015-06-12 20:15:34 +08:00
@ekousp 标题大大的使用Async库...
haozhang
2015-06-12 20:16:00 +08:00
@xinyu198736 eachLimit解决了我的问题,thx 。
magicdawn
2015-06-12 20:20:46 +08:00
你需要的是ES7 的async await,然而没卵用,目前没哪个js engine支持~
但是可以曲线救国,Generator + Promise,yield Promise = await Task

甩一个示例 https://github.com/magicdawn/yun-playlist-downloader
Phariel
2015-06-12 20:31:07 +08:00
你真的需要promise
xinyu198736
2015-06-13 09:12:28 +08:00
@haozhang 哈哈,看回答,浮躁的JS圈

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/198011

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX