node.js - nodejs大批量下载图片自动中断的问题如何解决

Question

图片列表大概有1万个图片地址，
使用nodejs下载的时候，莫名其妙就会出现错误。

基本代码如下：

var downloadImage2 = function (src) {
          var iArr = src.split("/");
        var imageName = iArr[iArr.length - 1];
        //console.log("Download begin: " + imageSrc);

        var download = function(uri, filename, callback) {
            request.head(uri, function(err, res, body) {
                // console.log('content-type:', res.headers['content-type']);
                // console.log('content-length:', res.headers['content-length']);
if (uri) {request(uri).pipe(fs.createWriteStream(filename)).on('close', callback);}
                
            });
        };

        download(src, "./images/" + imageName, function() {
            console.log('done: ' + index++);

        });
    
}

出现的错误也有点莫名其妙，有时候是：

events.js:160
      throw er; // Unhandled 'error' event
      ^

Error: Invalid URI "undefined"
    at Request.init (/Users//dirread/node_modules/request/request.js:275:31)
    at new Request (/Users/dirread/node_modules/request/request.js:129:8)
    at request (/Users/dirread/node_modules/request/index.js:55:10)
    at Request._callback (/Users//down.js:21:11)
    at self.callback (/Users//dirread/node_modules/request/request.js:187:22)
    at emitOne (events.js:96:13)
    at Request.emit (events.js:188:7)

Answer 1

Invalid URI "undefined"
给src容个错，传错的地址就不要下载了。

Answer 2

改成用fs.writeFile的方式试试。

Answer 3

其实给URI加一个判空处理很简单，但是以我的经验来看，问题是出现了在了解析URL的时候出现了错误，导致有些资源URL没有拿到正确的地址。建议从这个角度出发排查一下。