使用phantomjs進行網頁抓取的實作程式碼_javascript技巧

phantomjs因為是無頭瀏覽器可以跑js，所以同樣可以跑dom節點，用來進行網頁抓取是再好不過了。

例如我們要大量抓取網頁 “歷史上的今天” 的內容。網站

對dom結構的觀察發現，我們只需要取到 .list li a的title值即可。因此我們利用高階選擇器來建構dom片段

var d= ''
var c = document.querySelectorAll('.list li a')
var l = c.length;
for(var i =0;i<l;i++){
d=d+c[i].title+'\n'
}

之後只要讓js程式碼在phantomjs裡跑起來即可~

var page = require('webpage').create();
	page.open('http://www.todayonhistory.com/', function (status) { //打开页面
		if (status !== 'success') {
			console.log('FAIL to load the address');
		} else {
			console.log(page.evaluate(function () {
					var d= ''
					var c = document.querySelectorAll('.list li a')
					var l = c.length;
					for(var i =0;i<l;i++){
					d=d+c[i].title+'\n'
					}
						return d
				}))

		}
		phantom.exit();
	});

最後我們另存為catch.js，在dos裡面執行一下，輸出內容到txt檔案(也可以用phantomjs的檔案api來寫)