《PHP編程：PHP使用CURL實(shí)現(xiàn)多線程抓取網(wǎng)頁》要點(diǎn)：
本文介紹了PHP編程：PHP使用CURL實(shí)現(xiàn)多線程抓取網(wǎng)頁，希望對(duì)您有用。如果有疑問，可以聯(lián)系我們。
PHP 利用 Curl Functions 可以完成各種傳送文件操作,比如模擬瀏覽器發(fā)送GET,POST哀求等等,受限于php語言本身不支持多線程,所以開發(fā)爬蟲程序效率并不高,這時(shí)候往往需 要借助Curl Multi Functions 它可以實(shí)現(xiàn)并發(fā)多線程的訪問多個(gè)url地址.既然 Curl Multi Function如此強(qiáng)大,能否用 Curl Multi Functions 來寫并發(fā)多線程下載文件呢,當(dāng)然可以,下面給出我的代碼：PHP實(shí)例
代碼1：將獲得的代碼直接寫入某個(gè)文件
PHP實(shí)例
<?php
$urls = array(
'http://www.sina.com.cn/',
'http://www.sohu.com/',
'http://www.163.com/'
); // 設(shè)置要抓取的頁面URL
$save_to='/test.txt'; // 把抓取的代碼寫入該文件
$st = fopen($save_to,"a");
$mh = curl_multi_init();
foreach ($urls as $i => $url) {
$conn[$i] = curl_init($url);
curl_setopt($conn[$i], CURLOPT_USERAGENT, "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)");
curl_setopt($conn[$i], CURLOPT_HEADER ,0);
curl_setopt($conn[$i], CURLOPT_CONNECTTIMEOUT,60);
curl_setopt($conn[$i], CURLOPT_FILE,$st); // 設(shè)置將爬取的代碼寫入文件
curl_multi_add_handle ($mh,$conn[$i]);
} // 初始化
do {
curl_multi_exec($mh,$active);
} while ($active); // 執(zhí)行
foreach ($urls as $i => $url) {
curl_multi_remove_handle($mh,$conn[$i]);
curl_close($conn[$i]);
} // 結(jié)束清理
curl_multi_close($mh);
fclose($st);
?>
代碼2：將獲得的代碼先放入變量,再寫入某個(gè)文件
PHP實(shí)例
<?php
$urls = array(
'http://www.sina.com.cn/',
'http://www.sohu.com/',
'http://www.163.com/'
);
$save_to='/test.txt'; // 把抓取的代碼寫入該文件
$st = fopen($save_to,"a");
$mh = curl_multi_init();
foreach ($urls as $i => $url) {
$conn[$i] = curl_init($url);
curl_setopt($conn[$i], CURLOPT_USERAGENT, "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)");
curl_setopt($conn[$i], CURLOPT_HEADER ,0);
curl_setopt($conn[$i], CURLOPT_CONNECTTIMEOUT,60);
curl_setopt($conn[$i],CURLOPT_RETURNTRANSFER,true); // 設(shè)置不將爬取代碼寫到瀏覽器,而是轉(zhuǎn)化為字符串
curl_multi_add_handle ($mh,$conn[$i]);
}
do {
curl_multi_exec($mh,$active);
} while ($active);
foreach ($urls as $i => $url) {
$data = curl_multi_getcontent($conn[$i]); // 獲得爬取的代碼字符串
fwrite($st,$data); // 將字符串寫入文件.當(dāng)然,也可以不寫入文件,好比存入數(shù)據(jù)庫
} // 獲得數(shù)據(jù)變量,并寫入文件
foreach ($urls as $i => $url) {
curl_multi_remove_handle($mh,$conn[$i]);
curl_close($conn[$i]);
}
curl_multi_close($mh);
fclose($st);
?>
以上所述就是本文的全部內(nèi)容了,希望大家能夠喜歡.PHP實(shí)例
維易PHP培訓(xùn)學(xué)院每天發(fā)布《PHP編程：PHP使用CURL實(shí)現(xiàn)多線程抓取網(wǎng)頁》等實(shí)戰(zhàn)技能，PHP、MYSQL、LINUX、APP、JS,CSS全面培養(yǎng)人才。
轉(zhuǎn)載請(qǐng)注明本頁網(wǎng)址：
http://www.fzlkiss.com/jiaocheng/10948.html
