您现在的位置是:网站首页>列表内容
PHPCrawl爬虫库实现抓取酷狗歌单的方法示例_php技巧_
2023-05-25 14:06:47 45人已围观
简介 PHPCrawl爬虫库实现抓取酷狗歌单的方法示例_php技巧_
本文实例讲述了PHPCrawl爬虫库实现抓取酷狗歌单的方法。分享给大家供大家参考,具体如下:
本人看了网络爬虫相关的视频后,手痒痒,想爬点什么。最近Facebook上表情包大战很激烈,就想着把所有表情包都爬下来,却一时没有找到合适的VPN,因此把酷狗最近一月精选歌曲和简单介绍抓取到本地。代码写得有点乱,自己不是很满意,并不想放上来丢人现眼。不过转念一想,这好歹是自己第一次爬虫,于是...就有了如下不堪入目的代码~~~(由于抓取的数据量较小,所以没有考虑多进程什么的,不过我看了一下PHPCrawl的文档,发现PHPCrawl库已经把我能想到的功能都封装好了,实现起来很方便)
"). if (PHP_SAPI == "cli") $lb = "\n"; else $lb = "
"; $url = $DocInfo->url; $pat = "/http:\/\/www\.kugou\.com\/yy\/special\/single\/\d+\.html/"; if(preg_match($pat,$url) > 0){ $this->parseSonglist($DocInfo); } flush(); } public function parseSonglist($DocInfo){ $content = $DocInfo->content; $songlistArr = array(); $songlistArr['raw_url'] = $DocInfo->url; //解析歌曲介绍 $matches = array(); $pat = "/名称:<\/span>([^(
0){ $songlistArr['title'] = $matches[1]; }else{ $songlistArr['title'] = ''; } //解析歌曲 $pat = "/$song_title)); } echo ""; print_r($songlistArr); echo ""; } } $crawler = new MyCrawler(); // URL to crawl $start_url="http://www.kugou.com/yy/special/index/1-0-2.html"; $crawler->setURL($start_url); // Only receive content of files with content-type "text/html" $crawler->addContentTypeReceiveRule("#text/html#"); //链接扩展 $crawler->addURLFollowRule("#http://www\.kugou\.com/yy/special/single/\d+\.html$# i"); $crawler->addURLFollowRule("#http://www.kugou\.com/yy/special/index/\d+-\d+-2\.html$# i"); // Store and send cookie-data like a browser does $crawler->enableCookieHandling(true); // Set the traffic-limit to 1 MB(1000 * 1024) (in bytes, // for testing we dont want to "suck" the whole site) //爬取大小无限制 $crawler->setTrafficLimit(0); // Thats enough, now here we go $crawler->go(); // At the end, after the process is finished, we print a short // report (see method getProcessReport() for more information) $report = $crawler->getProcessReport(); if (PHP_SAPI == "cli") $lb = "\n"; else $lb = "
"; echo "Summary:".$lb; echo "Links followed: ".$report->links_followed.$lb; echo "Documents received: ".$report->files_received.$lb; echo "Bytes received: ".$report->bytes_received." bytes".$lb; echo "Process runtime: ".$report->process_runtime." sec".$lb; ?>
PS:这里再为大家提供2款非常方便的正则表达式工具供大家参考使用:
JavaScript正则表达式在线测试工具:
http://tools.jb51.net/regex/javascript
正则表达式在线生成工具:
http://tools.jb51.net/regex/create_reg
更多关于PHP相关内容感兴趣的读者可查看本站专题:《php正则表达式用法总结》、《PHP数组(Array)操作技巧大全》、《PHP基本语法入门教程》、《PHP运算与运算符用法总结》、《php面向对象程序设计入门教程》、《PHP网络编程技巧总结》、《php字符串(string)用法总结》、《php+mysql数据库操作入门教程》及《php常见数据库操作技巧汇总》
希望本文所述对大家PHP程序设计有所帮助。
点击排行
- 星界边境跳跳球玩法攻略_跳跳球科技使用心得_单机游戏_游戏攻略_
- 星界边境带眼球的刀坐标位置_带眼球的刀坐标在哪_单机游戏_游戏攻略_
- 星界边境联机游戏用中文聊天方法攻略_星界边境怎么用中文聊天_单机游戏_游戏攻略_
- 星界边境自动门制作方法图文攻略_怎么制作自动门_单机游戏_游戏攻略_
- 星界边境遇险信标在哪里_星界边境遇险信标具体位置_单机游戏_游戏攻略_
- 信长之野望14:创造无法找到JISInput5指定模块解决方法_单机游戏_游戏攻略_
- 乐高漫威超级英雄全作弊码和使用方法一览_单机游戏_游戏攻略_
- 口袋妖怪x/y神兽触发剧情改变形态的位置_单机游戏_游戏攻略_
- 行尸走肉:第二季存档继承方法分享_单机游戏_游戏攻略_
本栏推荐
-
星界边境跳跳球玩法攻略_跳跳球科技使用心得_单机游戏_游戏攻略_
-
星界边境带眼球的刀坐标位置_带眼球的刀坐标在哪_单机游戏_游戏攻略_
-
星界边境联机游戏用中文聊天方法攻略_星界边境怎么用中文聊天_单机游戏_游戏攻略_
-
星界边境自动门制作方法图文攻略_怎么制作自动门_单机游戏_游戏攻略_
-
星界边境遇险信标在哪里_星界边境遇险信标具体位置_单机游戏_游戏攻略_
-
信长之野望14:创造无法找到JISInput5指定模块解决方法_单机游戏_游戏攻略_
-
乐高漫威超级英雄全作弊码和使用方法一览_单机游戏_游戏攻略_
-
口袋妖怪x/y神兽触发剧情改变形态的位置_单机游戏_游戏攻略_
-
行尸走肉:第二季存档继承方法分享_单机游戏_游戏攻略_