PHP实现抓取baidu搜寻效果,并剖析数据构造
发布时间:09/01 来源:未知 浏览:
关键词:
引荐:《PHP视频教程》
PHP网络爬虫实践:抓取baidu搜索结果,并剖析数据构造
baidu的搜索引擎有反爬虫机制,我先直接用guzzle试试水。代码如下:
<?php /** * Created by Benjiemin * Date: 2020/3/5 * Time: 14:58 */ require ('./vendor/autoload.php'); use QL\QueryList; //进入网页 $jar = new \GuzzleHttp\Cookie\CookieJar; $client = new GuzzleHttp\Client(['cookies' => true]); $ql = $client->request('GET', 'https://www.baidu.com', [ 'cookies' => $jar ]); if($ql->getStatusCode()!=200){ echo '网站状态不正常';die; } echo $ql->getBody();
baidu直接拦截了,进了跳转页面,我试试加个阅读器头文件,再试试。
修改后的header如下:
$ql = $client->request('GET', 'https://www.baidu.com', [ 'cookies' => $jar, 'headers' => [ 'Accept-Encoding' => 'gzip, deflate, br', 'Accept' => 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8', 'Accept-Language' => 'zh-CN,zh;q=0.9,en;q=0.8', 'Cache-Control' => 'no-cache', 'Connection' => 'keep-alive', 'User-Agent' => 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36', ] ]);
我测试了下,网站翻开了。
我们连续,输入关键词,并搜索,结果发明被平安拦截了,所以我感受直接用GuzzleHttp搞不动,于是我连续我的神器:jaeger/querylist和jaeger/querylist-puppeteer。
安置步骤:
1.安置依靠
在这此前,要先启用php的proc_open函数,不然没法安置完全
composer install jaeger/querylist composer install jaeger/querylist-puppeteer
2.安置nodejs
yum install nodejs
3.安置npm
4.安置@nesk/puphpeteer
npm install @nesk/puphpeteer
5.PHP启用proc_open
代码如下:
<?php /** * Created by Benjiemin * Date: 2020/3/5 * Time: 14:58 */ require ('./vendor/autoload.php'); use QL\QueryList; use QL\Ext\Chrome; $ql = QueryList::getInstance(); // 注册插件,默许注册的办法名为: chrome $ql->use(Chrome::class); $ql->chrome(function ($page,$browser) { $page->goto('https://www.baidu.com'); // 这里成心设定一个很长的延伸时间,让你可以看到chrome阅读器的启动 sleep(3); //输入关键词 $wd = '简庆旺博客'; $page->type("input[id='kw']",$wd); sleep(1); //点击搜索 $page->click("input[type='submit']"); //等候搜索结果 sleep(3); //猎取结果 $html = $page->content(); //用jquery选中器抽取结果 $rules = array( 'title'=>['#content_left h3 a','text'],//标题 'url'=>['#content_left h3 a','href'],//跳转网址 'description'=>['div .c-abstract','text'],//描写 ); $ql = QueryList::html($html); $rt = $ql->rules($rules)->query()->getData(); //假如有需要,可以把$rt入库,乃至做其他操纵 sleep(10); $browser->close(); // 返回值必然如果页面的HTML内容 return $html; },[ 'headless' => false, // 启动可视化Chrome阅读器,利便调试 'devtools' => false, // 翻开阅读器的开发者工具 ])->find('title')->text();
$rt是我的结果汇合,打印下,如下
以上就是PHP实现抓取baidu搜索结果,并剖析数据构造的具体内容,更多请关注百分百源码网其它相关文章!