php爬虫框架学习之代理IP的实现

suger7

大数据时代下，爬虫行业被更多人知道并选择进入，作为爬虫我们都知道数据采集指的是我们向目标网站发出请求，然后获取到数据后把有用数据提取的程序。所需要用到的技术就是模拟浏览器向站点发出请求行为，把站点返回的各种数据保存到本地在进行有用数据的过滤。

爬虫的框架有很多，Scrapy是用纯Python实现一个为了爬取网站数据、提取结构性数据而编写的应用框架，用途非常广泛。这几天有接触PHP，发现使用php框架，你不用了解爬虫的底层技术实现，爬虫被网站屏蔽、有些网站需要登录或验证码识别才能爬取等问题。简单几行PHP代码，就可以创建自己的爬虫，利用框架封装的多进程Worker类库，代码更简洁，执行效率更高速度更快。简单的使用这个框架爬取了一些数据，发现还是挺方便的。

代理IP一直都是爬虫的重点，这里放下php程序直中配置代理的简单示例，为自己的学习做个小笔记。

1. <?php
   
2. // 要访问的目标页面
   
3. $url = "http://httpbin.org/ip";
   
4. $urls = "https://httpbin.org/ip";
   
5. // 代理服务器(产品官网 www.16yun.cn)
   
6. define("PROXY_SERVER", "tcp://t.16yun.cn:31111");
   
7. // 代理身份信息
   
8. define("PROXY_USER", "username");
   
9. define("PROXY_PASS", "password");
   
10. $proxyAuth = base64_encode(PROXY_USER . ":" . PROXY_PASS);
    
11. // 设置 Proxy tunnel
    
12. $tunnel = rand(1,10000);
    
13. $headers = implode("\r\n", [
    
14. "Proxy-Authorization: Basic {$proxyAuth}",
    
15. "Proxy-Tunnel: ${tunnel}",
    
16. ]);
    
17. $sniServer = parse\_url($urls, PHP_URL_HOST);
    
18. $options = [
    
19. "http" => [
    
20. "proxy"  => PROXY_SERVER,
    
21. "header" => $headers,
    
22. "method" => "GET",
    
23. 'request_fulluri' => true,
    
24. ],
    
25. 'ssl' => array(
    
26. 'SNI_enabled' => true, // Disable SNI for https over http proxies
    
27. 'SNI_server_name' => $sniServer
    
28. )
    
29. ];
    
30. print($url);
    
31. $context = stream\_context\_create($options);
    
32. $result = file\_get\_contents($url, false, $context);
    
33. var_dump($result);
    
34. // 访问 HTTPS 页面
    
35. print($urls);
    
36. $context = stream\_context\_create($options);
    
37. $result = file\_get\_contents($urls, false, $context);
    
38. var_dump($result);

复制代码

zchzzz

1231231231