分类：CURL

1.使用Snoopy或curl传搜索引擎爬虫的USERAGENT值。

查看搜索引擎爬虫的USERAGENT值：http://www.cnblogs.com/grimm/p/5068092.html （http://www.geekso.com/spdier-useragent/  ）

2.使用Snoopy或curl传referer值。

如：$snoopy->referer = ‘http://www.google.com’;

$header[] = “Referer: http://www.google.com/”;

3.使用Snoopy或curl代理。

如：$snoopy->proxy_host  = “59.108.44.41”;          $

snoopy->proxy_port  = “3128”;

4.使用Snoopy或curl防造IP。

如：$snoopy->rawheaders[‘X_FORWARDED_FOR’] = ‘127.0.0.1’;

$snoopy->rawheaders[‘CLIENT-IP’] = ‘127.0.0.1’;

5.用php写一个重起路由器的程序，这样就会获得新的ip地址。

6.如果发现重起路由器还是显示被封，有可能对方封了你路由器的mac地址，现在路由器都有修改MAC的功能，可以写程序或手动修改路由器的MAC地址。

例如：

$ch = curl_init($url);
curl_setopt($ch, CURLOPT_HEADER, 0 ); // 过滤HTTP头
curl_setopt($ch, CURLOPT_TIMEOUT, 40);
curl_setopt($ch, CURLOPT_USERAGENT, ‘Baiduspider+(+http://www.baidu.com/search/spider.htm)’);

$ip = ‘220.181.7.121’;
curl_setopt($ch, CURLOPT_HTTPHEADER, array(‘X-FORWARDED-FOR:’ . $ip, ‘CLIENT-IP:’ . $ip));
curl_setopt($ch, CURLOPT_REFERER, “http://www.baidu.com/search/spider.html”);

curl_setopt($ch,CURLOPT_RETURNTRANSFER, 1);// 显示输出结果
echo $responseText = curl_exec($ch);
curl_close($ch)

http://www.cnblogs.com/grimm/p/5068082.html

/*
*@通过curl方式获取指定的图片到本地
*@ 完整的图片地址
*@ 要存储的文件名
*/
function getImg($url = "", $filename = "")
{

 //去除URL连接上面可能的引号
  //$url = preg_replace( '/(?:^['"]+|['"/]+$)/', '', $url );
  $hander = curl_init();
  $fp =<span class="Apple-converted-space"> </span><a href="http://www.php100.com/tags.php/fopen/" target="_blank">fopen</a>($filename,'wb');
  <a href="http://www.php100.com/tags.php/curl_setopt/" target="_blank">curl_setopt</a>($hander,CURLOPT_URL,$url);
  curl_setopt($hander,CURLOPT_FILE,$fp);
  curl_setopt($hander,CURLOPT_HEADER,0);
  curl_setopt($hander,CURLOPT_FOLLOWLOCATION,1);
  //curl_setopt($hander,CURLOPT_RETURNTRANSFER,false);//以数据流的方式返回数据,当为false是直接显示出来
  curl_setopt($hander,CURLOPT_TIMEOUT,60);
  curl_exec($hander);
  curl_close($hander);
  fclose($fp);
  Return true;
}

调用时，直接getImg("/logo.jpg","upload/image.jpg")

&nbsp;

&nbsp;

 

<?php

$url = "图片绝对地址/thumbnail.jpg";

$filename = 'curl.jpg';

getImg($url, $filename);
/*
  *@通过curl方式获取制定的图片到本地
  *@ 完整的图片地址
  *@ 要存储的文件名
 */
function getImg($url = "", $filename = "") {
    if(is_dir(basename($filename))) {
        echo "The Dir was not exits";
        return false;
    }
    //去除URL连接上面可能的引号
    $url = preg_replace( '/(?:^['"]+|['"/]+$)/', '', $url );

    $hander = curl_init();
    $fp = fopen($filename,'wb');

    curl_setopt($hander,CURLOPT_URL,$url);
    curl_setopt($hander,CURLOPT_FILE,$fp);
    curl_setopt($hander,CURLOPT_HEADER,0);
    curl_setopt($hander,CURLOPT_FOLLOWLOCATION,1);
    //curl_setopt($hander,CURLOPT_RETURNTRANSFER,false);//以数据流的方式返回数据,当为false是直接显示出来
    curl_setopt($hander,CURLOPT_TIMEOUT,60);

    /*$options = array(
        CURLOPT_URL=> '/thum-f3ccdd27d2000e3f9255a7e3e2c4880020110622095243.jpg',
        CURLOPT_FILE => $fp,
        CURLOPT_HEADER => 0,
        CURLOPT_FOLLOWLOCATION => 1,
        CURLOPT_TIMEOUT => 60
    );
    curl_setopt_array($hander, $options);
    */

    curl_exec($hander);
    curl_close($hander);
    fclose($fp);
    return  true;
}

?>

PHP脚本里使用curl系列的函数GET某资源地址, 结果报错：Couldn’t resolve host “ip.taobao.com”

PHP代码：

1. public function actionDemo()
2. {
3. $url = “http://ip.taobao.com”;
4. $rs = Helper_Tool::curlGet($url);
5. var_dump($rs);
6. }

问题原因：

1.  问题最终出在 ipv6 上

2.  附：博主自身已经校验确保主机的DNS 以及 hosts均无问题

3.  附：另外使用如下代码使用DNS缓存或者禁用ipv6也无济于事：

curl_setopt($ch, CURLOPT_DNS_USE_GLOBAL_CACHE, false );


curl_setopt($ch, CURLOPT_DNS_CACHE_TIMEOUT, 2 );

curl_setopt($ch, CURLOPT_IPRESOLVE, CURL_IPRESOLVE_V4 );


解决方法：

系统层面禁用 ipv6 模块即可

禁用ipv6:

1. #vi /etc/modprobe.d/dist.conf
2. 添加下面两行内容
3. alias net–pf–10 off
4. alias ipv6 off
5. 保存退出，并且重新启动系统
6.  
7. 验证ipv6模块是否加载
8. #lsmod|grep ipv6
9.  
10. 开机不启动
11. #chkconfig ip6tables off

http://www.blogdaren.com/post-2306.html