马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要 登录 才可以下载或查看,没有帐号?立即注册
x
大数据时代,网络爬虫使用http代理时,经常会碰到一些问题,让网络爬虫的工作不是那么的顺畅。不过仔细排查,还是可以找出问题并解决问题的,网络爬虫在使用亿牛云API优质代理时会遇到几个问题。 1、白名单授权 使用代理的用户,开通优质HTTP代理IP后,生成API提取链接后,发现提取不到IP,或者提取IP后全部使用不了。经过沟通了解后,发现了如下问题: 您的IP: 125.69.47.134 没在白名单( 125.69.44.227 222.209.8.0 )中 原因:ip白名单不对,需要添加,注意看看对方服务器IP是不是电信或联通的IP 修改IP白名单太频繁 原因:1、ip白名单不对,需要添加,注意看看对方服务器IP是不是电信或联通的IP,同时注意对方是不是开启了IP自动更新选项,如果对方有多个网络出口,就会导致ip自动更新频繁。 False,没有获取到任何代理,速率超过限制 原因:一条代理API链接只能按照指定时间间隔进行访问,注意程序是不是有多个线程访问或一个服务器下有多个软件运行,超出了代理链接提取速度,请用浏览器访问代理API链接,看看中文提示错误描述。如果服务器每秒请求超过一次,会被判断为DDOS攻击行为,直接黑名单处理,停止该行为一段时间后会自动恢复访问许可。 代理提取之后,代理不能访问或访问失败率很高 原因:提取和使用代理IP的机器是不是都绑定了IP白名单,注意看看对方服务器IP是不是电信或联通的IP; 代理能访问,偶尔出现访问失败或提取失败 原因:注意看看对方服务器IP是不是电信或联通的IP,同时询问对方是不是多个IP白名单的情况下,开启了IP自动更新出现了冲突;对方是否控制了代理IP的使用时间,超出了2-10分钟,导致IP失效。 以上问题答案基本上都能解决白名单授权问题 注意:亿牛云API优质代理提取和使用IP的机器必须在白名单内,方可提取和使用 2、IP有效期 亿牛云动态代理IP都有一个生存周期,从提取出来,到失效,就是代理IP的有效期。亿牛云API优质代理有效期是2-10分钟,一些网络爬虫用户在使用亿牛云代理会出现超时问题,这个问题一般是两种原因造成,1:提取和使用的机器IP没在白名单内。2:没有IP有效时间管理,IP有效时间到期了,还在一直使用,导致出现超时问题。所以在使用爬虫代理的时候一定要控制使用好IP的有效时间,才能更加稳定有效的使用。 网络爬虫在使用爬虫代理的时候回遇到各种问题,避免使用出现障碍,一定要了解清楚问题的解决方案。 |