centos7生产环境IP代理池(python)-创新互联-成都创新互联网站建设

关于创新互联

多方位宣传企业产品与服务 突出企业形象

公司简介 公司的服务 荣誉资质 新闻动态 联系我们

centos7生产环境IP代理池(python)-创新互联

最近在研究爬虫,需要在前面部署IP代理池,于是在开源中国找到proxy pool。可以自动抓取国内几个免费IP代理网站的IP,并实时校验IP的可用性,数据库为SSDB。
IP代理池网站:
http://www.data5u.com/
http://www.data5u.com/free/
http://www.data5u.com/free/gngn/index.shtml
http://www.data5u.com/free/gnpt/index.shtml
http://www.66ip.cn/
http://www.ip181.com/
http://www.xicidaili.com/nn
http://www.xicidaili.com/nt
http://www.goubanjia.com/free/gngn/index.shtml
http://www.xdaili.cn/ipagent/freeip/getFreeIps?page=1&rows=10

目前创新互联建站已为超过千家的企业提供了网站建设、域名、虚拟主机绵阳服务器托管、企业网站设计、槐荫网站维护等服务,公司将坚持客户导向、应用为本的策略,正道将秉承"和谐、参与、激情"的文化,与客户和合作伙伴齐心协力一起成长,共同发展。

2 yum -y install git
3 yum –y install wget
4 yum install curl-devel expat-devel gettext-devel openssl-devel zlib-devel
5 yum install gcc perl-ExtUtils-MakeMaker epel-release gcc-c++
8 cd /usr/src/
16 wget https://www.kernel.org/pub/software/scm/git/git-2.9.5.tar.gz #安装克隆工具git
17 tar -xzf git-2.9.5.tar.gz
18 cd git-2.9.5
19 make prefix=/usr/local/git all
20 make prefix=/usr/local/git install
21 echo "export PATH=$PATH:/usr/local/git/bin" >> /etc/bashrc
22 source /etc/bashrc
23 cd ..
24 git clone https://github.com/jhao104/proxy_pool.git #克隆proxy_pool
25 cd proxy_pool/
26 python –V #查看python版本2.7.5
27 yum -y install python34 #安装python 3.4
28 wget --no-check-certificate https://bootstrap.pypa.io/get-pip.py
29 python3 get-pip.py #安装pip
30 pip install -r requirements.txt #proxy_pool的安装依赖包
32 cd /usr/local/
33 git clone https://github.com/ideawu/ssdb.git #克隆SSDB
34 cd ssdb
35 yum -y install autoconf
37 cd deps/snappy-1.1.0/ #编译Snappy
38 ./configure
39 make
40 cd /usr/local/ssdb
41 make #安装SSDB
42 make install
43 ln -sf /usr/local/ssdb/ssdb-server /usr/local/bin/ssdb-server
44 ln -sf /usr/local/ssdb/tools/ssdb-cli /usr/local/bin/ssdb-cli
45 ln -sf /usr/local/ssdb/tools/ssdb-dump /usr/local/bin/ssdb-dump
46 ln -sf /usr/local/ssdb/tools/ssdb-repair /usr/local/bin/ssdb-repair
47 ln -sf /usr/local/ssdb/tools/ssdb.sh /etc/rc.d/init.d/ssdb
48 chkconfig --add ssdb
49 chkconfig ssdb on
50 systemctl stop firewalld.service #关闭防火墙
51 systemctl disable firewalld.service
52 firewall-cmd --state
53 pip install --upgrade pyssdb
启动proxy_pool顺序
1 cd /usr/local/ssdb
2 ./ssdb-server -d ./ssdb.conf -s start
注意:ssdb服务在启动的时候会在 var 目录下生成一个ssdb.pid文件,当ssdb由于意外关闭的时候这个文件不会被删除,因此当重新启动ssdb服务的时候,会报误,因此运行下面2行命令可以手动重启。
./ssdb-server ssdb.conf -s stop
./ssdb-server -d ./ssdb.conf -s restart

3 cd /usr/src/proxy_pool/Run
4 python3.4 main.py #用python3.4启动

客户端访问
http://ip:5010/
http://ip:5010/get (随机调取一个IP及port)
http://ip:5010/get_all (调取所有可用IP及port)

centos7生产环境IP代理池(python)
具体使用请参考https://github.com/jhao104/proxy_pool
本文提供cenots7下的部署详情,在此感谢contributor和j_hao104的无私奉献!

另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。


网页名称:centos7生产环境IP代理池(python)-创新互联
URL地址:http://kswsj.cn/article/cscejs.html

其他资讯