IP代理的設(shè)計和日常維護(hù)
無論是免費代理IP軟件，還是買付費代理IP，都可以在本地設(shè)計一個IP池。這樣不僅使用方便，還能提高工作效率。那么如何在本地設(shè)置代理IP池呢？下面簡單介紹一下IP代理的設(shè)計和日常維護(hù)。
一、代理IP軟件采集接口
如果是抓取免費代理IP軟件，使用ProxyGetter接口從免費代理源網(wǎng)站抓取最新的代理IP軟件；如果是付費代理IP，一般會有API提供對IP的訪問，會有一定的限制，比如每次提取多少，提取多少秒。
二、代理IP軟件數(shù)據(jù)庫
用于存儲在動態(tài)VPS上獲得的代理IP軟件。建議選擇SSDB。SSDB表現(xiàn)突出，基本相當(dāng)于雷迪斯。Redis是內(nèi)存類型，容量問題是軟肋，內(nèi)存成本太高。鑒于這一弱點，SSDB使用硬盤存儲和谷歌 s的高性能存儲引擎LevelDB，適合大數(shù)據(jù)處理，性能優(yōu)化到Redis級別。
三、代理IP軟件測試計劃
IP代理軟件具有時效性。無論是免費代理IP軟件還是付費代理IP，都是有有效期的，過了有效期就失效了，所以要檢查其有效性。設(shè)置定時檢測方案，檢測代理IP的有效性，刪除無效IP和高延遲IP，并給出預(yù)警。當(dāng)IP池中的IP小于某個閾值時，將通過代理IP獲取接口獲取新的IP。
四、代理IP池的外部接口
有了lIP撥號服務(wù)器獲得的代理IP池，就需要設(shè)計一個外部接口，通過這個接口可以調(diào)用IP池中的IP供爬蟲使用。代理IP池功能比較簡單，用Flask就可以了，功能可以是為爬蟲提供采集/刪除/刷新界面，方便爬蟲直接使用。
精靈IP代理為了方便爬蟲的使用，提高效率，設(shè)計盡量簡單方便如果使用付費代理，對爬蟲的要求不高，則不需要建立本地代理IP池。
