Python3多線程爬蟲(chóng)講解
多線程概述
多線程使得程序內(nèi)部可以分出多個(gè)線程來(lái)做多件事情,充分利用CPU空閑時(shí)間,提升處理效率。python提供了兩個(gè)模塊來(lái)實(shí)現(xiàn)多線程thread和threading,thread有一些缺點(diǎn),在threading得到了彌補(bǔ)。并且在Python3中廢棄了thread模塊,保留了更強(qiáng)大的threading模塊。
使用場(chǎng)景
在python的原始解釋器CPython中存在著GIL(GlobalInterpreterLock,全局解釋器鎖),因此在解釋執(zhí)行python代碼時(shí),會(huì)產(chǎn)生互斥鎖來(lái)限制線程對(duì)共享資源的訪問(wèn),直到解釋器遇到I/O操作或者操作次數(shù)達(dá)到一定數(shù)目時(shí)才會(huì)釋放GIL。所以,雖然CPython的線程庫(kù)直接封裝了系統(tǒng)的原生線程,但CPython整體作為一個(gè)進(jìn)程,同一時(shí)間只會(huì)有一個(gè)獲得GIL的線程在跑,其他線程則處于等待狀態(tài)。這就造成了即使在多核CPU中,多線程也只是做著分時(shí)切換而已。
如果你的程序是CPU密集型,多個(gè)線程的代碼很有可能是線性執(zhí)行的。所以這種情況下多線程是雞肋,效率可能還不如單線程因?yàn)橛猩舷挛那袚Q開(kāi)銷(xiāo)。但是如果你的代碼是IO密集型,涉及到網(wǎng)絡(luò)、磁盤(pán)IO的任務(wù)都是IO密集型任務(wù),多線程可以明顯提高效率,例如多線程爬蟲(chóng),多線程文件處理等等
以上內(nèi)容為大家介紹了Python3多線程爬蟲(chóng)講解,希望對(duì)大家有所幫助,如果想要了解更多Python相關(guān)知識(shí),請(qǐng)關(guān)注IT培訓(xùn)機(jī)構(gòu):千鋒教育。http://www.mobiletrain.org/

猜你喜歡LIKE
相關(guān)推薦HOT
更多>>
如何使用Pandas處理Excel?
如何使用Pandas處理Excel?做過(guò)行政或者人事,或者對(duì)此有過(guò)了解的小伙伴,一定對(duì)下發(fā)各個(gè)部分的表有著非常深刻的印象,最常見(jiàn)的就是需要我們將一...詳情>>
2023-11-14 07:43:15
python中np.insert()函數(shù)的使用方法
python中np.insert()函數(shù)的使用方法在numpy數(shù)組操作中,np.append()方法可以在每行每列的最后添加數(shù)據(jù),但其位置是規(guī)定的,那如果想要指定添加...詳情>>
2023-11-14 05:06:13
SVM在python中的原理如何理解?
SVM在python中的原理如何理解?在python中除了編程化的知識(shí)點(diǎn)外,對(duì)于數(shù)學(xué)方法的算法也有所涉及,SVM就是一種很好地體現(xiàn)。我們學(xué)習(xí)過(guò)數(shù)學(xué)中的坐...詳情>>
2023-11-14 04:30:04
python處理絕對(duì)路徑和相對(duì)路徑函數(shù)有哪些?
python處理絕對(duì)路徑和相對(duì)路徑函數(shù)有哪些?絕對(duì)路徑和相對(duì)路徑是什么?絕對(duì)路徑:從根文件夾開(kāi)始,Windows系統(tǒng)以盤(pán)符(C:)作為根文件夾,OSX或Lin...詳情>>
2023-11-14 03:33:02熱門(mén)推薦
如何使用python any()判斷多元素?
沸如何使用Pandas處理Excel?
熱python函數(shù)中的參數(shù)有哪些?
熱python中pygal模塊如何使用?
新Python的excel處理操作
python中doctest庫(kù)是什么?
python中series是什么意思
python中np.insert()函數(shù)的使用方法
SVM在python中的原理如何理解?
Python描述符中有哪三種方法?
python處理絕對(duì)路徑和相對(duì)路徑函數(shù)有哪些?
python單繼承和多繼承如何定義?
python封裝中的私有如何理解?
python模塊引入的三種方式
技術(shù)干貨







快速通道 更多>>
-
課程介紹
點(diǎn)擊獲取大綱 -
就業(yè)前景
查看就業(yè)薪資 -
學(xué)習(xí)費(fèi)用
了解課程價(jià)格 -
優(yōu)惠活動(dòng)
領(lǐng)取優(yōu)惠券 -
學(xué)習(xí)資源
領(lǐng)3000G教程 -
師資團(tuán)隊(duì)
了解師資團(tuán)隊(duì) -
實(shí)戰(zhàn)項(xiàng)目
獲取項(xiàng)目源碼 -
開(kāi)班地區(qū)
查看來(lái)校路線