在最初學習PYTHON的時候，只知道有DOM和SAX兩種解析方法，但是其效率都不夠理想，由于需要處理的文件數量太大，這兩種方式耗時太高無法接受。
在網絡搜索后發現，目前應用比較廣泛，且效率相對較高的ElementTree也是一個比較多人推薦的算法，于是拿這個算法來實測對比，ElementTree也包括兩種實現，一個是普通ElementTree（ET），一個是ElementTree.iterparse（ET_iter）。
本文將對DOM、SAX、ET、ET_iter四種方式進行橫向對比，通過處理相同文件比較各個算法的用時來評估其效率。
程序中將四種解析方法均寫為函數，在主程序中分別調用，來評估其解析效率。
解壓后的XML文件內容示例為：
主程序函數調用部分代碼為：
print("文件計數：%d/%d." % (gz_cnt,paser_num)) str_s,cnt = dom_parser(gz) #str_s,cnt = sax_parser(gz) #str_s,cnt = ET_parser(gz) #str_s,cnt = ET_parser_iter(gz) output.write(str_s) vs_cnt += cnt 在最初的函數調用中函數返回兩個值，但接收函數調用值時用兩個變量分別調用，導致每個函數都要執行兩次，之后修改為一次調用兩個變量接收返回值，減少了無效調用。
1、DOM解析
函數定義代碼：
def dom_parser(gz): import gzip,cStringIO import xml.dom.minidom vs_cnt = 0 str_s = '' file_io = cStringIO.StringIO() xm = gzip.open(gz,'rb') print("已讀入：%s./n解析中：" % (os.path.abspath(gz))) doc = xml.dom.minidom.parseString(xm.read()) bulkPmMrDataFile = doc.documentElement #讀入子元素 enbs = bulkPmMrDataFile.getElementsByTagName("eNB") measurements = enbs[0].getElementsByTagName("measurement") objects = measurements[0].getElementsByTagName("object") #寫入csv文件 for object in objects: vs = object.getElementsByTagName("v") vs_cnt += len(vs) for v in vs: file_io.write(enbs[0].getAttribute("id")+' '+object.getAttribute("id")+' '+/ object.getAttribute("MmeUeS1apId")+' '+object.getAttribute("MmeGroupId")+' '+object.getAttribute("MmeCode")+' '+/ object.getAttribute("TimeStamp")+' '+v.childNodes[0].data+'/n') #獲取文本值 str_s = (((file_io.getvalue().replace(' /n','/r/n')).replace(' ',',')).replace('T',' ')).replace('NIL','') xm.close() file_io.close() return (str_s,vs_cnt) 程序運行結果：
**************************************************
程序處理啟動。
輸入目錄為：/tmcdata/mro2csv/input31/。
輸出目錄為：/tmcdata/mro2csv/output31/。
輸入目錄下.gz文件個數為：12，本次處理其中的12個。
**************************************************
文件計數：1/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
解析中：
文件計數：2/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
解析中：
文件計數：3/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
解析中：
………………………………………
文件計數：12/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
解析中：
VS行計數：177849，運行時間：107.077867，每秒處理行數：1660。
已寫入：/tmcdata/mro2csv/output31/mro_0001.csv。
**************************************************
程序處理結束。
由于DOM解析需要將整個文件讀入內存，并建立樹結構，其內存消耗和時間消耗都比較高，但其優點在于邏輯簡單，不需要定義回調函數，便于實現。
2、SAX解析
函數定義代碼：
def sax_parser(gz): import os,gzip,cStringIO from xml.parsers.expat import ParserCreate #變量聲明 d_eNB = {} d_obj = {} s = '' global flag flag = False file_io = cStringIO.StringIO() #Sax解析類 class DefaultSaxHandler(object): #處理開始標簽 def start_element(self, name, attrs): global d_eNB global d_obj global vs_cnt if name == 'eNB': d_eNB = attrs elif name == 'object': d_obj = attrs elif name == 'v': file_io.write(d_eNB['id']+' '+ d_obj['id']+' '+d_obj['MmeUeS1apId']+' '+d_obj['MmeGroupId']+' '+d_obj['MmeCode']+' '+d_obj['TimeStamp']+' ') vs_cnt += 1 else: pass #處理中間文本 def char_data(self, text): global d_eNB global d_obj global flag if text[0:1].isnumeric(): file_io.write(text) elif text[0:17] == 'MR.LteScPlrULQci1': flag = True #print(text,flag) else: pass #處理結束標簽 def end_element(self, name): global d_eNB global d_obj if name == 'v': file_io.write('/n') else: pass #Sax解析調用 handler = DefaultSaxHandler() parser = ParserCreate() parser.StartElementHandler = handler.start_element parser.EndElementHandler = handler.end_element parser.CharacterDataHandler = handler.char_data vs_cnt = 0 str_s = '' xm = gzip.open(gz,'rb') print("已讀入：%s./n解析中：" % (os.path.abspath(gz))) for line in xm.readlines(): parser.Parse(line) #解析xml文件內容 if flag: break str_s = file_io.getvalue().replace(' /n','/r/n').replace(' ',',').replace('T',' ').replace('NIL','') #寫入解析后內容 xm.close() file_io.close() return (str_s,vs_cnt) 程序運行結果：
**************************************************
程序處理啟動。
輸入目錄為：/tmcdata/mro2csv/input31/。
輸出目錄為：/tmcdata/mro2csv/output31/。
輸入目錄下.gz文件個數為：12，本次處理其中的12個。
**************************************************
文件計數：1/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
解析中：
文件計數：2/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
解析中：
文件計數：3/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
解析中：
.........................................
文件計數：12/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
解析中：
VS行計數：177849，運行時間：14.386779，每秒處理行數：12361。
已寫入：/tmcdata/mro2csv/output31/mro_0001.csv。
**************************************************
程序處理結束。
SAX解析相比DOM解析，運行時間大幅縮短，由于SAX采用逐行解析，對于處理較大文件其占用內存也少，因此SAX解析是目前應用較多的一種解析方法。其缺點在于需要自己實現回調函數，邏輯較為復雜。
3、ET解析
函數定義代碼：
def ET_parser(gz): import os,gzip,cStringIO import xml.etree.cElementTree as ET vs_cnt = 0 str_s = '' file_io = cStringIO.StringIO() xm = gzip.open(gz,'rb') print("已讀入：%s./n解析中：" % (os.path.abspath(gz))) tree = ET.ElementTree(file=xm) root = tree.getroot() for elem in root[1][0].findall('object'): for v in elem.findall('v'): file_io.write(root[1].attrib['id']+' '+elem.attrib['TimeStamp']+' '+elem.attrib['MmeCode']+' '+/ elem.attrib['id']+' '+ elem.attrib['MmeUeS1apId']+' '+ elem.attrib['MmeGroupId']+' '+ v.text+'/n') vs_cnt += 1 str_s = file_io.getvalue().replace(' /n','/r/n').replace(' ',',').replace('T',' ').replace('NIL','') #寫入解析后內容 xm.close() file_io.close() return (str_s,vs_cnt) 程序運行結果：
**************************************************
程序處理啟動。
輸入目錄為：/tmcdata/mro2csv/input31/。
輸出目錄為：/tmcdata/mro2csv/output31/。
輸入目錄下.gz文件個數為：12，本次處理其中的12個。
**************************************************
文件計數：1/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
解析中：
文件計數：2/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
解析中：
文件計數：3/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
解析中：
...........................................
文件計數：12/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
解析中：
VS行計數：177849，運行時間：4.308103，每秒處理行數：41282。
已寫入：/tmcdata/mro2csv/output31/mro_0001.csv。
**************************************************
程序處理結束。
相較于SAX解析，ET解析時間更短，并且函數實現也比較簡單，所以ET具有類似DOM的簡單邏輯實現且匹敵SAX的解析效率，因此ET是目前XML解析的首選。
4、ET_iter解析
函數定義代碼：
def ET_parser_iter(gz): import os,gzip,cStringIO import xml.etree.cElementTree as ET vs_cnt = 0 str_s = '' file_io = cStringIO.StringIO() xm = gzip.open(gz,'rb') print("已讀入：%s./n解析中：" % (os.path.abspath(gz))) d_eNB = {} d_obj = {} i = 0 for event,elem in ET.iterparse(xm,events=('start','end')): if i >= 2: break elif event == 'start': if elem.tag == 'eNB': d_eNB = elem.attrib elif elem.tag == 'object': d_obj = elem.attrib elif event == 'end' and elem.tag == 'smr': i += 1 elif event == 'end' and elem.tag == 'v': file_io.write(d_eNB['id']+' '+d_obj['TimeStamp']+' '+d_obj['MmeCode']+' '+d_obj['id']+' '+/ d_obj['MmeUeS1apId']+' '+ d_obj['MmeGroupId']+' '+str(elem.text)+'/n') vs_cnt += 1 elem.clear() str_s = file_io.getvalue().replace(' /n','/r/n').replace(' ',',').replace('T',' ').replace('NIL','') #寫入解析后內容 xm.close() file_io.close() return (str_s,vs_cnt) 程序運行結果：
**************************************************
程序處理啟動。
輸入目錄為：/tmcdata/mro2csv/input31/。
輸出目錄為：/tmcdata/mro2csv/output31/。
輸入目錄下.gz文件個數為：12，本次處理其中的12個。
**************************************************
文件計數：1/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
解析中：
文件計數：2/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
解析中：
文件計數：3/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
解析中：
...................................................
文件計數：12/12.
已讀入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
解析中：
VS行計數：177849，運行時間：3.043805，每秒處理行數：58429。
已寫入：/tmcdata/mro2csv/output31/mro_0001.csv。
**************************************************
程序處理結束。
在引入了ET_iter解析后，解析效率比ET提升了近50%，而相較于DOM解析更是提升了35倍，在解析效率提升的同時，由于其采用了iterparse這個循序解析的工具，其內存占用也是比較小的。
所以，小伙伴們，請好好利用這幾種工具吧。
以上就是本文的全部內容，希望對大家的學習有所幫助。
