国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

python 實現敏感詞過濾的方法

2020-02-16 00:46:02
字體:
來源:轉載
供稿:網友

如下所示:

#!/usr/bin/python2.6  # -*- coding: utf-8 -*- import time class Node(object):   def __init__(self):     self.children = None  # The encode of word is UTF-8 def add_word(root,word):   node = root   for i in range(len(word)):     if node.children == None:       node.children = {}       node.children[word[i]] = Node()      elif word[i] not in node.children:       node.children[word[i]] = Node()      node = node.children[word[i]]  def init(path):   root = Node()   fp = open(path,'r')   for line in fp:     line = line[0:-1]     #print len(line)     #print line     #print type(line)     add_word(root,line)   fp.close()   return root  # The encode of word is UTF-8 # The encode of message is UTF-8 def is_contain(message, root):   for i in range(len(message)):     p = root     j = i     while (j<len(message) and p.children!=None and message[j] in p.children):       p = p.children[message[j]]       j = j + 1      if p.children==None:       #print '---word---',message[i:j]       return True      return False    def dfa():   print '----------------dfa-----------'   root = init('/tmp/word.txt')    message = '四處亂咬亂吠,嚇得家中11歲的女兒躲在屋里不敢出來,直到轄區派出所民警趕到后,才將孩子從屋中救出。最后在征得主人同意后,民警和村民合力將這只發瘋的狗打死'   #message = '不顧'   print '***message***',len(message)   start_time = time.time()   for i in range(1000):     res = is_contain(message,root)     #print res   end_time = time.time()   print (end_time - start_time)   def is_contain2(message,word_list):   for item in word_list:     if message.find(item)!=-1:       return True   return False  def normal():   print '------------normal--------------'   path = '/tmp/word.txt'   fp = open(path,'r')   word_list = []   message = '四處亂咬亂吠,嚇得家中11歲的女兒躲在屋里不敢出來,直到轄區派出所民警趕到后,才將孩子從屋中救出。最后在征得主人同意后,民警和村民合力將這只發瘋的狗打死'   print '***message***',len(message)   for line in fp:     line = line[0:-1]     word_list.append(line)   fp.close()   print 'The count of word:',len(word_list)   start_time = time.time()   for i in range(1000):     res = is_contain2(message,word_list)     #print res   end_time = time.time()   print (end_time - start_time)    if __name__ == '__main__':   dfa()   normal() 

測試結果:

1) 敏感詞 100個

----------------dfa-----------***message*** 2240.325479984283------------normal--------------***message*** 224The count of word: 1000.107350111008

2) 敏感詞 1000 個

----------------dfa-----------***message*** 2240.324251890182------------normal--------------***message*** 224The count of word: 10001.05939006805

從上面的實驗我們可以看出,在DFA 算法只有在敏感詞較多的情況下,才有意義。在百來個敏感詞的情況下,甚至不如普通算法

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 太保市| 灵宝市| 晴隆县| 工布江达县| 昭通市| 黎川县| 石楼县| 义马市| 梧州市| 马边| 张掖市| 章丘市| 登封市| 邹平县| 台湾省| 通道| 库尔勒市| 肥乡县| 武定县| 奉新县| 开江县| 友谊县| 永定县| 蒙阴县| 耿马| 正宁县| 文化| 正安县| 台山市| 华安县| 文安县| 南宫市| 红原县| 富裕县| 银川市| 深圳市| 新密市| 大竹县| 巴塘县| 九龙坡区| 九龙坡区|