国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

解決tensorflow模型參數保存和加載的問題

2020-01-04 14:46:36
字體:
來源:轉載
供稿:網友

終于找到bug原因!記一下;還是不熟悉平臺的原因造成的!

Q:為什么會出現兩個模型對象在同一個文件中一起運行,當直接讀取他們分開運行時訓練出來的模型會出錯,而且總是有一個正確,一個讀取錯誤? 而 直接在同一個文件又訓練又重新加載模型預測不出錯,而且更詭異的是此時用分文件里的對象加載模型不會出錯?

model.py,里面含有 ModelV 和 ModelP,另外還有 modelP.py 和 modelV.py 分別只含有 ModelP 和 ModeV 這兩個對象,先使用 modelP.py 和 modelV.py 分別訓練好模型,然后再在 model.py 里加載進來:

# -*- coding: utf8 -*-import tensorflow as tfclass ModelV(): def __init__(self):  self.v1 = tf.Variable(66, name="v1")  self.v2 = tf.Variable(77, name="v2")  self.save_path = "model_v/model.ckpt"  self.init = tf.global_variables_initializer()  self.saver = tf.train.Saver()  self.sess = tf.Session() def train(self):  self.sess.run(self.init)  print 'v2', self.v2.eval(self.sess)  self.saver.save(self.sess, self.save_path)  print "ModelV saved." def predict(self):  all_vars = tf.trainable_variables()  for v in all_vars:   print(v.name)  self.saver.restore(self.sess, self.save_path)  print "ModelV restored."  print 'v2', self.v2.eval(self.sess)  print '------------------------------------------------------------------'class ModelP(): def __init__(self):  self.p1 = tf.Variable(88, name="p1")  self.p2 = tf.Variable(99, name="p2")  self.save_path = "model_p/model.ckpt"  self.init = tf.global_variables_initializer()  self.saver = tf.train.Saver()  self.sess = tf.Session() def train(self):  self.sess.run(self.init)  print 'p2', self.p2.eval(self.sess)  self.saver.save(self.sess, self.save_path)  print "ModelP saved." def predict(self):  all_vars = tf.trainable_variables()  for v in all_vars:   print v.name  self.saver.restore(self.sess, self.save_path)  print "ModelP restored."  print 'p2', self.p2.eval(self.sess)  print '---------------------------------------------------------------------'if __name__ == '__main__': v = ModelV() p = ModelP() v.predict() #v.train() p.predict()  #p.train()

這里 tf.global_variables_initializer() 很關鍵! 盡管你是分別在對象 ModelP 和 ModelV 內部分配和定義的 tf.Variable(),即 v1 v2 和 p1 p2,但是 對 tf 這個模塊而言, 這些都是全局變量,可以通過以下代碼查看所有的變量,你就會發現同一個文件中同時運行 ModelP 和 ModelV 在初始化之后都打印出了一樣的變量,這個是問題的關鍵所在:

all_vars = tf.trainable_variables()for v in all_vars: print(v.name)

錯誤。你可以交換 modelP 和 modelV 初始化的順序,看看錯誤信息的變化

v1:0v2:0p1:0p2:0ModelV restored.v2 77v1:0v2:0p1:0p2:0W tensorflow/core/framework/op_kernel.cc:975] Not found: Key v2 not found in checkpointW tensorflow/core/framework/op_kernel.cc:975] Not found: Key v1 not found in checkpoint

實際上,分開運行時,模型保存的參數是正確的,因為在一個模型里的Variable就只有 v1 v2 或者 p1 p2; 但是在一個文件同時運行的時候,模型參數實際上保存的是 v1 v2 p1 p2四個,因為在默認情況下,創建的Saver,會直接保存所有的參數。而 Saver.restore() 又是默認(無Variable參數列表時)按照已經定義好的全局模型變量來加載對應的參數值, 在進行 ModelV.predict時,按照順序(從debug可以看出,應該是按照參數順序一次檢測)在模型文件中查找相應的 key,此時能夠找到對應的v1 v2,加載成功,但是在 ModelP.predict時,在model_p的模型文件中找不到 v1 和 v2,只有 p1 和 p2, 此時就會報錯;不過這里的 第一次加載 還有 p1 p2 找不到沒有報錯,解釋不通, 未完待續

Saver.save() 和 Saver.restore() 是一對, 分別只保存和加載模型的參數, 但是模型的結構怎么知道呢? 必須是你定義好了,而且要和保存的模型匹配才能加載;

如果想要在不定義模型的情況下直接加載出模型結構和模型參數值,使用

# 加載 結構,即 模型參數 變量等new_saver = tf.train.import_meta_graph("model_v/model.ckpt.meta")print "ModelV construct"all_vars = tf.trainable_variables()for v in all_vars: print v.name #print v.name,v.eval(self.sess) # v 都還未初始化,不能求值# 加載模型 參數變量 的 值new_saver.restore(self.sess, tf.train.latest_checkpoint('model_v/'))print "ModelV restored."all_vars = tf.trainable_variables()for v in all_vars: print v.name,v.eval(self.sess)

加載 結構,即 模型參數 變量等完成后,就會有變量了,但是不能訪問他的值,因為還未賦值,然后再restore一次即可得到值了

那么上述錯誤的解決方法就是這個改進版本的model.py;其實 tf.train.Saver 是可以帶參數的,他可以保存你想要保存的模型參數,如果不帶參數,很可能就會保存 tf.trainable_variables() 所有的variable,而 tf.trainable_variables()又是從 tf 全局得到的,因此只要在模型保存和加載時,構造對應的帶參數的tf.train.Saver即可,這樣就會保存和加載正確的模型了

# -*- coding: utf8 -*-import tensorflow as tfclass ModelV(): def __init__(self):  self.v1 = tf.Variable(66, name="v1")  self.v2 = tf.Variable(77, name="v2")  self.save_path = "model_v/model.ckpt"  self.init = tf.global_variables_initializer()  self.sess = tf.Session() def train(self):  saver = tf.train.Saver([self.v1, self.v2])  self.sess.run(self.init)  print 'v2', self.v2.eval(self.sess)  saver.save(self.sess, self.save_path)  print "ModelV saved." def predict(self):  saver = tf.train.Saver([self.v1, self.v2])  all_vars = tf.trainable_variables()  for v in all_vars:   print v.name  v_vars = [v for v in all_vars if v.name == 'v1:0' or v.name == 'v2:0']  print "ModelV restored."  saver.restore(self.sess, self.save_path)  for v in v_vars:   print v.name,v.eval(self.sess)   print 'v2', self.v2.eval(self.sess)  print '------------------------------------------------------------------'class ModelP(): def __init__(self):  self.p1 = tf.Variable(88, name="p1")  self.p2 = tf.Variable(99, name="p2")  self.save_path = "model_p/model.ckpt"  self.init = tf.global_variables_initializer()  self.sess = tf.Session() def train(self):  saver = tf.train.Saver([self.p1, self.p2])  self.sess.run(self.init)  print 'p2', self.p2.eval(self.sess)  saver.save(self.sess, self.save_path)  print "ModelP saved." def predict(self):  saver = tf.train.Saver([self.p1, self.p2])  all_vars = tf.trainable_variables()  p_vars = [v for v in all_vars if v.name == 'p1:0' or v.name == 'p2:0']  for v in all_vars:   print v.name   #print v.name,v.eval(self.sess)  saver.restore(self.sess, self.save_path)  print "ModelP restored."  for p in p_vars:   print p.name,p.eval(self.sess)  print 'p2', self.p2.eval(self.sess)  print '----------------------------------------------------------'if __name__ == '__main__': v = ModelV() p = ModelP() v.predict() #v.train() p.predict()  #p.train()

小結: 構造的Saver 最好帶Variable參數,這樣保證 保存和加載能夠正確執行

以上這篇解決tensorflow模型參數保存和加載的問題就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持VEVB武林網。


注:相關教程知識閱讀請移步到python教程頻道。
發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 贵南县| 抚顺县| 岳普湖县| 青浦区| 武夷山市| 资兴市| 岢岚县| 怀集县| 阿图什市| 乌拉特中旗| 石嘴山市| 竹溪县| 河东区| 桑日县| 莱芜市| 扎兰屯市| 阿勒泰市| 襄樊市| 长武县| 柳江县| 安吉县| 南阳市| 广安市| 田林县| 尉犁县| 牙克石市| 安乡县| 镇康县| 涿鹿县| 遵义市| 东兴市| 澄城县| 西安市| 通州区| 延川县| 旌德县| 儋州市| 皮山县| 麦盖提县| 阳曲县| 开封县|