MLflow TensorFlow,一個開源的節目

通過之一Apurva科技

2019年8月19日在公司博客上

分享這篇文章

今年夏天,我實習在ML平台上的團隊。Beplay体育安卓版本我在工作MLflow機器學習,一個開源的管理框架。

這篇文章詳細描述了我做過的項目中,和我的經驗在磚。自動記錄功能我發達讓數據科學家更容易跟蹤他們的培訓課程,而無需改變任何代碼的訓練。我做了改進MLflow log_batch端點,這導致了戲劇性的減少日誌記錄時間。最後,我幫助修改MLflow的開源社區政策,改善我們的GitHub問題反應率。

自動記錄從Keras和TensorFlow

跟蹤與MLflow

培訓機器學習模型可能很複雜。它涉及到參數調優,多次迭代數據集,等等。MLflow的跟蹤API使其更容易找到一個合適的模型,為日誌記錄指標提供端點,從模型訓練參數和其他數據。數據從多個運行(單個執行培訓計劃)是集中在追蹤服務器,默認為本地存儲如果沒有設置一個外部數據庫。

讓我們看看如何添加MLflow跟蹤一些現有的ML代碼。我們先從Keras IMDB情緒分析的例子,並添加一個回調與日誌語句,每個日誌一個值。

類MlflowCallback(keras.callbacks.Callback):#這個函數將調用每個時代之後。defon_epoch_end(自我,時代,日誌=沒有一個):如果不日誌:返回#從Keras MLflow記錄指標mlflow.log_metric(“loss”, logs[“loss”], step=epoch)mlflow.log_metric(“acc”, logs[“acc”], step=epoch)#這個函數將調用訓練後完成。defon_train_end(自我,日誌=沒有一個):mlflow.log_param (“num_layers”,len(self.model.layers))mlflow.log_param (“optimizer_name”,類型(self.model.optimizer) .__name__)模型。編譯(損失=“categorical_crossentropy”,優化器=“亞當”,指標= [“準確性”])
              曆史=模型。適合(x_train, y_train,batch_size = batch_size,時代=時代,verbose =1,指標=(“準確性”)validation_split =0.1,回調函數= [MlflowCallback ()))

我們的數據已經被抓獲,我們可以通過MLflow UI視圖可視化。

自動跟蹤

跟蹤API是簡單和直接用於小型培訓工作。但在我們的代碼中添加日誌語句對更複雜的工作有幾個缺點:

它可以是乏味的。
大量的跟蹤代碼的存在可以使培訓的代碼難以推斷。
它可能使跟蹤困難用於用戶不熟悉的技術細節的培訓。

如果我們的那些日誌語句後麵一個函數調用會記錄所有重要的信息嗎?我們可以照顧所有這些問題。進入自動對數。

出於演示,我將autolog函數調用添加到上麵的例子一樣。

進口mlflow.kerasmlflow.keras.autolog ()#這是你所需要的!max_words =1000年batch_size =32時代=5模型。編譯(損失=“categorical_crossentropy”,優化器=“亞當”,指標= [“準確性”])
              曆史=模型。適合(x_train, y_train,batch_size = batch_size,時代=時代,verbose =1validation_split =0.1)

運行程序後,您可以查看結果MLflow UI中。

https://www.youtube.com/watch?v=0A0mZ7fa2Lc

autologger已經產生一個對應於運行我們的單訓練通過。它包含了層數、優化器名稱、學習速率和ε值作為參數;損失和準確性在每一步的培訓和驗證階段;模型的總結,作為一個標簽;最後,作為工件模型檢查點。

引擎蓋下麵

目標:自動記錄重要信息零培訓代碼更改。

在一個理想世界裏,你不需要任何日誌語句(即如果相關的培訓功能。model.fitKeras,estimator.train對於TensorFlow估計等)內部調用mlflow.log_metric在必要的時候。如果我們發生什麼呢?

因為功能一流的值在Python中,所有您需要做的是建立一個包裝器函數,你想要什麼,調用訓練函數,並設置訓練函數指包裝器函數!為了簡化獲取/設置功能的過程中,我使用大猩猩。

這是如何mlflow.keras.autolog ()真正的工作:

defautolog():@gorilla.patch (keras.Model)def適合(自我,* args, * * kwargs):原始= gorilla.get_original_attribute (keras.Model,“健康”)如果len(args) > =6:l =列表(參數)l (5)+ = (__MLflowKerasCallback ())args =元組(左)elif“回調”在kwargs:kwargs [“回調”)+ = (__MLflowKerasCallback ())其他的:kwargs [“回調”]= [__MLflowKerasCallback ())返回原始(自我,* args, * * kwargs)設置= gorilla.Settings (allow_hit =真正的store_hit =真正的)補丁= gorilla.Patch (keras.Model,“健康”、配合設置=設置)gorilla.apply(補丁)