MLFlow服務日誌

[BeardyMan]

當使用Azure磚、服務的一個模型,我們已收到請求獲取額外的日誌記錄。在某些情況下,他們希望捕獲輸入和輸出,甚至從管道的一些步驟。

有什麼方法我們可以擴展日誌MLFlow rest端點捕獲額外需要的信息?

[BeardyMan]

謝謝你的澄清,我明白你的意思了,這正是我希望的!

[ChenranLi · Accepted solution]

這是一個定製的模型基於sklearn模型“GradientBoostingClassifier”:

類CustomizedGradientBoostingClassifier (sklearn.ensemble.GradientBoostingClassifier): def __init__(自我,random_state):超級(). __init__ (random_state = random_state) def適合(自我,X, y):超級()。fit (X, y) def predict_proba(自我,X_test):超級()返回.predict_proba (X_test) def預測(自我,X): #做定製的任務(例如下一個RPC調用日誌輸入和輸出)#例如,您也可以返回不僅預測結果,而且輸入返回(super () .predict (X), X)

你可以注冊模型像往常一樣。當您調用REST端點,它一些自定義的預測()函數,並返回不僅預測結果,而且輸入。

[BeardyMan]

謝謝李@Chenran例子是非常有用的。我就一定要試試這個!

[Dan_Z]

另一個詞從一個磚雇員:

”“”

你可以使用自定義模型的方法,但是配置它是痛苦的。加上你已經結束每個loggable模型在自定義模型。另一個低侵入性的解決方案是有一個代理服務器的日誌,然後聽從MLflow模型服務器。看到非常基本的POC:https://github.com/amesar/mlflow-model-monitoring

也為先進的監測檢查塞爾登不在場證明。

”“

[BeardyMan]

謝謝你,丹。我們最初建議的路線使用azure api經理或使用azure的功能就像一個api包裝器做我們想要的日誌和調用mlfmow模型上的轉發服務端點。我在想如果有一個更好的選擇或其他明顯的缺失。