保存VM成本在使用Rest API部署模型在線推理

[jhonw901227]

亞洲開發銀行允許我們部署通過REST API為在線推理模型。這個目標亞行創建一個VM致力於實現一個具體的模型。數據科學家可以創建和部署多個模型測試在線推理,因此成本可以迅速成長路上失控和不必要的因為這些新創建的虛擬機正在運行。

可以關閉它們在某些靜止期?

[Hernandez855]

@John豐益Herrera吉爾,明白了https://community.m.eheci.com/s/question/0D58Y00008oTDBFSA4/expose-low-latency-apis-from-deltalak..。H&R Block登錄

[匿名]

嘿@John豐益Herrera吉爾

希望一切都好!

隻是想檢查如果你能解決你的問題,你會很高興分享解決方案或答案標記為最佳?其他的請讓我們知道如果你需要更多的幫助。

我們很想聽到你的聲音。

謝謝!

[jhonw901227]

謝謝你可以關閉這個解決方案是等到新的磚版本交付。

新版本的新功能在後台部模型服務使用。

謝謝

[匿名]

嘿@John豐益Herrera吉爾

感謝你回到我們。

我們非常感謝你的時間。

祝您旅途大磚吧!