自動加載程序做什麼完全不同?

[hello_world]

新磚,這是一件事混淆我。

因為火花流已經負載增量檢查點的能力。通過啟用自動加載程序又有什麼區別呢?

[Aviral-Bhardwaj]

它也通知係統,包括增量數據處理

[Rishabh264]

當啟用了自動裝卸機,你不需要擔心傳入的文件,當它來或不來,在火花將不停地流媒體文件,但假設你不確定何時會來填充的文件處理的著陸,在這種情況下,如果你自動裝卸機的工作原理

自動裝卸機將自動發送文件時處理文件,如果文件已經到達任何特定的一天,它會自動發送的新文件處理。

[Meghala]

自動加載器提供了一個結構化流源

cloudFiles

。給定一個輸入在雲端文件存儲目錄路徑,

cloudFiles

源自動流程為到達的新文件,選擇也處理現有的文件目錄。自動加載程序支持Python和SQL三角洲生活表。

您可以使用自動加載程序來處理數十億的文件遷移或回填表。自動加載程序擴展到支持實時攝取數以百萬計的文件每小時。