數據從azure獲得閱讀時錯過了事件使用火花流中心

[Rishi045]

你好,

我麵臨一個問題的數據被錯過了。

我在讀azure事件的數據中心和壓扁後json數據我將它存儲在檢查機關文件,然後使用另一個磚筆記本δ表上執行合並操作通過添加一些etl列。

然而在某個地方的記錄越來越想念。

我已經安排了工作,每小時運行一次。

有人能幫幫我。

[Rishi045]

到目前為止我沒有任何foreachbatch代碼。

我在執行dedup整個數據來自事件中心

[Hubert_Dudek1]

——EventHub,你可以使用Azure Analitycs預覽事件中心的工作,所以請先檢查所有記錄

——請在磚,它直接保存到青銅三角洲表沒有執行任何聚合,1比1,檢查是否所有的記錄。

-請考慮使用達美住表的攝入事件中心。它會讓你的生活更容易對監測流,數據質量,在需要時執行全部刷新。