如何優化PySpark之間的轉換和箭?

[User16776430979]

似乎您可以轉換dataframes和箭頭對象之間用熊貓作為中介,但是有一些限製(例如,它收集DataFrame中的所有記錄的司機和應該做的一小部分數據,點擊類型轉換警告和耗盡內存)。

更有效和優化方法是什麼從PySpark箭頭嗎?

[Kaniz]

嗨@josephine.ho !我的名字叫Kaniz,我這裏的技術主持人。很高興認識你,謝謝你的問題!看看你的同行在論壇上先回答你的問題。否則我們將很快跟進與回複。