計算機視覺項目,我的原始數據由加密視頻(60 fps)存儲在Azure Blob存儲。為了使數據用於模型訓練,我需要做一些預處理和我需要視頻分成單獨的幀。視頻加密但我可以通過FFmpeg的加密密鑰解密視頻文件。我已經找到一種方法來“管”FFmpeg(幀數)的輸出發送到stdout,可以通過python FFmpeg庫拿起。問題在於,即使是幾分鍾的視頻中,一個集群有112 gb內存已經跑到伯父錯誤。
我試著什麼:
- 原始的方法:使用foreach抽樣的視頻位置提取幀和寫他們在blob存儲到一個新的位置。這個工作雖然很緩慢,大量小尺寸使得這種方法高得驚人的圖像在blob存儲(我的老板顯然不喜歡)。
- 熊貓在python中UDF返回圖像。但有時甚至一分鍾的視頻作品耗盡內存。
- 添加列,每個視頻的開始和結束時間(如1分鍾的視頻分割在5第二部分)。我的想法是,這減少了內存使用量每一行發送到熊貓UDF但似乎FFmpeg掃描整個視頻,因此使用很長一段內存。
- 在熊貓運行。工作更可靠但使用大量內存(如熊貓DFs完全存儲在內存中)和改變著熊貓dataframe pyspark DF使用很多額外的內存,需要時間,也使它成為理想的選擇。
我想要的:
從視頻中提取幀和管產生的幀pyspark DF進行進一步處理,不需要一個巨大的集群,隻能進行預處理幾分鍾的視頻(使它非常昂貴)。我非常開放使用不同的庫和不同的配置,任何方式都可以讓我做我想做的任務是我想嚐試!
行數據的示例:
container_name:“sample_container_name”
文件名:“/ dbfs / mnt /…/…/ ....... / video.mp4x”
持續時間:25.6
身高:1080
寬度:1920
#嚐試與時間間隔(以秒為單位,這意味著每間隔間隔5秒= 300幀)
開始:0
結束:5
