取消
顯示的結果
而不是尋找
你的意思是:

創建一個蜂巢db在Azure磚位置參數設置為一個ADLS GEN2賬戶失敗

Mihai_Cog
新的貢獻者二世

你好,

我想創建一個數據庫在Azure磚使用abfss位置創建數據庫的語句,就會拋出異常。

%的sql

如果不存在創建數據庫測試評論”數據庫為測試區域“位置”abfss: / /(電子郵件保護)/數據庫/”

創建數據庫的錯誤是:

AnalysisException: org.apache.hadoop.hive.ql.metadata。HiveException: MetaException(信息:有例外:shaded.databricks.azurebfs.org.apache.hadoop.fs.azurebfs.contracts.exceptions.KeyProviderException未能初始化配置存儲賬戶storagetemp.dfs.core.windows.net:無效的配置值檢測fs.azure.account.key)

使用這些設置和運行的一個筆記本,不是幫助。ideea嗎?

我補充說:

service_credential = dbutils.secrets.get(範圍= < secret-scope >”,鍵= < service-credential-key >)

spark.conf.set (“fs.azure.account.auth.type。< storage-account > .dfs.core.windows.net”、“OAuth”)

spark.conf.set (“fs.azure.account.oauth.provider.type。< storage-account > .dfs.core.windows.net”、“org.apache.hadoop.fs.azurebfs.oauth2.ClientCredsTokenProvider”)

spark.conf.set (“fs.azure.account.oauth2.client.id。< storage-account > .dfs.core.windows.net”、“<應用程序id >”)

spark.conf.set (“fs.azure.account.oauth2.client.secret。< storage-account > .dfs.core.windows.net”, service_credential)

spark.conf.set (“fs.azure.account.oauth2.client.endpoint < storage-account > .dfs.core.windows.net。”、“https://login.microsoftonline.com/< directory-id > / oauth2 /令牌”)

在一個筆記本和我運行這個筆記本的開始主要的筆記本,使用魔法命令:

運行%”。/康涅狄格州”

我提到我可以做.save(),我可以做dbutils.fs.ls(位置)。

但是,如果我添加集群中的火花配置:

OAuth fs.azure.account.auth.type。< storage-account > .dfs.core.windows.net

fs.azure.account.oauth.provider.type。< storage-account > .dfs.core.windows.net org.apache.hadoop.fs.azurebfs.oauth2.ClientCredsTokenProvider

fs.azure.account.oauth2.client.id。< storage-account > .dfs.core.windows.net <應用程序id >

fs.azure.account.oauth2.client.secret。< storage-account > .dfs.core.windows.net{{秘密/ < secret-scope > / < service-credential-key >}}

fs.azure.account.oauth2.client.endpoint。< storage-account > .dfs.core.windows.nethttps://login.microsoftonline.com/< directory-id > / oauth2 /令牌

它是有效的。

我做錯了什麼?

謝謝你!

14日回複14

werners1
尊敬的貢獻者三世

Mihai_Cog
新的貢獻者二世

是的,服務主體。

werners1
尊敬的貢獻者三世

唯一想到的事情是:

-一個錯字/錯誤的價值傳遞

許可(所以火花conf實際上並不是更新)
因為它應該工作。

Mihai_Cog
新的貢獻者二世

我檢查了筆記本和火花配置-沒有錯誤

如果工作當我設置的配置,它也應該從筆記本。

唯一不使用這些設置筆記本,是創建數據庫。其他諸如.save ()。dbutils.fs.ls (), .write()工作。

這是別的東西。

werners1
尊敬的貢獻者三世

你可以為測試目的,dbfs外部位置呢?
然後路徑使用/ mnt / <山> /……

歡迎來到磚社區:讓學習、網絡和一起慶祝

加入我們的快速增長的數據專業人員和專家的80 k +社區成員,準備發現,幫助和合作而做出有意義的聯係。

點擊在這裏注冊今天,加入!

參與令人興奮的技術討論,加入一個組與你的同事和滿足我們的成員。

Baidu
map