AWS Graviton-enabled集群

磚集群的支持AWS重子實例。這些實例使用AWS-designed引力子處理器之上的Arm64指令集架構。AWS聲稱與這些處理器有最好的實例類型price-to-performance比任何在Amazon EC2實例類型。

可用性

磚支持AWS Graviton-enabled集群:

  • 磚運行時9.1 LTS以上為非光子,磚運行時的10.2(不支持)以上為光子。

  • 在所有AWS地區。但是請注意,不是所有的實例類型可用在所有地區。如果您選擇一個實例類型,不可用在該地區的工作空間,你會得到一個集群創建失敗。

  • 僅供AWS Graviton2處理器。

請注意

三角洲在Graviton-enabled表不支持集群。

創建一個AWS Graviton-enabled集群

使用說明書創建一個集群創建您的AWS Graviton-enabled集群。

過程指定集群的AWS引力子實例類型取決於您所使用的方法來創建集群。遵循特定的指示每個集群創建過程:

UI創建按鈕或集群

按照說明在創建一個集群。為磚的運行時版本的,選擇一個運行時的列在前麵可用性部分。為工作類型,驅動程序類型,或兩者兼而有之,選擇一個可用的AWS引力子實例類型列在前麵可用性部分。

磚REST API

  1. 設置身份驗證的磚其他工作區API,如果你已經沒有這麼做。

  2. 用你選擇的工具叫磚REST API,如旋度郵遞員

  3. 調用帖子集群/創建操作的集群API。例如,您可以使用旋度做一個類似如下:

    curl——netrc - x\https://dbc-a1b2345c-d6e7.cloud.m.eheci.com../api/2.0/clusters/create\——數據@create-cluster.json

    create-cluster.json:

    {“cluster_name”:“my-cluster”,“spark_version”:“10.2.x-scala2.12”,“node_type_id”:“m6gd.large”,“num_workers”:2}

    前麵的請求負載指定non-Photon運行時。指定一個光子運行時添加runtime_engine:“光子”請求負載,如下。(不添加光子的任何地方spark_version字段。)

    光子:

    {“cluster_name”:“my-cluster”,“spark_version”:“10.2.x-scala2.12”,“node_type_id”:“m6gd.large”,“num_workers”:2,“runtime_engine”:“光子”}

磚CLI

  1. 設置CLI設置身份驗證,如果你已經沒有這麼做。

  2. 運行集群創建子命令的集群CLI(遺留)。例如,您可以運行子命令類似如下:

    磚集群的創建,json文件create-cluster.json

    create-cluster.json:

    {“cluster_name”:“my-cluster”,“spark_version”:“10.2.x-scala2.12”,“node_type_id”:“m6gd.large”,“num_workers”:2}

    前麵的請求負載指定non-Photon運行時。指定一個光子運行時添加runtime_engine:“光子”請求負載,如下。(不添加光子的任何地方spark_version字段。)

    光子:

    {“cluster_name”:“my-cluster”,“spark_version”:“10.2.x-scala2.12”,“node_type_id”:“m6gd.large”,“num_workers”:2,“runtime_engine”:“光子”}

磚起程拓殖的提供者

  1. 安裝和配置起程拓殖需要操作的命令行工具,如果你已經沒有這麼做。

  2. 創建並運行一個起程拓殖配置創建一個磚集群的資源。例如,您可以運行一個最小配置類似如下:

    起程拓殖{required_providers{磚={源=“磚/磚"}}}提供者“磚”{}資源“databricks_cluster”“這”{cluster_name =“my-cluster spark_version”=“10.2.x-scala2.12 node_type_id = " m6gd”。大型“num_workers = 2}

    前麵的請求負載指定non-Photon運行時。指定一個光子運行時添加runtime_engine:“光子”請求負載,如下。(不添加光子的任何地方spark_version字段。)

    光子:

    資源“databricks_cluster””這個“{cluster_name =“my-cluster spark_version”=“10.2.x-scala2.12 node_type_id = " m6gd”。大“num_workers = 2, runtime_engine =“光子”}

限製

ARM64 ISA

  • 浮點精度變化:典型的操作,比如添加,減法,乘法,分割精度沒有變化。針對單一三角形等功能因為,上限對英特爾實例精度影響1.11 e-16

  • 第三方支持:ISA的變化可能有一些影響支持第三方工具和庫。

  • Mixed-instance集群:磚不支持混合AWS重子和non-AWS引力子實例類型,每種類型需要不同的磚運行時。

不支持的功能

AWS重子不支持以下特性:

  • 磚運行時機器學習

  • 磚容器服務

  • 三角洲生活表

  • 磚的SQL

另請參閱