Databricks Connect para Scala

Esse artigo descreve como migrar do Databricks Connect para Databricks Runtime 12.2 LTS e versões inferiores para o Databricks Connect para Databricks Runtime 13.3 LTS e versões superiores para Scala. O Databricks Connect permite que você conecte IDEs populares, servidores de notebook e aplicativos personalizados aos clusters do Azure Databricks. Confira O que é o Databricks Connect?. Para obter a versão Python deste artigo, consulte Migrar para o Databricks Connect para Python.

1. Instale a versão correta do JDK (Java Development Kit) conforme listado nos requisitos de instalação para corresponder ao cluster do Azure Databricks, se ele ainda não estiver instalado localmente.

2. No arquivo de build do projeto Scala, como build.sbt para sbt, pom.xml para Maven ou build.gradle para Gradle, atualize a seguinte referência para o cliente do Databricks Connect:

   Sbt

   libraryDependencies += "com.databricks" % "databricks-connect" % "14.0.0"
   

   Maven

   <dependency>
     <groupId>com.databricks</groupId>
     <artifactId>databricks-connect</artifactId>
     <version>14.0.0</version>
   </dependency>
   

   Gradle

   implementation 'com.databricks.databricks-connect:14.0.0'
   

   Substitua 14.0.0 pela versão da biblioteca do Databricks Connect que corresponde à versão do Databricks Runtime em seu cluster. Você pode encontrar os números de versão da biblioteca do Databricks Connect no repositório central do Maven.

3. Atualize seu código Scala para inicializar a variável spark (que representa uma instanciação da classe DatabricksSession, semelhante a SparkSession no Spark). Para obter exemplos de código, veja Exemplos de código do Databricks Connect para Scala.