Configurar e editar trabalhos do Databricks
Este artigo aborda as instruções para criar, configurar e editar trabalhos usando a interface do usuário Fluxos de trabalho do workspace. O Azure Databricks tem outros pontos de entrada e ferramentas para configuração, incluindo o seguinte:
- Para saber mais sobre como usar a CLI do Databricks para criar e executar trabalhos, consulte O que é a CLI do Databricks?.
- Para saber mais sobre como usar a API de Trabalhos para criar e executar trabalhos, consulte Trabalhos na referência da API REST.
- Para saber como executar e agendar trabalhos diretamente em um bloco de anotações Databricks, consulte Criar e gerenciar trabalhos de bloco de anotações agendados.
Dica
Para exibir um trabalho como YAML, clique no menu kebab à esquerda de Executar agora para o trabalho e, em seguida, clique em Alternar para a versão do código (YAML).
Criar um novo trabalho
Esta seção descreve a configuração mínima necessária para criar um novo trabalho para agendar uma tarefa de notebook com a interface do usuário do workspace.
Os trabalhos contêm uma ou mais tarefas. Você cria um novo trabalho configurando a primeira tarefa desse trabalho.
Observação
Cada tipo de tarefa tem opções dinâmicas de configuração na interface do usuário do workspace. Confira Configurar e editar tarefas do Databricks.
- Clique em Fluxos de Trabalho na barra lateral e clique em .
- Insira um Nome de tarefa.
- Selecione um notebook para o campo Caminho.
- Clique em Criar tarefa.
Se o workspace não estiver habilitado para computação sem servidor para trabalhos, você deverá selecionar uma opção Computação. O Databricks sempre recomenda usar a computação de trabalhos ao configurar tarefas.
Um novo trabalho aparecerá na lista de trabalhos do workspace com o nome padrão New Job <date> <time>
.
Selecionar um trabalho para editar no workspace
Para editar um trabalho existente com a interface do usuário do workspace, faça o seguinte:
- Clique em Fluxos de trabalho na barra lateral.
- Na coluna Nome, clique no nome do trabalho.
Use a interface do usuário de trabalho para fazer o seguinte:
- Editar configurações de trabalho
- Renomear, clonar ou excluir um trabalho
- Adicionar novas tarefas a um trabalho existente
- Editar as configurações de tarefa
Observação
Você também pode visualizar as definições JSON para uso com os pontos de extremidade get, create e reset da API REST.
Editar configurações de trabalho
O painel lateral contém os Detalhes do trabalho. Você pode alterar o gatilho de trabalho, configuração de computação, notificações, o número máximo de execuções simultâneas, configurar limites de duração e adicionar ou alterar tags. Você também pode editar permissões de trabalho quando o controle de acesso ao trabalho está habilitado.
Adicionar parâmetros para todas as tarefas de trabalho
Os parâmetros configurados no nível de trabalho são transmitidos para as tarefas do trabalho que aceitam parâmetros de chave-valor, incluindo arquivos wheel Python configurados para aceitar argumentos de palavras-chave. Confira Parametrizar trabalhos.
Adicionar marcas a um trabalho
Para adicionar rótulos ou atributos de chave-valor ao seu trabalho, você pode adicionar tags ao editar o trabalho. Você pode usar tags para filtrar trabalhos na lista Trabalhos. Por exemplo, você pode usar uma tag department
para filtrar todos os trabalhos que pertencem a um departamento específico.
Observação
Como as marcas de trabalho não foram projetadas para armazenar informações confidenciais, como informações de identificação pessoal ou senhas, o Databricks recomenda usar marcas somente para valores não confidenciais.
As marcas também se propagam para clusters de trabalho criados quando um trabalho é executado, permitindo que você use marcas com o monitoramento de cluster existente.
Para adicionar ou editar tags, clique em + Tag no painel lateral Detalhes do trabalho. É possível adicionar a tag como um rótulo ou um par chave-valor. Para adicionar um rótulo, insira o rótulo no campo Chave e deixe o campo Valor vazio.
Renomear, clonar ou excluir um trabalho
Para renomear um trabalho, acesse a interface do usuário de trabalhos e clique no nome do trabalho.
Você pode criar rapidamente um novo trabalho clonando um trabalho existente. A clonagem de um trabalho cria uma cópia idêntica do trabalho, exceto pela ID do trabalho. Para clonar um trabalho, faça o seguinte:
- Acesse a interface do usuário de trabalhos para o trabalho.
- Clique em ao lado do botão Executar agora.
- No menu suspenso, selecione Clonar trabalho.
- Insira um nome para o trabalho clonado.
- Clique em Clonar.
Excluir um Trabalho
Para excluir um trabalho, acesse a página do trabalho, clique em ao lado do nome do trabalho e selecione Excluir trabalho no menu suspenso.
Usar o Git com trabalhos
Se o trabalho contiver tarefas com suporte ao uso de um provedor Git remoto, a interface do usuário dos trabalhos conterá um campo Git e a opção de adicionar ou editar configurações do Git.
Você pode configurar os seguintes tipos de tarefa para usar um repositório Git remoto:
- Notebooks
- Scripts do Python
- Arquivos SQL
- dbt
Todas as tarefas em um trabalho devem fazer referência ao mesmo commit no repositório remoto. Você deve especificar apenas uma das seguintes opções para um trabalho que use um repositório remoto:
- branch: o nome do branch, por exemplo,
main
. - tag: o nome da tag, por exemplo,
release-1.0.0
. - commit: o hash de um commit específico, por exemplo,
e0056d01
.
Quando a execução de um trabalho começa, o Databricks faz uma confirmação de instantâneo do repositório remoto para garantir que todo o trabalho seja executado na mesma versão do código.
Quando você visualiza o histórico de execução de uma tarefa que executa o código armazenado em um repositório Git remoto, o painel Detalhes da execução da tarefa inclui detalhes do Git, incluindo o SHA de confirmação associado à execução. Confira Exibir o histórico de execuções da tarefa.
Observação
As tarefas configuradas para usar um repositório Git remoto não podem gravar em arquivos de workspace. Eles devem gravar dados temporários no armazenamento de driver efêmero e dados persistentes em um volume ou tabela.
O Databricks recomenda a criação de trabalhos que façam referência a caminhos de workspace em pastas Git apenas para iteração e teste rápidos durante o desenvolvimento. O Databricks recomenda reconfigurar os trabalhos para fazer referência a um repositório Git remoto conforme você avance para o preparo e a produção. Saiba mais sobre o código-fonte com controle de versão em um trabalho do Databricks.
Configurar um provedor Git
A interface do usuário de trabalhos tem uma caixa de diálogo para configurar um repositório Git remoto. Essa caixa de diálogo pode ser acessada no painel Detalhes do trabalho sob o título Git ou em qualquer tarefa configurada para usar um provedor Git.
As opções exibidas para acessar a caixa de diálogo variam de acordo com o tipo de tarefa e se já existe ou não uma referência git configurada para o trabalho. Os botões para iniciar a caixa de diálogo incluem Adicionar configurações do Git, Editar ou Adicionar uma referência do Git.
Na caixa de diálogo Informações do Git (rotulada apenas como Git se for acessada pelo painel Detalhes do trabalho), insira os seguintes detalhes:
- URL do repositório Git.
- Selecione seu provedor Git na lista suspensa.
- No campo Referência do Git, insira o identificador de um branch, tag ou commit que corresponda à versão do código-fonte que você deseja executar.
- Selecione o branch, tag ou commit na lista suspensa.
Observação
A caixa de diálogo pode solicitar o seguinte: As credenciais do Git para esta conta estão ausentes. Adicione as credenciais. Você deve configurar um repositório Git remoto antes de usá-lo como referência. Consulte Configurar pastas Git do Databricks (Repos).
Configurar um tempo de conclusão esperado ou um tempo limite para uma tarefa
Você pode configurar limites de duração opcionais para um trabalho, incluindo um tempo esperado e um tempo máximo de conclusão. Para configurar limites de duração, clique em Definir limites de duração em Limites de duração no painel Detalhes do trabalho.
Insira uma duração no campo Aviso para configurar o tempo de conclusão esperado do trabalho. Um evento será disparado se o trabalho exceder esse limite. Você pode usar esse evento para notificar quando um trabalho estiver sendo executado lentamente. Consulte Configurar notificações para trabalhos lentos ou em atraso.
Para configurar um tempo máximo de conclusão para um trabalho, insira a duração máxima no campo Tempo limite. Se o trabalho não for concluído nesse tempo, o Azure Databricks definirá seu status como “Tempo Limite Atingido”.
Opcionalmente, você pode especificar limites de duração para tarefas. Consulte Configurar um tempo de conclusão esperado ou um tempo limite para uma tarefa.