Partilhar via

Função ai_gen

  • Artigo

Aplica-se a:Marque Sim Databricks SQL Marque Sim Databricks Runtime

Importante

Esta funcionalidade está em Pré-visualização Pública.

Na pré-visualização:

  • O modelo de linguagem subjacente pode lidar com vários idiomas, no entanto, essas funções são ajustadas para o inglês.
  • Há limite de taxa para as APIs subjacentes do Modelo de Base. Consulte Limites das APIs do Modelo de Base para update esses limites.
  • Devido ao limite de taxa, esta função foi projetada para testes em pequenos conjuntos de dados com menos de 100 linhas. Para casos de uso com mais de 100 linhas de dados, o Databricks recomenda o uso de ai_query e um endpoint de throughput provisionado. Consulte a secção sobre como executar inferência LLM em lote usando ai_query.

A ai_gen() função invoca um modelo de IA generativa de última geração para responder ao prompt fornecido pelo usuário usando SQL. Essa função usa um modelo de chat que serve o ponto de extremidade disponibilizado pelas APIs do Databricks Foundation Model.

Requisitos

Importante

Os modelos subjacentes que podem ser usados neste momento são licenciados sob a Licença Apache 2.0, Copyright © The Apache Software Foundation ou LLAMA 3.1 Community License Copyright Meta © Platforms, Inc. Todos os direitos reservados. Os clientes são responsáveis por garantir a conformidade com as licenças de modelo aplicáveis.

A Databricks recomenda a revisão dessas licenças para garantir a conformidade com quaisquer termos aplicáveis. Se surgirem modelos no futuro com melhor desempenho de acordo com os benchmarks internos da Databricks, a Databricks poderá alterar o modelo (e a list das licenças aplicáveis fornecidas nesta página).

Atualmente, o Meta-Llama-3.1-70B-Instruct é o modelo subjacente que alimenta essas funções de IA.

  • Esta função só está disponível em espaços de trabalho em AI Functions usando regiões suportadas por APIs do Foundation Model.
  • Esta função não está disponível no Azure Databricks SQL Classic.
  • Verifique a página de preços do Databricks SQL.

Nota

No Databricks Runtime 15.1 e superior, essa função é suportada em blocos de anotações Databricks, incluindo blocos de anotações que são executados como uma tarefa em um fluxo de trabalho Databricks.

Sintaxe

ai_gen(prompt)

Argumentos

  • prompt: Uma STRING expressão.

Devoluções

A STRING.

Exemplos

> SELECT ai_gen('Generate a concise, cheerful email title for a summer bike sale with 20% discount');
  Summer Bike Sale: Grab Your Dream Bike at 20% Off!

> SELECT
    question,
    ai_gen(
      'You are a teacher. Answer the students question in 50 words: ' || question
    ) AS answer
  FROM
    questions
  LIMIT 10;