Habilidade de incorporação do Azure OpenAI

A habilidade de incorporação do Azure OpenAI se conecta a um modelo de incorporação implantado em seu recurso do Azure OpenAI para gerar incorporações durante a indexação. Seus dados são processados na área geográfica onde seu modelo é implantado.

Pré-requisitos

Seu Serviço OpenAI do Azure deve ter um subdomínio personalizado associado. Se o serviço tiver sido criado através do portal do Azure, este subdomínio é gerado automaticamente como parte da configuração do serviço. Certifique-se de que seu serviço inclua um subdomínio personalizado antes de usá-lo com a integração do Azure AI Search.

Os recursos do Serviço OpenAI do Azure (com acesso a modelos de incorporação) que foram criados no portal do Azure AI Foundry não são suportados. Somente os recursos do Serviço OpenAI do Azure criados no portal do Azure são compatíveis com a integração de habilidades do Azure OpenAI Embedding .

O assistente Importar e vetorizar dados no portal do Azure usa a habilidade Azure OpenAI Embedding para vetorizar conteúdo. Você pode executar o assistente e revisar o conjunto de habilidades gerado para ver como o assistente cria a habilidade para incorporar modelos.

@odata.type

Microsoft.Skills.Text.AzureOpenAIEmbeddingSkill

Limites de dados

O tamanho máximo de uma entrada de texto deve ser de 8.000 tokens. Se a entrada exceder o máximo permitido, o modelo lançará um erro de solicitação inválida. Para obter mais informações, consulte o conceito de chave de tokens na documentação do Azure OpenAI. Considere usar a habilidade Divisão de texto se precisar de fragmentação de dados.

Parâmetros de habilidade

Os parâmetros diferenciam maiúsculas de minúsculas.

Dimensões suportadas por modelName

As dimensões suportadas para uma habilidade de incorporação do Azure OpenAI dependem do modelName que está configurado.

Contributos para as competências

Resultados em termos de competências

Definição da amostra

Considere um registro que tenha os seguintes campos:

{
    "content": "Microsoft released Windows 10."
}

Então sua definição de habilidade pode ficar assim:

{
  "@odata.type": "#Microsoft.Skills.Text.AzureOpenAIEmbeddingSkill",
  "description": "Connects a deployed embedding model.",
  "resourceUri": "https://my-demo-openai-eastus.openai.azure.com/",
  "deploymentId": "my-text-embedding-ada-002-model",
  "modelName": "text-embedding-ada-002",
  "dimensions": 1536,
  "inputs": [
    {
      "name": "text",
      "source": "/document/content"
    }
  ],
  "outputs": [
    {
      "name": "embedding"
    }
  ]
}

Saída de exemplo

Para o texto de entrada dado, uma saída de incorporação vetorizada é produzida.

{
  "embedding": [
        0.018990106880664825,
        -0.0073809814639389515,
        .... 
        0.021276434883475304,
      ]
}

A saída reside na memória. Para enviar essa saída para um campo no índice de pesquisa, você deve definir um outputFieldMapping que mapeie a saída de incorporação vetorizada (que é uma matriz) para um campo vetorial. Supondo que a saída de habilidade resida no nó de incorporação do documento e content_vetor seja o campo no índice de pesquisa, o outputFieldMapping no indexador deve ter a seguinte aparência:

  "outputFieldMappings": [
    {
      "sourceFieldName": "/document/embedding/*",
      "targetFieldName": "content_vector"
    }
  ]

Melhores práticas

A seguir estão algumas práticas recomendadas que você precisa considerar ao utilizar essa habilidade:

• Se você estiver atingindo seu limite de TPM (Tokens por minuto) do Azure OpenAI, considere o aviso de limites de cota para que você possa lidar de acordo. Consulte a documentação de monitoramento do Azure OpenAI para obter mais informações sobre o desempenho da sua instância do Azure OpenAI.

• A implantação do modelo de incorporação do Azure OpenAI que você usa para essa habilidade deve ser idealmente separada da implantação usada para outros casos de uso, incluindo o vetorizador de consulta. Isso ajuda cada implantação a ser adaptada ao seu caso de uso específico, levando a um desempenho otimizado e identificando facilmente o tráfego do indexador e as chamadas de incorporação do índice.

• Sua instância do Azure OpenAI deve estar na mesma região ou, pelo menos, geograficamente perto da região onde seu serviço de Pesquisa de IA está hospedado. Isso reduz a latência e melhora a velocidade de transferência de dados entre os serviços.

• Se você tiver um limite maior do que o padrão do Azure OpenAI TPM (Tokens por minuto), conforme publicado na documentação de cotas e limites , abra um caso de suporte com a equipe do Azure AI Search, para que isso possa ser ajustado de acordo. Isso ajuda seu processo de indexação a não ser desnecessariamente retardado pelo limite TPM padrão documentado, se você tiver limites mais altos.

• Para obter exemplos e exemplos de código de trabalho usando essa habilidade, consulte os seguintes links:

  • Vetorização integrada (Python)
  • Vetorização integrada (C#)
  • Vetorização integrada (Java)

Erros e avisos

Consulte também

• Competências incorporadas
• Como definir um conjunto de competências
• Como definir mapeamentos de campos de saída