Modelo de classificação personalizada da Informação de Documentos

A IA do Azure para Informação de Documentos é um Serviço de IA do Azure que permite que você crie soluções inteligentes de processamento de documentos. As APIs da Informação de Documentos analisam imagens, PDFs e outros arquivos de documento para extrair e detectar vários elementos de conteúdo, layout, estilo e semântica.

Os modelos de classificação personalizados são tipos de modelos de aprendizagem profunda que combinam recursos de layout e linguagem para detectar e identificar com precisão os documentos que você processa no seu aplicativo. Os modelos de classificação personalizada podem classificar uma página por vez de arquivos de entrada para identificar os documentos e pode identificar vários documentos ou várias instâncias de um só documento em um arquivo de entrada.

Funcionalidades de modelo

Os modelos de classificação personalizados podem analisar os documentos de um ou vários arquivos para identificar se algum dos tipos de documentos treinados está contido em um arquivo de entrada. Aqui temos os cenários com suporte no momento:

• Um único arquivo que contém um tipo de documento, como um formulário de solicitação de empréstimo.

• Um único arquivo que contém vários tipos de documentos. Por exemplo, um pacote de solicitação de empréstimo contendo um formulário de solicitação de empréstimo, um contracheque e extrato bancário.

• Um único arquivo que contém várias instâncias do mesmo documento. Por exemplo, uma coleção de faturas digitalizadas.

✔️ O treinamento de um classificador personalizado exige pelo menos two classes distintas e um mínimo de five amostras de documentos por classe. A resposta do modelo contém os intervalos de página para cada uma das classes de documentos identificadas.

✔️ O número máximo permitido de classes é 1,000. O número máximo permitido de amostras de documento por classe é 100.

O modelo classifica cada página do documento de entrada, a menos que especificado, para uma das classes no conjunto de dados rotulado. Você também pode especificar os números de página a serem analisados no documento de entrada. Para definir o limite para seu aplicativo, use a pontuação de confiança da resposta.

Treinamento incremental

Com modelos personalizados, você precisa manter o acesso ao conjunto de dados de treinamento para atualizar o classificador com novos exemplos para uma classe existente ou adicionar novas classes. Os modelos de classificador agora dão suporte ao treinamento incremental em que você pode referenciar um classificador existente e acrescentar novos exemplos para uma classe existente ou adicionar novas classes com exemplos. O treinamento incremental permite cenários em que a retenção de dados é um desafio e o classificador precisa ser atualizado para se alinhar às necessidades de negócios em constante mudança. O treinamento incremental é suportado com modelos treinados com a versão da API v4.0 2024-11-30 (GA).

O treinamento incremental requer que você forneça a ID do modelo original como o baseClassifierId. Consulte treinamento incremental para saber mais sobre como usar o treinamento incremental.

Suporte ao tipo de documento do Office

Agora você pode treinar classificadores para reconhecer tipos de documento em vários formatos, incluindo PDF, imagens, Word, PowerPoint e Excel. Ao montar seu conjunto de dados de treinamento, você pode adicionar documentos de qualquer um dos tipos com suporte. O classificador não exige que você rotule explicitamente tipos específicos. Como melhor prática, verifique se o conjunto de dados de treinamento tem pelo menos um exemplo de cada formato para melhorar a precisão geral do modelo.

Compare a classificação personalizada e os modelos compostos

Um modelo de classificação personalizado pode substituir um modelo composto em alguns cenários, mas há algumas diferenças a serem observadas:

Suporte ao idioma

Requisitos de entrada

Formatos de arquivo com suporte:

• Para obter melhores resultados, forneça cinco fotos nítidas ou digitalizações de alta qualidade por tipo de documento.

• Para PDF e TIFF, até 2.000 páginas podem ser processadas (com uma assinatura de camada gratuita, apenas as duas primeiras páginas são processadas).

• O tamanho do arquivo para análise de documentos é 500 MB para a camada paga (S0) e 4 MB para a camada gratuita (F0).

• As dimensões da imagem devem estar entre 50 x 50 pixels e 10.000 px x 10.000 pixels.

• Se os PDFs estiverem com bloqueio de senha, você deverá remover o bloqueio antes do envio.

• A altura mínima do texto a ser extraído é de 12 pixels para uma imagem de 1.024 x 768 pixels. Essa dimensão corresponde a cerca de 8 pontos de texto em 150 pontos por polegada (DPI).

• Para treinamento de modelo personalizado, o número máximo de páginas para dados de treinamento é 500 para o modelo de modelo personalizado e 50.000 para o modelo neural personalizado.

• Para treinamento de modelo de extração personalizado, o tamanho total dos dados de treinamento é de 50 MB para o modelo e 1G-MB para o modelo neural.

• Para treinamento de modelo de classificação personalizado, o tamanho total dos dados de treinamento é de 2 GB com um máximo de 25.000 páginas.

Divisão de documentos

Quando há mais de um documento em um arquivo, o classificador pode identificar os diferentes tipos de documentos contidos no arquivo de entrada. A resposta do classificador contém os intervalos de páginas para cada um dos tipos de documentos identificados contidos em um arquivo. Essa resposta pode incluir várias instâncias do mesmo tipo de documento.

Práticas recomendadas

Os modelos de classificação personalizados exigem um mínimo de cinco amostras por classe para serem treinados. Se as classes forem semelhantes, adicionar amostras de treinamento adicionais melhorará a precisão do modelo.

O classificador tenta atribuir cada documento a uma das classes. Se você espera que o modelo veja tipos de documentos que não estão nas classes que fazem parte do conjunto de dados de treinamento, deve planejar definir um limite para a pontuação de classificação ou adicionar algumas amostras representativas dos tipos de documentos a uma classe "other". A adição de uma classe "other" garante que documentos desnecessários não afetem a qualidade do classificador.

Treinando um modelo

Modelos de classificação personalizados são suportados pela API v4.0 2024-11-30 (GA). O Estúdio de Informação de Documentos fornece uma interface do usuário sem código para treinar um classificador personalizado interativamente. Siga o guia como fazer para começar.

Ao usar a API REST, caso organize seus documentos por pastas, poderá usar a propriedade azureBlobSource da solicitação para treinar um modelo de classificação.

https://{endpoint}/documentintelligence/documentClassifiers:build?api-version=2024-02-29-preview

{
  "classifierId": "demo2.1",
  "description": "",
  "docTypes": {
    "car-maint": {
        "azureBlobSource": {
            "containerUrl": "SAS URL to container",
            "prefix": "sample1/car-maint/"
            }
    },
    "cc-auth": {
        "azureBlobSource": {
            "containerUrl": "SAS URL to container",
            "prefix": "sample1/cc-auth/"
            }
    },
    "deed-of-trust": {
        "azureBlobSource": {
            "containerUrl": "SAS URL to container",
            "prefix": "sample1/deed-of-trust/"
            }
    }
  }
}

https://{endpoint}/formrecognizer/documentClassifiers:build?api-version=2023-07-31

{
  "classifierId": "demo2.1",
  "description": "",
  "docTypes": {
    "car-maint": {
        "azureBlobSource": {
            "containerUrl": "SAS URL to container",
            "prefix": "{path to dataset root}/car-maint/"
            }
    },
    "cc-auth": {
        "azureBlobSource": {
            "containerUrl": "SAS URL to container",
            "prefix": "{path to dataset root}/cc-auth/"
            }
    },
    "deed-of-trust": {
        "azureBlobSource": {
            "containerUrl": "SAS URL to container",
            "prefix": "{path to dataset root}/deed-of-trust/"
            }
    }
  }
}

Como alternativa, se você tiver uma lista plana de arquivos ou apenas planeja usar alguns arquivos selecionados em cada pasta para treinar o modelo, poderá usar a propriedade azureBlobFileListSource para treinar o modelo. Essa etapa requer um file list no formato Linhas JSON. Para cada classe, adicione um novo arquivo com uma lista de arquivos a serem enviados para treinamento.

{
  "classifierId": "demo2",
  "description": "",
  "docTypes": {
    "car-maint": {
      "azureBlobFileListSource": {
        "containerUrl": "SAS URL to container",
        "fileList": "{path to dataset root}/car-maint.jsonl"
      }
    },
    "cc-auth": {
      "azureBlobFileListSource": {
        "containerUrl": "SAS URL to container",
        "fileList": "{path to dataset root}/cc-auth.jsonl"
      }
    },
    "deed-of-trust": {
      "azureBlobFileListSource": {
        "containerUrl": "SAS URL to container",
        "fileList": "{path to dataset root}/deed-of-trust.jsonl"
      }
    }
  }
}

Por exemplo, a lista de arquivos car-maint.jsonl contém os seguintes arquivos.

{"file":"classifier/car-maint/Commercial Motor Vehicle - Adatum.pdf"}
{"file":"classifier/car-maint/Commercial Motor Vehicle - Fincher.pdf"}
{"file":"classifier/car-maint/Commercial Motor Vehicle - Lamna.pdf"}
{"file":"classifier/car-maint/Commercial Motor Vehicle - Liberty.pdf"}
{"file":"classifier/car-maint/Commercial Motor Vehicle - Trey.pdf"}

{
  "classifierId": "existingClassifierName",
  "allowOverwrite": true,  // Default=false
  ...
}

POST https://myendpoint.cognitiveservices.azure.com/documentintelligence/documentClassifiers:authorizeCopy?api-version=2024-11-30
Ocp-Apim-Subscription-Key: {<your-key>}

{
  "classifierId": "targetClassifier",
  "description": "Target classifier description"
}

{
  "targetResourceId": "/subscriptions/targetSub/resourceGroups/targetRG/providers/Microsoft.CognitiveServices/accounts/targetService",
  "targetResourceRegion": "targetResourceRegion",
  "targetClassifierId": "targetClassifier",
  "targetClassifierLocation": "https://targetEndpoint.cognitiveservices.azure.com/documentintelligence/documentClassifiers/targetClassifier",
  "accessToken": "accessToken",
  "expirationDateTime": "timestamp"
}

POST {endpoint}/documentintelligence/documentClassifiers/{classifierId}:copyTo?api-version=2024-11-30
Ocp-Apim-Subscription-Key: {<your-key>}

{
  "targetResourceId": "/subscriptions/targetSub/resourceGroups/targetRG/providers/Microsoft.CognitiveServices/accounts/targetService",
  "targetResourceRegion": "targetResourceRegion",
  "targetClassifierId": "targetClassifier",
  "targetClassifierLocation": "https://targetEndpoint.cognitiveservices.azure.com/documentintelligence/documentClassifiers/targetClassifier",
  "accessToken": "accessToken",
  "expirationDateTime": "timestamp"
}

Resposta do modelo

Analisar um arquivo de entrada com o modelo de classificação de documentos.

https://{endpoint}/documentintelligence/documentClassifiers/{classifier}:analyze?api-version=2024-02-29-preview

https://{service-endpoint}/formrecognizer/documentClassifiers/{classifier}:analyze?api-version=2023-07-31

A resposta contém os documentos identificados com os intervalos de página associados na seção documentos da resposta.

{
  ...

    "documents": [
      {
        "docType": "formA",
        "boundingRegions": [
          { "pageNumber": 1, "polygon": [...] },
          { "pageNumber": 2, "polygon": [...] }
        ],
        "confidence": 0.97,
        "spans": []
      },
      {
        "docType": "formB",
        "boundingRegions": [
          { "pageNumber": 3, "polygon": [...] }
        ],
        "confidence": 0.97,
        "spans": []
      }, ...
    ]
  }

Próximas etapas

Saiba como criar modelos de classificação personalizados: