Ladda upp filer i Azure Data Manager for Energy med hjälp av filtjänsten
I den här artikeln vet du hur du laddar upp stora filer (~5 GB) med filtjänst-API:et i Microsoft Azure Data Manager for Energy. Uppladdningsprocessen omfattar att hämta en signerad URL från fil-API :et och sedan använda den signerade URL:en för att lagra filen i Azure Blob Storage
Generera en signerad URL
Kör curl-kommandot nedan i Azure Cloud Bash för att hämta en signerad URL från filtjänsten för en viss datapartition av din Azure Data Manager for Energy-resurs.
curl --location 'https://<URI>/api/file/v2/files/uploadURL' \
--header 'data-partition-id: <data-partition-id>' \
--header 'Authorization: Bearer <access_token>' \
--header 'Content-Type: text/plain'
Exempelbegäran
Överväg en Azure Data Manager for Energy-resurs med namnet "medstest" med en datapartition med namnet "dp1"
curl --location --request POST 'https://medstest.energy.azure.com/api/file/v2/files/uploadURL' \
--header 'data-partition-id: medstest-dp1' \
--header 'Authorization: Bearer eyxxxxxxx.........................' \
--header 'Content-Type: text/plain'
Exempelsvar
{
"FileID": "2c5e7ac738a64eaeb7c0bc8bd47f90b6",
"Location": {
"SignedURL": "https://dummy.bloburl.com",
"FileSource": "/osdu-user/1686647303778-2023-06-13-09-08-23-778/2c5e7ac738a64eaeb7c0bc8bd47f90b6"
}
}
SignURL-nyckeln i svarsobjektet kan sedan användas för att ladda upp filer till Azure Blob Storage. Utgångstiden för SignedURL för filtjänsten och datauppsättningstjänsten är 1 timme enligt säkerhetsförbättringar från OSDU.
Ladda upp filer med en storlek som är mindre än 5 GB
För att ladda upp filstorlekar som är mindre än 5 GB kan man direkt använda PUT Blob API-anrop för att ladda upp sina filer till Azure Blob Storage
Exempel på curl-begäran
curl --location --request PUT '<SIGNED_URL>' \
--header 'x-ms-blob-type: BlockBlob' \
--header 'Content-Type: <file_type>' \ # for instance application/zip or application/csv or application/json depending on file type
--data '@/<path_to_file>'
Om uppladdningen lyckas får vi en 201 Created
statuskod som svar
Ladda upp filer med storleken större eller lika med 5 GB
För att ladda upp filer med storlekar >= 5 GB behöver vi azcopy-verktygeteftersom ett enda PUT-blobanrop inte får vara större än 5 GB dokumentlänk
Steg
Ladda ned
azcopy
med den här länkenKör det här kommandot för att ladda upp filen
azcopy copy "<path_to_file>" "signed_url"
- Exempelsvar
INFO: Could not read destination length. If the destination is write-only, use --check-length=false on the command line.
100.0 %, 1 Done, 0 Failed, 0 Pending, 0 Skipped, 1 Total
Job 624c59e8-9d5c-894a-582f-ef9d3fb3091d summary
Elapsed Time (Minutes): 0.1002
Number of File Transfers: 1
Number of Folder Property Transfers: 0
Number of Symlink Transfers: 0
Total Number of Transfers: 1
Number of File Transfers Completed: 1
Number of Folder Transfers Completed: 0
Number of File Transfers Failed: 0
Number of Folder Transfers Failed: 0
Number of File Transfers Skipped: 0
Number of Folder Transfers Skipped: 0
TotalBytesTransferred: 1367301
Final Job Status: Completed
Nästa steg
Börja din resa genom att mata in data i Azure Data Manager for Energy-resursen.