Modelli del Servizio OpenAI di Azure

Il servizio Azure OpenAI è basato su un set di modelli diversificato con funzionalità e punti di prezzo diversi. La disponibilità dei modelli varia in base all'area e al cloud. Per la disponibilità del modello di Azure per enti pubblici, fare riferimento al Servizio OpenAI di Azure per enti pubblici.

accesso limitato ai modelli o1 e o1

I modelli Azure OpenAI o1 e o1-mini sono progettati nello specifico per gestire i compiti di problem-solving e ragionamento con attenzione e capacità migliorate. Questi modelli dedicano più tempo all'elaborazione e comprensione delle richieste degli utenti, rafforzando al contempo aree come scienze, codifica e matematica rispetto alle iterazioni precedenti.

Disponibilità

I o1 modelli e o1-mini sono ora disponibili per l'accesso alle API e la distribuzione del modello. La registrazione è obbligatoria e l'accesso verrà concesso in base ai criteri di idoneità di Microsoft. I clienti che in precedenza hanno applicato e ricevuto l'accesso a o1-preview, non devono riapplicare perché sono automaticamente presenti nell'elenco di attesa per il modello più recente.

Richiesta di accesso: domanda per il modello con accesso limitato

Dopo aver concesso l'accesso, sarà necessario creare una distribuzione per ogni modello. Se non è attualmente supportata una distribuzione esistente o1-preview , sarà necessario creare una nuova distribuzione.

Per altre informazioni sui modelli di serie avanzati o1 , vedere Introduzione ai modelli di ragionamento delle serie o1.

Aree di disponibilità

GPT-4o-Realtime-Preview

Il gpt-4o-realtime-preview modello fa parte della famiglia di modelli GPT-4o e supporta interazioni conversazionali a bassa latenza, "riconoscimento vocale, riconoscimento vocale". L'audio GPT-4o è progettato per gestire interazioni conversazionali in tempo reale e a bassa latenza, rendendolo ideale per agenti di supporto, assistenti, traduttori e altri casi d'uso che necessitano di una risposta elevata con un utente.

L'audio GPT-4o è disponibile nelle aree Stati Uniti orientali 2 (eastus2) e Svezia centrale (swedencentral). Per usare l'audio GPT-4o, è necessario creare o usare una risorsa esistente in una delle aree supportate.

Dopo aver creato la risorsa, è possibile distribuire il modello audio GPT-4o. Se si esegue una distribuzione a livello di codice, il nome del modello è gpt-4o-realtime-preview. Per altre informazioni su come usare l'audio GPT-4o, vedere la documentazione audio GPT-4o.

Nella tabella seguente sono disponibili informazioni dettagliate sui token di richiesta massimi e sui dati di training.

GPT-4o e GPT-4 Turbo

GPT-4o integra testo e immagini in un singolo modello, consentendo di gestire più tipi di dati contemporaneamente. Questo approccio multidimensionale migliora l'accuratezza e la velocità di risposta nelle interazioni tra computer umani. GPT-4o ha le stesse prestazioni di GPT-4 Turbo in attività con testo e codice in inglese, ma offre prestazioni superiori nelle altre lingue e nelle attività di visione, impostando nuovi benchmark per le funzionalità di intelligenza artificiale.

Come si accede ai mini modelli GPT-4o e GPT-4o?

GPT-4o e GPT-4o mini sono disponibili per la distribuzione di modelli standard e standard-globali.

È necessario creare o usare una risorsa esistente in un standard supportato o l'area standard globale in cui è disponibile il modello.

Dopo aver creato la risorsa, è possibile distribuire i modelli GPT-4o. Se si esegue una distribuzione a livello di codice, i nomi dei modelli sono:

• gpt-4o Versione 2024-11-20
• gpt-4o Versione 2024-08-06
• gpt-4o Versione 2024-05-13
• gpt-4o-mini Versione 2024-07-18

GPT-4 Turbo

GPT-4 Turbo è un modello bidirezionale di grandi dimensioni (accetta cioè input di testo o immagine e genera testo) in grado di risolvere problemi difficili con maggiore accuratezza rispetto ai modelli precedenti di OpenAI. Come GPT-3.5 Turbo e i modelli GPT-4 precedenti, GPT-4 Turbo è ottimizzato per la chat e funziona bene per le attività di completamento tradizionali.

La versione con disponibilità generale più recente di GPT-4 Turbo è:

• gpt-4 Versione: turbo-2024-04-09

Questa è la sostituzione per i modelli di anteprima seguenti:

• gpt-4 Versione: 1106-Preview
• gpt-4 Versione: 0125-Preview
• gpt-4 Versione: vision-preview

Differenze tra i modelli OpenAI e Azure OpenAI GPT-4 Turbo GA

• La versione di OpenAI del modello turbo 0409 più recente supporta la modalità JSON e la chiamata di funzione per tutte le richieste di inferenza.
• La versione di OpenAI di Azure dell'ultima turbo-2024-04-09 attualmente non supporta l'uso della modalità JSON e della chiamata di funzione quando si effettuano richieste di inferenza con input di immagine (visione). Le richieste di input basate su testo (richieste senza image_url e immagini inline) supportano la modalità JSON e le chiamate di funzione.

Differenze rispetto a gpt-4 vision-preview

• L'integrazione dei miglioramenti specifici di Visione di Azure per intelligenza artificiale con GPT-4 Turbo con Visione non è supportata per la gpt-4 Versione: turbo-2024-04-09. Sono inclusi il riconoscimento ottico dei caratteri (OCR), il grounding degli oggetti, le richieste video e una migliore gestione dei dati con le immagini.

Disponibilità gestita con provisioning di GPT-4 Turbo

• gpt-4 Versione: turbo-2024-04-09 è disponibile sia per le distribuzioni standard che per le distribuzioni con provisioning. Attualmente la versione con provisioning di questo modello non supporta le richieste di inferenza di immagini/visione. Le distribuzioni con provisioning di questo modello accettano solo input di testo. Le distribuzioni di modelli standard accettano richieste di inferenza di testo e immagine/visione.

Distribuzione della disponibilità generale di GPT-4 Turbo con Visione

Per distribuire il modello di disponibilità generale dal portale di Azure AI Foundry, selezionare GPT-4 e quindi scegliere la turbo-2024-04-09 versione dal menu a discesa. La quota predefinita per il modello di gpt-4-turbo-2024-04-09 corrisponderà alla quota corrente per GPT-4-Turbo. Vedere i limiti di quota a livello di area.

GPT-4

GPT-4 è il predecessore di GPT-4 Turbo. Entrambi i modelli GPT-4 e GPT-4 Turbo hanno un nome di modello di base gpt-4. È possibile distinguere tra i modelli GPT-4 e Turbo esaminando la versione del modello.

• gpt-4 Versione 0314
• gpt-4 Versione 0613
• gpt-4-32k Versione 0613

È possibile visualizzare la lunghezza del contesto del token supportata da ogni modello nella tabella di riepilogo del modello.

Modelli GPT-4 e GPT-4 Turbo

• Questi modelli possono essere usati solo con l'API Chat Completion.

Vedere Versioni del modello per informazioni su come il Servizio OpenAI di Azure gestisce gli aggiornamenti delle versioni del modello e Uso dei modelli per informazioni su come visualizzare e configurare le impostazioni della versione del modello delle distribuzioni GPT-4.

• GPT-4 versione 0125-preview è una versione aggiornata dell'anteprima GPT-4 Turbo rilasciata in precedenza come versione 1106-preview.
• GPT-4 versione 0125-preview completa attività come la generazione di codice in modo più completo rispetto a gpt-4-1106-preview. Per questo motivo, a seconda dell'attività, i clienti potrebbero scoprire che GPT-4-0125-preview genera più output rispetto a gpt-4-1106-preview. È consigliabile che i clienti confrontino gli output del nuovo modello. GPT-4-0125-preview risolve anche dei bug in gpt-4-1106-preview con la gestione UTF-8 per lingue non inglesi.
• La versione GPT-4 turbo-2024-04-09 è la versione con disponibilità generale più recente e sostituisce 0125-Preview, 1106-preview e vision-preview.

GPT-3.5

I modelli GPT-3.5 possono comprendere e generare codice o linguaggio naturale. Il modello più efficiente e conveniente in termini di costi della famiglia GPT-3.5 è GPT-3.5 Turbo, ottimizzato per la chat e in grado di funzionare bene anche per le attività di completamento tradizionali. GPT-3.5 Turbo è disponibile per l'uso con l'API Completamento chat. GPT-3.5 Turbo Instruct offre funzionalità simili a text-davinci-003 usando l'API Completamenti anziché l'API Completamento chat. È consigliabile usare i modelli GPT-3.5 Turbo e GPT-3.5 Turbo Instruct rispetto ai modelli GPT-3.5 e GPT-3.5 legacy.

Per altre informazioni su come interagire con GPT-3.5 Turbo e l'API Chat Completions, vedere le procedure dettagliate.

¹ Questo modello accetterà richieste > 4.096 token. Non è consigliabile superare il limite di 4.096 token di input perché la versione più recente del modello è limitata a 4.096 token. Se si verificano problemi quando si superano 4.096 token di input con questo modello, questa configurazione non è ufficialmente supportata.

Incorporamenti

text-embedding-3-large è il modello di incorporamento più recente e più idoneo. L'aggiornamento tra modelli di incorporamento non è possibile. Per passare dall'uso di text-embedding-ada-002 a text-embedding-3-large è necessario generare nuovi incorporamenti.

• text-embedding-3-large
• text-embedding-3-small
• text-embedding-ada-002

Nei test, OpenAI segnala che sia i modelli di incorporamenti di terze dimensioni che quelli di terza generazione offrono prestazioni migliori per il recupero in più lingue con il benchmark MIRACL, mantenendo al tempo stesso prestazioni ottime per le attività in inglese con il benchmark MTEB.

I modelli di incorporamento di terza generazione supportano la riduzione delle dimensioni dell'incorporamento tramite un nuovo parametro dimensions. In genere, gli incorporamenti di dimensioni maggiori sono più costosi dal punto di vista di calcolo, memoria e archiviazione. La possibilità di regolare il numero di dimensioni consente un maggiore controllo sui costi e sulle prestazioni complessivi. Il parametro dimensions non è supportato in tutte le versioni della libreria Python OpenAI 1.x, per sfruttare questo parametro, è consigliabile eseguire l'aggiornamento alla versione più recente: pip install openai --upgrade.

Il test di benchmark MTEB di OpenAI ha rilevato che anche quando le dimensioni del modello di terza generazione sono ridotte a meno di text-embeddings-ada-002 1.536 dimensioni le prestazioni rimangono leggermente migliori.

DALL-E

I modelli DALL-E generano immagini dai prompt di testo forniti dall'utente. DALL-E 3 è disponibile a livello generale per l'uso con le API REST. DALL-E 2 e DALL-E 3 con SDK client sono in anteprima.

Whisper

I modelli Whisper possono essere usati per il riconoscimento vocale.

È anche possibile usare il modello Whisper tramite l'API trascrizione batch di Voce di Azure AI. Per altre informazioni sull'uso di Riconoscimento vocale per Voce di Azure AI, vedere Che cos'è il modello Whisper? Servizio OpenAI di Azure.

Sintesi vocale (anteprima)

I modelli OpenAI di sintesi vocale, attualmente in anteprima, possono essere usati per sintetizzare il testo in voce.

È anche possibile usare il testo OpenAI per le voci della sintesi vocale tramite Voce di Azure AI. Per altre informazioni, vedere la guida Voci di sintesi vocale di OpenAI via Servizio OpenAI di Azure o via Voce di Azure AI.

Tabella di riepilogo dei modelli e disponibilità dell'area

Modelli per tipo di distribuzione

OpenAI di Azure offre ai clienti opzioni per la struttura di hosting che si adattano ai criteri di business e di utilizzo. Il servizio offre due tipi principali di distribuzione:

• Standard è disponibile con un'opzione di distribuzione globale, instradando il traffico a livello globale per offrire una velocità effettiva più elevata.
• Il provisioning è disponibile anche con un'opzione di distribuzione globale che consente ai clienti di acquistare e distribuire unità elaborate con provisioning nell'infrastruttura globale di Azure.

Tutte le distribuzioni possono eseguire esattamente le stesse operazioni di inferenza, ma la fatturazione, la scalabilità e le prestazioni sono sostanzialmente diverse. Per altre informazioni sui tipi di distribuzione OpenAI di Azure, vedere la guida ai tipi di distribuzione.

Questa tabella non include informazioni sulla disponibilità a livello di area. Per queste informazioni, vedere la sezione relativa all'ottimizzazione.

Modelli standard per endpoint

Ottimizzazione dei modelli

¹ GPT-4 è attualmente disponibile in anteprima pubblica.

Assistenti (anteprima)

Per gli assistenti è necessaria la combinazione di un modello supportato e di un'area supportata. Alcuni strumenti e funzionalità richiedono i modelli più recenti. I modelli seguenti sono disponibili nell'API Assistants, nell'SDK e in Azure AI Foundry. La tabella seguente è relativa al pagamento in base al consumo. Per informazioni sulla disponibilità di unità elaborate con provisioning (PTU), vedere Velocità effettiva con provisioning. I modelli e le aree elencati possono essere usati con Assistenti v1 e v2. È possibile usare i modelli standard globali se sono supportati nelle aree elencate di seguito.

Ritiro del modello

Per le informazioni più recenti sui ritiri dei modelli, vedere la guida al ritiro del modello.

Passaggi successivi

• Ritiro e deprecazione del modello
• Altre informazioni sull'uso dei modelli OpenAI di Azure
• Altre informazioni sui modelli OpenAI di Azure
• Altre informazioni sull'ottimizzazione dei modelli OpenAI di Azure