Azure AI 모델 유추 서비스가란?
Azure AI 모델 유추 서비스는 Azure AI 모델 카탈로그에서 사용할 수 있는 가장 강력한 모델에 대한 액세스를 제공합니다. OpenAI, Microsoft, Meta, Mistral, Cohere, G42 및 AI21 Labs를 비롯한 업계의 주요 모델 공급자로부터 제공됩니다. 이러한 모델을 소프트웨어 솔루션과 통합하여 콘텐츠 생성, 요약, 이미지 이해, 의미 체계 검색 및 코드 생성을 비롯한 광범위한 작업을 제공할 수 있습니다.
Azure AI 모델 유추 서비스는 인프라에서 모델을 호스팅하지 않고 모델을 API로 사용하는 방법을 제공합니다. 모델은 Microsoft가 관리하는 인프라에서 호스트되므로 모델 공급자의 모델에 API를 통해 액세스할 수 있게 해 줍니다. API 기반 액세스는 모델 액세스 비용을 대폭 줄이고 프로비전 환경을 간소화할 수 있습니다.
모델
OpenAI, Microsoft, Meta, Mistral, Cohere, G42 및 AI21 Labs를 비롯한 업계의 주요 모델 공급자에 액세스할 수 있습니다. 모델 공급자는 사용 조건을 정의하고 모델 사용에 대한 가격을 설정합니다. 다음 목록에서는 사용 가능한 모든 모델을 보여 줍니다.
| 모델 공급자 | 모델 |
|---|---|
| AI21 Labs | - AI21-Jamba-1.5-Mini - AI21-Jamba-1.5-Large |
| Azure OpenAI | - o1-preview(액세스 요청) - o1-mini(액세스 요청) - gpt-4o-mini - gpt-4o - text-embedding-3-small - text-embedding-3-large |
| Cohere | - Cohere-command-r-plus-08-2024 - Cohere-command-r-08-2024 - Cohere-embed-v3-multilingual - Cohere-embed-v3-english - Cohere-command-r-plus - Cohere-command-r-r |
| 메타 AI | - Meta-Llama-3-8B-Instruct - Meta-Llama-3-70B-instruct - Meta-Llama-3.1-8B-Instruct - Meta-Llama-3.1-7 0B 지시 - Meta-Llama-3.1-405B-Instruct - Llama-3.2-11B-Vision-Instruct - Llama-3.2-90B-Vision-Instruct |
| Mistral AI | - Mistral-Small - Mistral-Nemo - Mistral-large - Mistral-large - Mistral-large-2407 |
| Microsoft | - Phi-3-mini-4k-instruct - Phi-3-medium-4k-instruct - Phi-3-mini-128k-instruct - Phi-3-medium-128k-instruct - Phi-3 -small-8k-instruct - Phi-3-small-128k-instruct - Phi-3.5-vision-instruct - Phi-3.5-mini-instruct - Phi-3.5-MoE-instruct |
만든 리소스에서 유추에 사용할 수 있는 모델을 결정하고 구성할 수 있습니다. 지정된 모델이 구성된 경우 요청에 모델 이름 또는 배포 이름을 표시하여 해당 모델에서 예측을 생성할 수 있습니다. 코드를 사용하기 위해 코드에서 더 이상 변경할 필요가 없습니다.
Azure AI 모델 유추 리소스에 모델을 추가하고 사용하는 방법을 알아보려면 Azure AI 모델 유추에서 Azure AI 모델에 모델 추가 및 구성을 읽어보세요.
가격 책정
Microsoft 이외의 공급자(예: 메타 AI 및 Mistral 모델)에서 제공하는 모델은 Azure Marketplace를 통해 청구됩니다. 이러한 모델의 경우 Microsoft 상업용 Marketplace 사용 약관에 따라 특정 모델 제품을 구독해야 합니다. 사용자는 모델 사용에 대한 사용 조건을 수락합니다. 사용량에 대한 가격 책정 정보는 배포 중에 제공됩니다.
Microsoft에서 제공하는 모델(예: Phi-3 모델 및 Azure OpenAI 모델)에는 이 요구 사항이 없으며 Azure 미터를 통해 자사 소비 서비스로 요금이 청구됩니다. 제품 약관에 설명된 대로 Azure 미터를 사용하여 자사 사용량 서비스를 구매하지만 Azure 서비스 약관이 적용되지는 않습니다.