Azure OpenAI Service란?

Azure OpenAI 서비스는 o1, o1-mini, GPT-4o, GPT-4o mini, GPT-4 Turbo with Vision, GPT-4, GPT-3.5-Turbo 및 Embeddings 모델 시리즈를 포함하여 OpenAI의 강력한 언어 모델에 대한 REST API 액세스를 제공합니다. 이러한 모델은 콘텐츠 세대, 요약, 이미지 해석, 의미 체계 검색, 자연어에서 코드로의 번역을 포함하되 이에 국한되지 않는 특정 작업에 쉽게 적용할 수 있습니다. 사용자는 REST API, Python SDK 또는 Azure AI Foundry를 통해 서비스에 액세스할 수 있습니다.

기능 개요

책임 있는 AI

Microsoft는 사용자를 최우선으로 하는 원칙에 따라 AI를 발전시키기 위해 최선을 다하고 있습니다. Azure OpenAI에서 사용할 수 있는 것과 같은 생성 모델은 상당한 잠재적 이점이 있지만 신중한 디자인과 사려 깊은 완화 없이 이러한 모델은 부정확하거나 심지어 유해한 콘텐츠를 생성할 가능성이 있습니다. Microsoft는 책임감 있는 AI 사용에 대한 Microsoft의 원칙을 통합하고, 서비스 사용을 위한 준수 사항을 채택하고, 고객을 지원하기 위한 콘텐츠 필터를 구축하고, 고객이 Azure OpenAI를 사용할 때 고려해야 하는 책임 있는 AI 정보 및 지침을 제공하는 등 남용 및 의도하지 않은 피해를 방지하기 위해 상당한 투자를 했습니다.

Azure OpenAI Service 시작

Azure OpenAI 서비스를 시작하려면 Azure 구독에서 Azure OpenAI 서비스 리소스를 만들어야 합니다.

Azure OpenAI 서비스 리소스 만들기 및 배포 가이드부터 시작합니다.

1. Azure Portal, Azure CLI 또는 Azure PowerShell을 통해 리소스를 만들 수 있습니다.

2. Azure OpenAI 서비스 리소스가 있는 경우 GPT-4o와 같은 모델을 배포할 수 있습니다.

3. 배포된 모델이 있는 경우 다음을 수행할 수 있습니다.

   • Azure AI Foundry 포털 플레이그라운드를 사용하여 모델의 기능을 살펴봅니다.
   • REST API 또는 SDK를 사용하여 서비스에 대한 API 호출을 시작할 수도 있습니다.

   예를 들어 플레이그라운드 또는 코드를 통해 실시간 오디오 및 도우미를 사용해 볼 수 있습니다.

Azure OpenAI 및 OpenAI 비교

Azure OpenAI Service는 Azure의 보안 및 엔터프라이즈 지원을 통해 OpenAI GPT-4, GPT-3, Codex, DALL-E, Whisper 및 텍스트 음성 변환 모델을 사용하는 고급 언어 AI를 고객에게 제공합니다. Azure OpenAI는 OpenAI와 API를 공동 개발하여 호환성과 원활한 전환을 보장합니다.

Azure OpenAI를 사용하면 고객은 OpenAI와 동일한 모델을 실행하면서 Microsoft Azure의 보안 기능을 얻을 수 있습니다. Azure OpenAI는 프라이빗 네트워킹, 지역 가용성 및 책임 있는 AI 콘텐츠 필터링을 제공합니다.

주요 개념

프롬프트 및 완성

완성 엔드포인트는 API 서비스의 핵심 구성 요소입니다. 이 API는 모델의 텍스트 입력, 텍스트 출력 인터페이스에 대한 액세스를 제공합니다. 사용자는 영어 텍스트 명령이 포함된 입력 프롬프트를 제공하기만 하면 모델에서 텍스트 완성을 생성합니다.

간단한 프롬프트 및 완성 예제는 다음과 같습니다.

프롬프트: """ count to 5 in a for loop """

완성: for i in range(1, 6): print(i)

토큰

텍스트 토큰

Azure OpenAI는 텍스트를 토큰으로 분해하여 처리합니다. 토큰은 단어 또는 문자 청크일 수 있습니다. 예를 들어 "hamburger"라는 단어는 "ham", "bur" 및 "ger" 토큰으로 분해되지만, "pear"와 같은 짧고 일반적인 단어는 단일 토큰입니다. 많은 토큰이 공백으로 시작합니다(예: " hello" 및 " bye").

지정된 요청에서 처리되는 총 토큰 수는 입력, 출력 및 요청 매개 변수의 길이에 따라 달라집니다. 처리되는 토큰의 양은 모델의 응답 대기 시간 및 처리량에도 영향을 줍니다.

이미지 토큰

GpT-4o, GPT-4o mini 및 GPT-4 Turbo with Vision 모델을 사용하는 Azure OpenAI의 이미지 처리 기능은 이미지 토큰화를 사용하여 이미지 입력에서 사용되는 총 토큰 수를 결정합니다. 사용된 토큰 수는 이미지 세부 정보 수준(낮음 또는 높음)과 이미지의 차원이라는 두 가지 주요 요소를 기반으로 계산됩니다. 토큰 비용을 계산하는 방법은 다음과 같습니다.

• 낮은 해상도 모드
  • 세부 정보가 낮을수록 API는 높은 이미지 해상도 분석이 필요하지 않은 시나리오에 대해 더 빠른 응답을 반환할 수 있습니다. 낮은 세부 이미지에 사용되는 토큰은 다음과 같습니다.
    • GPT-4o 및 GPT-4 Turbo with Vision: 크기에 관계없이 이미지당 85 토큰의 고정 속도입니다.
    • GPT-4o mini: 크기에 관계없이 이미지당 2833 토큰의 고정 속도입니다.
  • 예: 4096 x 8192 이미지(낮은 세부 정보): 비용은 GPT-4o가 있는 고정된 85개 토큰이며, 낮은 세부 이미지이며 크기가 이 모드의 비용에 영향을 주지 않기 때문입니다.
• 고해상도 모드
  • 높은 세부 정보를 통해 API는 이미지를 더 자세히 분석할 수 있습니다. 이미지 토큰은 이미지의 차원에 따라 계산됩니다. 계산에는 다음 단계가 포함됩니다.
    1. 이미지 크기 조정: 이미지의 크기는 2048 x 2048 픽셀 정사각형 내에 맞게 조정됩니다. 가장 짧은 면이 768픽셀보다 크면 가장 짧은 면이 768픽셀 길이가 되도록 이미지의 크기가 더 조정됩니다. 가로 세로 비율은 크기 조정 중에 유지됩니다.
    2. 타일 계산: 크기가 조정되면 이미지가 512 x 512 픽셀 타일로 나뉩니다. 부분 타일은 전체 타일로 반올림됩니다. 타일 수에 따라 총 토큰 비용이 결정됩니다.
    3. 토큰 계산:
       • GPT-4o 및 GPT-4 Turbo with Vision: 각 512 x 512 픽셀 타일의 비용은 170 토큰입니다. 총 85개의 기본 토큰이 추가됩니다.
       • GPT-4o mini: 각 512 x 512 픽셀 타일의 비용은 5667 토큰입니다. 총 2833개의 기본 토큰이 추가됩니다.
  • 예: 2048 x 4096 이미지(높은 세부 정보):
    1. 이미지는 처음에 2048 x 2048 픽셀 정사각형 내에 맞게 1024 x 2048 픽셀로 조정됩니다.
    2. 이미지의 크기는 768 x 1536픽셀로 더 조정되어 가장 짧은 면이 최대 768픽셀 길이가 되도록 합니다.
    3. 이미지는 각각 512 x 512 픽셀인 2 x 3 타일로 나뉩니다.
    4. 최종 계산:
       • GPT-4o 및 GPT-4 Turbo with Vision의 경우 총 토큰 비용은 타일당 6개의 타일 x 170개 토큰 + 85개의 기본 토큰 = 1105개 토큰입니다.
       • GPT-4o mini의 경우 총 토큰 비용은 타일당 6개의 타일 x 5667 토큰 + 2833 기본 토큰 = 36835 토큰입니다.

리소스

Azure OpenAI는 Azure에서 제공되는 새로운 제품입니다. Azure OpenAI는 Azure 구독에서 리소스 또는 서비스 인스턴스를 만드는 다른 Azure 제품과 동일한 방식으로 시작할 수 있습니다. Azure의 리소스 관리 디자인에 대해 자세히 알아볼 수 있습니다.

배포

Azure OpenAI 리소스가 만들어지면 API 호출 및 텍스트 생성을 시작하기 전에 먼저 모델을 배포해야 합니다. 이 작업은 배포 API를 사용하여 수행할 수 있습니다. 이러한 API를 사용하면 사용하려는 모델을 지정할 수 있습니다.

신속한 엔지니어링

OpenAI의 GPT-3, GPT-3.5 및 GPT-4 모델은 프롬프트 기반입니다. 프롬프트 기반 모델에서 사용자는 텍스트 프롬프트를 입력하여 모델과 상호 작용하고 모델은 텍스트 완료로 응답합니다. 이렇게 완료하면 모델의 텍스트 입력이 계속됩니다.

이러한 모델은 강력하지만 해당 동작은 프롬프트에도 민감합니다. 이는 신속한 엔지니어링을 개발하는 데 중요한 기술로 만듭니다.

프롬프트 생성이 어려울 수 있습니다. 실제로 프롬프트는 원하는 작업을 완료하기 위해 모델 가중치를 구성하는 역할을 하지만 과학이라기보다는 예술에 가깝기 때문에 성공적인 프롬프트를 만들기 위해서는 경험과 직관이 필요한 경우가 많습니다.

모델

이 서비스는 사용자에게 몇 가지 다른 모델에 대한 액세스를 제공합니다. 각 모델은 다른 기능과 가격대를 제공합니다.

DALL-E 모델(일부는 미리 보기로 제공, 모델 참조)은 사용자가 제공하는 텍스트 프롬프트에서 이미지를 생성합니다.

Whisper 모델은 음성을 텍스트로 기록하고 번역하는 데 사용할 수 있습니다.

현재 미리 보기로 제공되는 텍스트 음성 변환 모델은 텍스트 음성 변환을 합성하는 데 사용할 수 있습니다.

모델 개념 페이지에서 각 모델에 대해 자세히 알아보세요.

다음 단계

Azure OpenAI를 지원하는 기본 모델에 대해 자세히 알아봅니다.