개발자를 위한 생성 AI 솔루션 빌드 소개

LLM(대규모 언어 모델)에서 사용하도록 설정된 생성 AI는 소프트웨어 개발자와 조직에 흥미로운 새로운 가능성을 열어줍니다. Azure OpenAI와 같은 서비스는 사용하기 쉬운 API를 제공하여 AI 개발을 민주화하여 모든 기술 수준의 개발자가 전문 지식이 필요 없거나 조직이 하드웨어에 투자하도록 요구하지 않고도 고급 AI 기능을 애플리케이션에 통합할 수 있도록 합니다.

애플리케이션 개발자는 어떤 역할을 수행할 수 있는지, 어디에 적합한지 파악하는 데 어려움을 겪을 수 있습니다. 예를 들어 학습에 집중해야 하는 "AI 스택"의 수준이 궁금할 수 있습니다. 아니면 기존 기술을 고려할 때 무엇을 구축할 수 있는지 궁금할 수도 있습니다.

이러한 질문에 대답하려면 먼저 모든 새로운 용어와 기술이 이미 이해한 내용에 어떻게 부합하는지 매핑하는 정신 모델을 개발하는 것이 중요합니다. 정신 모델을 개발하면 애플리케이션에 생성 AI 기능을 디자인하고 빌드하는 데 도움이 됩니다. 이를 위해 이 문서 시리즈의 목적은 현재 소프트웨어 개발 환경이 생성 AI에 적용되는 방식을 보여 주는 것입니다. 또한 이 문서에서는 첫 번째 생성 AI 솔루션 개발을 시작할 때 키워드 및 개념에 대한 수준 집합을 제공합니다.

기업은 생성 AI를 사용하여 무엇을 달성하기를 희망합니까?

현재 소프트웨어 개발 환경이 생성 AI에 어떻게 적용되는지 이해하려면 먼저 기업이 이 환경의 이점을 활용하는 방법을 이해하는 것이 중요합니다.

기업은 생성 AI를 고객 참여를 개선하고 운영 효율성을 높이며 문제 해결 및 창의성을 향상시키는 수단으로 간주합니다. 기존 시스템에 생성 AI를 통합하면 기업이 소프트웨어 에코시스템을 개선할 수 있는 기회가 열립니다. 사용자에 대한 개인 설정된 권장 사항 또는 조직 또는 제품 관련 질문에 대답할 수 있는 지능형 에이전트와 같은 고급 AI 기능으로 기존 소프트웨어 기능을 보완할 수 있습니다.

다음은 생성 AI가 비즈니스에 도움이 될 수 있는 몇 가지 일반적인 시나리오입니다.

• 콘텐츠 생성
  • 텍스트, 코드, 이미지 및 소리를 생성합니다. 이는 마케팅, 영업, IT, 내부 커뮤니케이션 등에 유용할 수 있습니다.
• 자연어 처리
  • 제안 또는 전체 메시지 생성을 통해 비즈니스 통신을 작성하거나 개선합니다.
  • "데이터와 채팅" 또는 다른 말로 하면 사용자가 데이터베이스 또는 문서에 저장된 데이터를 사용하여 채팅 환경에서 질문할 수 있습니다.
  • 콘텐츠의 대규모 본문을 요약, 구성 및 간소화하여 콘텐츠에 더 쉽게 액세스할 수 있도록 합니다.
  • "의미 체계 검색" 또는 오히려 사용자가 정확한 키워드 일치를 사용하지 않고 문서 및 데이터를 검색할 수 있도록 합니다.
  • 언어를 번역하여 콘텐츠의 도달률과 접근성을 높입니다.
• 데이터 분석
  • 시장을 분석하고 데이터의 추세를 식별합니다.
  • "what if" 시나리오를 모델링하여 기업이 비즈니스의 모든 영역에서 가능한 변경 또는 과제를 계획할 수 있도록 지원합니다.
  • 코드를 분석하여 개선 사항을 제안하고, 버그를 수정하고, 설명서를 생성합니다.

볼 수 있듯이 소프트웨어 개발자는 조직에서 사용하는 소프트웨어에 생성 AI 애플리케이션 및 기능을 통합하여 영향을 크게 높일 수 있습니다.

이러한 유형의 애플리케이션을 빌드하려면 어떻게 해야 할까요?

LLM(큰 언어 모델)은 많은 작업을 수행하는 동안 결과를 통합, 오케스트레이션 및 모니터링하는 시스템을 빌드합니다. 배울 것이 많지만 이미 알고 있는 기술을 적용할 수 있습니다.

• REST, JSON 또는 언어별 SDK(소프트웨어 개발 키트)를 사용하여 API 호출
• API 호출 오케스트레이션 및 비즈니스 논리 수행
• 데이터 저장소에 저장 및 검색
• 입력 및 결과를 사용자 환경에 통합
• LLM에서 호출할 수 있는 API 만들기

이러한 방식으로 생성 AI 솔루션 개발은 기존 기술을 기반으로 합니다.

사용할 수 있는 도구와 서비스는 무엇인가요?

Microsoft는 생성 AI 개발 과정을 시작할 때 도움이 되는 도구, 서비스, API, 샘플 및 학습 리소스 개발에 투자합니다. 각각은 생성 AI 솔루션을 생성하는 데 필요한 몇 가지 주요 관심사 또는 책임을 강조합니다. 지정된 서비스, API 또는 리소스를 효과적으로 활용하려면 다음을 확인해야 합니다.

• 지정된 유형의 생성 AI 기능에서 일반적인 기능, 역할 및 책임을 이해하시겠습니까? 예를 들어 RAG(검색-증강 세대) 기반 채팅 시스템을 설명하는 개념 문서에서 긴 시간 동안 설명한 것처럼 시스템에는 많은 아키텍처 책임이 있습니다. 문제를 해결하는 시스템을 디자인하기 전에 문제 도메인 및 제약 조건을 잘 이해하는 것이 중요합니다.
• 지정된 함수, 역할 또는 책임에 대한 API, 서비스 및 도구가 존재하는지 이해하시겠습니까? 이제 문제 도메인 및 제약 조건을 이해했으므로 사용자 지정 코드를 사용하여 시스템의 해당 측면을 직접 빌드하거나 기존 하위 코드/코드 없음 도구를 사용하거나 기존 서비스에 대한 API를 호출하도록 선택할 수 있습니다.
• 코드 중심 및 코드 없음/하위 코드 솔루션을 포함한 옵션을 이해합니다. 당신은 모든 것을 직접 구축 할 수 있지만, 당신의 시간과 기술의 효율적인 사용입니까? 요구 사항에 따라 일반적으로 기술과 접근 방식의 조합(코드, 코드 없음, 하위 코드, 도구)을 결합할 수 있습니다.

여기서 중요한 점은 애플리케이션에 생성 AI 기능을 빌드하는 단일 올바른 방법이 없다는 것입니다. 많은 도구와 접근 방식이 있습니다. 장중을 평가하는 것이 중요합니다.

애플리케이션 계층에 대한 포커스로 시작

시작하고 생산성을 높이기 위해 생성 AI 작업에 대한 모든 것을 이해할 필요는 없습니다. 앞에서 설명한 대로 API를 사용하고 기존 기술을 적용할 수 있으므로 이미 충분히 알고 있을 것입니다.

예를 들어 사용자 고유의 LLM을 처음부터 학습시킬 필요가 없습니다. LLM을 교육하려면 대부분의 회사에서 커밋을 꺼리는 시간과 리소스가 필요합니다. 대신 Azure OpenAI API와 같은 기존 호스팅 서비스에 API를 호출하여 GPT-4와 같은 기존의 미리 학습된 기본 모델을 기반으로 빌드합니다. 이러한 방식으로 기존 애플리케이션에 생성 AI 기능을 추가하는 것은 API 호출을 기반으로 다른 기능을 추가하는 것과 다르지 않습니다.

LLM이 어떻게 학습되는지 또는 어떻게 작동하는지 조사하면 지적 호기심을 충족시킬 수 있지만 LLM이 작동하는 방식을 진정으로 이해하려면 데이터 과학과 이를 지원하기 위한 수학 배경을 깊이 이해해야 합니다. 여기에는 통계, 확률 및 정보 이론에 대한 대학원 수준의 과정이 포함될 수 있습니다.

컴퓨터 과학 배경에서 온 경우 대부분의 애플리케이션 개발은 연구 및 기술의 "스택에서 더 높은 계층"에서 발생한다는 것을 알 수 있습니다. 각 계층에 대한 이해가 있을 수 있지만 특정 프로그래밍 언어 및 플랫폼(사용 가능한 API, 도구, 패턴 등)에 중점을 두고 애플리케이션 개발 계층을 전문으로 할 수 있습니다.

AI 분야도 마찬가지입니다. LLM을 기반으로 구축되는 이론을 이해하고 이해할 수 있지만, 애플리케이션 계층에 집중하거나 패턴 또는 프로세스를 구현하여 회사에서 생성 AI 작업을 가능하게 하는 데 도움이 될 수 있습니다.

새 애플리케이션 또는 기존 애플리케이션에서 생성 AI 기능을 구현하는 데 필요한 지식 계층을 지나치게 간소화한 표현은 다음과 같습니다.

가장 낮은 수준에서는 통계, 확률 이론 등에 대한 깊은 수학적 이해를 기반으로 AI를 해결하거나 개선하기 위해 데이터 과학 연구를 수행하는 데이터 과학자가 있습니다. 가장 낮은 기본 계층을 기반으로 한 계층에는 LLM에 이론적 개념을 구현하고, 신경망을 구축하고, 가중치 및 바이어스를 학습하여 입력(프롬프트)을 수락하고 결과(완료)를 생성할 수 있는 실용적인 소프트웨어를 제공하는 데이터 과학자가 있습니다. 프롬프트에 따라 완성을 구성하는 계산 프로세스를 유추라고 합니다. 신경망의 뉴런이 생성될 다음 단어 또는 픽셀을 예측하는 방법을 구현하는 책임이 있는 사람들이 있습니다.

모델을 학습시키고 입력을 기반으로 결과를 생성하는 데 필요한 처리 능력의 양을 지정합니다. 모델은 대용량 데이터 센터에서 학습되고 호스트되는 경우가 많습니다. 로컬 컴퓨터에서 모델을 학습하거나 호스트할 수 있지만 결과는 종종 느립니다(결과를 생성하는 데 필요한 컴퓨팅을 처리하는 데 도움이 되는 전용 GPU 비디오 카드가 없는 경우).

대규모 데이터 센터에서 호스트되는 경우 REST API를 통해 이러한 모델에 대한 프로그래밍 방식 액세스가 제공되며, SDK에 의해 "래핑"되어 애플리케이션 개발자가 쉽게 사용할 수 있습니다. 다른 도구는 개발자 환경을 개선하여 관찰 가능성 또는 기타 유틸리티를 제공하는 데 도움이 될 수 있습니다. 애플리케이션 개발자는 이러한 API를 호출하여 비즈니스 기능을 구현할 수 있습니다.

프로그래밍 방식으로 모델을 표시하는 것 외에도, 기업이 생성 AI를 기반으로 안정적인 비즈니스 기능을 구축하는 데 도움이 되는 패턴과 프로세스가 등장하고 있습니다. 예를 들어, 기업이 생성된 텍스트, 코드, 이미지 및 사운드가 윤리적 및 안전 표준뿐만 아니라 고객 데이터의 개인 정보 보호에 대한 약속을 준수하는 데 도움이 되는 패턴이 있습니다.

이 문제 또는 계층 스택에서 비즈니스 기능 빌드를 담당하는 애플리케이션 개발자인 경우 애플리케이션 계층을 넘어 사용자 고유의 LLM을 개발하고 교육할 수 있습니다. 그러나 이러한 수준의 이해에는 종종 학문적으로만 사용할 수 있는 새로운 기술 세트가 필요합니다. "스택의 다음 계층"(말하자면)을 빌드하는 데 도움이 되도록 학문적으로 데이터 과학 역량 개발에 전념할 수 없는 경우 다음과 같은 애플리케이션 계층 항목에 집중합니다.

• 사용 가능한 API 및 SDK, 사용 가능한 기능, 다양한 엔드포인트에서 생성하는 내용 등을 이해합니다.
• 프로덕션 준비 생성 AI 솔루션에 필요한 모든 기능을 빌드하는 데 도움이 되는 관련 도구 및 서비스를 이해합니다.
• 질문을 하거나 질문을 반복하여 최상의 결과를 달성하는 방법과 같은 프롬프트 엔지니어링을 이해합니다.
• 병목 현상이 나타나는 위치와 솔루션의 크기를 조정하는 방법을 이해합니다. 고객 개인 정보 보호 문제를 위반하지 않고 원격 분석 로깅 또는 가져오기와 관련된 사항을 이해합니다.
• 다양한 LLM의 특성(강점, 사용 사례, 벤치마크 및 측정 대상, 각 공급업체에서 생성된 공급업체와 모델 간의 주요 차별화 등)을 이해하여 회사의 요구에 적합한 모델을 선택합니다.
• 애플리케이션에서 효과적이고 복원력 있는 생성 AI 기능을 빌드하는 데 사용되는 최신 패턴, 워크플로 및 프로세스를 이해합니다.

Microsoft에서 사용 가능한 서비스 및 도구

일부 또는 전체 솔루션을 빌드하는 데 도움이 되도록 Microsoft에서 사용할 수 있는 코드 및 코드가 없는 생성 AI 도구 및 서비스가 있습니다. 다양한 Azure 서비스는 각각 솔루션의 효율성, 확장성 및 견고성에 기여하는 중요한 역할을 수행할 수 있습니다.

코드 중심 접근 방식의 API 및 SDK

모든 생성 AI 솔루션의 핵심은 LLM 모델이며, Azure OpenAI는 GPT-4와 같은 모델에서 사용할 수 있는 모든 기능에 대한 액세스를 제공합니다.

실행 환경

생성 AI를 조직의 애플리케이션에 통합하기 위해 비즈니스 논리, 프레젠테이션 논리 또는 API를 빌드하고 있으므로 해당 논리를 호스트하고 실행해야 합니다.

하위 코드/코드 없음

또는 솔루션에 필요한 일부 논리를 신속하게 빌드하고 낮은 코드 또는 코드 없는 솔루션에서 안정적으로 호스트할 수 있습니다.

벡터 데이터베이스

특정 생성 AI 솔루션에는 생성을 보강하는 데 사용되는 데이터의 스토리지 및 검색이 필요할 수 있습니다(예: 사용자가 조직의 데이터와 채팅할 수 있도록 하는 RAG 기반 채팅 시스템). 이 사용 사례에서는 벡터 데이터 저장소가 필요합니다.

이러한 각 Azure 서비스는 생성 AI 솔루션을 위한 포괄적이고 확장 가능하며 효율적인 아키텍처를 만들어 개발자가 Azure의 클라우드 기능 및 AI 기술을 최대한 활용할 수 있도록 하는 데 기여합니다.

Azure OpenAI API를 사용한 코드 중심 생성 AI 개발

이 섹션에서는 Azure OpenAI API에 집중합니다. 앞에서 설명한 대로 RESTful 웹 API를 통해 프로그래밍 방식으로 LLM 기능에 액세스합니다. 말 그대로 모든 최신 프로그래밍 언어를 사용하여 이러한 API를 호출할 수 있습니다. 대부분의 경우 언어 또는 플랫폼별 SDK는 REST API 호출을 중심으로 "래퍼"로 작동하여 환경을 보다 공생하게 만듭니다.

• .NET용 Azure OpenAI 클라이언트 라이브러리
• Java용 Azure OpenAI 클라이언트 라이브러리
• JavaScript용 Azure OpenAI 클라이언트 라이브러리
• Go용 Azure OpenAI 클라이언트 모듈
• Python에는 Azure 특정 클라이언트 라이브러리가 없습니다. OpenAI Python 패키지를 사용하고 몇 가지 옵션을 변경합니다.

언어 또는 플랫폼 SDK를 사용할 수 없는 경우 최악의 시나리오는 웹 API에 직접 REST 호출을 수행해야 한다는 것입니다. 그러나 대부분의 개발자는 웹 API를 호출하는 방법을 잘 알고 있습니다.

• Azure OpenAI 서비스 REST API

Azure OpenAI는 다양한 유형의 AI 기반 작업을 용이하게 하도록 설계된 다양한 API를 제공하므로 개발자는 고급 AI 기능을 애플리케이션에 통합할 수 있습니다. 다음은 OpenAI에서 사용할 수 있는 주요 API에 대한 개요입니다.

• 채팅 완료 API: 이 API는 대화형 기능을 비롯한 텍스트 생성 시나리오에 중점을 두어 인간과 유사한 자연스러운 대화에 참여할 수 있는 챗봇 및 가상 도우미를 만들 수 있도록 합니다. 고객 지원, 개인 비서 및 대화형 학습 환경을 비롯한 대화형 사용 사례에 최적화되어 있습니다. 그러나 요약, 자동 완성, 문서 작성, 텍스트 분석, 번역 등을 비롯한 모든 텍스트 생성 시나리오에도 사용됩니다. 현재 미리 보기로 제공되는 비전 기능의 진입점입니다(즉, 이미지를 업로드하고 그것에 대해 질문).
• 조정 API: 이 API는 개발자가 텍스트 내에서 잠재적으로 유해한 콘텐츠를 식별하고 필터링할 수 있도록 설계되었으며, 공격적이거나 안전하지 않거나 부적절한 자료를 자동으로 감지하여 더 안전한 사용자 상호 작용을 보장하는 도구를 제공합니다.
• 포함 API: Embeddings API는 텍스트 입력의 벡터 표현을 생성하여 단어, 문장 또는 단락을 고차원 벡터로 변환합니다. 이러한 포함은 의미 체계 검색, 클러스터링, 콘텐츠 유사성 분석 등에 사용할 수 있습니다. 텍스트에서 기본 의미와 의미 체계 관계를 캡처합니다.
• 이미지 생성 API: 이 API를 사용하면 텍스트 설명에서 원래의 고품질 이미지와 아트를 생성할 수 있습니다. OpenAI의 DALL을 기반으로 합니다. E 모델- 수신하는 프롬프트에 따라 다양한 스타일 및 주제와 일치하는 이미지를 만들 수 있습니다.
• 오디오 API: 이 API는 자동 음성 인식을 위해 설계된 OpenAI의 오디오 모델에 대한 액세스를 제공합니다. 음성 언어를 텍스트로 전사하거나 텍스트를 음성으로 전사하여 다양한 언어와 방언을 지원할 수 있습니다. 음성 명령, 오디오 콘텐츠 전사 등이 필요한 애플리케이션에 유용합니다.

생성 AI를 사용하여 다양한 미디어 형식을 사용할 수 있지만, 이 문서의 나머지 부분에서는 텍스트 기반 생성 AI 솔루션에 집중합니다. 채팅, 요약 등과 같은 시나리오를 다룹니다.

생성 AI를 사용하여 애플리케이션 개발을 시작하는 방법

익숙하지 않은 언어, API 또는 기술을 접하는 소프트웨어 개발자는 일반적으로 자습서 또는 학습 모듈을 따라 작은 애플리케이션을 빌드하여 학습을 시작합니다. 일부 소프트웨어 개발자는 자체 기반 접근 방식을 사용하고 작은 실험적 애플리케이션을 빌드하는 것을 선호합니다. 두 방법 모두 유효하고 유용합니다.

시작할 때는 생성 AI 프레젠테이션을 사용하여 개발하는 데 고유한 과제가 있으므로 작게 시작하고, 거의 약속하지 않고, 반복하고, 이해와 기술을 구축하는 것이 가장 좋습니다. 예를 들어 기존 소프트웨어 개발에서는 결정적 출력을 사용할 수 있습니다. 모든 입력 집합에 대해 매번 정확히 동일한 출력을 기대할 수 있습니다. 그러나 생성은 비결정적입니다. 지정된 프롬프트에 대해 정확히 동일한 대답을 두 번 얻지 못할 수 있으며, 이는 많은 새로운 과제의 근본 원인입니다. 시작하는 동안 너무 멀리 나가기 전에 다음 팁을 고려하세요.

팁 #1: 달성하려는 작업을 명확하게 파악합니다.

• 해결하려는 문제에 대해 자세히 알아봅니다. 생성 AI는 광범위한 문제를 해결할 수 있지만, 성공은 해결하려는 특정 문제를 명확하게 정의하는 데서 비롯됩니다. 텍스트, 이미지, 코드 또는 다른 항목을 생성하려고 합니까? 더 구체적으로 지정할수록 요구 사항에 맞게 AI를 더 잘 조정할 수 있습니다.
• 대상 그룹 이해: 대상 그룹을 알면 AI의 출력을 특정 분야의 캐주얼 사용자 또는 전문가와 관계없이 기대에 맞게 조정하는 데 도움이 됩니다.

팁 #2: LLM의 강점으로 플레이합니다.

• LLM의 제한 사항 및 편견 이해: LLM은 강력하지만 제한 사항과 내재된 편견이 있습니다. 제한 사항과 편견을 알면 이를 중심으로 설계하거나 완화를 통합하는 데 도움이 될 수 있습니다.
• LLM의 Excel 위치를 이해합니다. LLM은 콘텐츠 만들기, 요약, 언어 번역 등과 같은 작업에서 탁월합니다. 새 버전마다 의사 결정 기능과 차별적 기능이 점점 더 강해지고 있지만 시나리오 또는 사용 사례에 더 적합한 다른 유형의 AI가 있을 수 있습니다. 작업에 적합한 도구를 선택합니다.

팁 #3: 최상의 결과는 좋은 프롬프트로 시작합니다.

• 프롬프트 엔지니어링 모범 사례 알아보기: 효과적인 프롬프트를 만드는 것은 예술입니다. 다른 프롬프트를 실험하여 출력에 미치는 영향을 확인합니다. 간결하면서도 설명적이어야 합니다.
• 반복적인 구체화에 커밋: 종종 첫 번째 프롬프트가 원하는 결과를 생성하지 못할 수 있습니다. 그것은 시행 착오의 과정입니다. 출력을 사용하여 프롬프트를 더 구체화합니다.

첫 번째 생성 AI 솔루션 빌드

생성 AI 솔루션을 즉시 빌드하는 실험을 시작하려면 Python용 사용자 고유의 데이터 샘플을 사용하여 채팅을 시작하는 것이 좋습니다. .NET, Java 및 JavaScript에서도 사용할 수 있는 자습서 버전이 있습니다.

애플리케이션 디자인 결정에 영향을 줄 수 있는 최종 고려 사항

다음은 애플리케이션 디자인 결정에 영향을 주는 이 문서에서 고려해야 할 사항 및 기타 내용의 짧은 목록입니다.

• AI의 기능을 사용자 기대에 맞게 명확하게 정의하여 의도한 사용 사례에 대한 솔루션의 효율성을 최적화합니다.
• 프로젝트의 요구 사항을 충족하는 경우 빠른 프로토타입 생성 및 개발을 위해 낮은 코드/코드 없는 플랫폼을 사용하여 개발 속도와 사용자 지정 가능성 간의 절충을 평가합니다. 애플리케이션의 일부에서 개발 속도를 향상시키고 비기술 팀 구성원이 프로젝트에 기여할 수 있도록 하는 하위 코드 및 코드 없는 솔루션의 가능성을 살펴봅니다.