AI 워크로드에 관련된 워크로드 팀 페르소나

AI 워크로드를 빌드하는 컨텍스트에서 기존 코드 배포와 달리 비결정적 모델에는 여러 역할 및 팀에서 반복적인 실험과 협업이 필요합니다. 운영, 애플리케이션 개발 및 데이터 팀의 초기 통합은 상호 이해를 촉진하는 데 필수적입니다. 이 협업은 기술 발전에 보조를 맞추기 위해 다양한 기술과 지속적인 학습을 요구합니다.

효과적인 협업은 워크로드 요구 사항 및 특정 목표에 따라 도구, 프로세스 및 사람을 통합하는 데 달려 있습니다. 권장되는 전략은 다음과 같습니다.

• 명확한 역할 및 책임 설정
• 적절한 작업을 위해 팀의 기술 집합을 활용합니다.
• 공유 백로그의 일부로 작업 추적과 같은 프로세스 및 하위 프로세스를 표준화합니다.
• 자동화를 사용하여 일관성과 재현성을 달성합니다.

가상 사용자는 이러한 전략을 구체화하고 책임을 표준화하는 데 효과적인 도구가 될 수 있습니다. 이 문서에서는 AI 워크로드에서 찾은 가상 사용자 개념과 워크로드 디자인의 이점을 살펴보고 이러한 팀 수준 가상 사용자를 효과적으로 정의하고 활용하기 위한 예제와 도구를 제공합니다.

페르소나란?

가상 사용자는 워크로드 생성 및 실행에 관련된 인간 및 프로세스의 하위 집합을 나타내며, 해당 역할뿐만 아니라 실제 동작 및 책임도 캡처합니다. 개인은 컨텍스트에 따라 하나 이상의 가상 사용자를 구현할 수 있습니다. 흥미롭게도 페르소나는 사람이 될 필요가 없습니다. 아키텍처 내의 에이전트 프로세스와 같은 무인 프로세스일 수도 있습니다.

워크로드에 기능 개발을 구동하는 최종 사용자 가상 사용자가 있을 수 있으며, 이러한 가상 사용자는 이 문서의 범위에 있지 않습니다.

일반적으로 조직 내의 정적 함수 또는 위치인 역할과 달리 가상 사용자는 동적이며 목표 지향적입니다. 아키텍처 구성 요소와 같은 프로세스 및 도구에 기술 요구 사항을 매핑하는 데 사용할 수 있습니다. 가상 사용자는 주로 책임 범위를 정의하고 프로젝트 내에서 컨텍스트를 설정하는 데 도움이 됩니다. 다음과 같은 몇 가지 다른 이점을 제공합니다.

• 리소스 격차를 식별하여 솔루션을 모집, 학습 또는 재설계할지 여부를 결정하는 데 도움이 됩니다. 워크로드 팀에 필요한 가상 사용자를 맞추는 개인이 없는 경우 아키텍처를 조정하거나, 프로세스를 수정하거나, 새 직원을 등록해야 할 수 있습니다. 예를 들어 선임 데이터 과학 페르소나가 누락된 경우 범용 SaaS AI 솔루션에서 더 높은 안정성을 고려하거나 타사 AI 솔루션을 통합하여 아키텍처를 다시 디자인할 수 있습니다.

• 향상된 기술. 페르소나를 특정 아키텍처 구성 요소에 매핑하면 교육 기회를 용이하게 하여 기술을 향상시키기 위한 세션 및 온라인 과정을 제공합니다.

• 적절한 수준의 액세스 권한을 보장합니다. 가상 사용자는 프로세스, 아키텍처 및 서비스에 매핑하여 적절한 액세스 수준을 보장하여 보안 및 액세스 요구 사항을 정의하는 데 사용해야 합니다.

• 프로젝트 계획 및 통신 프로젝트 계획에서 가상 사용자는 주요 상호 작용을 식별하여 동기화 모임 및 전체 계획을 쉽게 설정할 수 있도록 지원합니다. 일반적으로 가상 사용자는 사용자 스토리, 기능 및 요구 사항을 추적하는 계층 구조에 통합되어 프로젝트 관리를 간소화합니다.

가상 사용자를 정의하는 방법

팀 구성원의 전문화를 식별하고 AI 작업 또는 디자인에서 적절한 역할에 맞게 조정합니다. 가상 사용자의 기술 기대치, 팀 정보 및 관련 프로세스를 문서화하는 템플릿을 만듭니다.

다음은 기준 템플릿의 예입니다.

도구

테이블을 사용하면 각 가상 사용자에 대한 정보를 구성하고 시각화하는 데 도움이 될 수 있습니다. 장점은 더 자세한 정보를 위해 다른 테이블을 만들고 연결할 수 있다는 것입니다. 예를 들어 아키텍처 구성 요소를 각 서비스 및 환경(Dev, Stage, Production)에 대해 ID 기반 액세스 제어가 지정된 다른 테이블에 연결할 수 있습니다.

거래. 가상 사용자가 너무 적으면 최소한의 권한으로 역할 기반 액세스 제어를 구현하고 작업 책임을 효과적으로 배포하기가 어려울 수 있습니다. 반대로 가상 사용자가 너무 많으면 관리 오버헤드가 추가됩니다. 5-10개의 가상 사용자부터 시작하는 것이 좋은 균형이며 작업에 필요한 가상 사용자만 추가해야 합니다.

카드를 사용하여 가상 사용자를 정의할 수도 있습니다. 이러한 카드는 테이블 또는 요약과 동일한 정보를 포함합니다. Microsoft PowerPoint를 사용하거나 markdown 파일 집합으로 이러한 카드를 만들 수 있습니다.

경우에 따라 결합된 도구 집합을 사용할 수 있습니다. 예를 들어 가상 사용자 카드의 각 아키텍처 구성 요소는 각 서비스 및 환경에 대한 테이블 매핑 보안 및 역할 기반 액세스 제어를 사용하여 markdown 파일을 열 수 있습니다. 참조 예제 는 MLOps 가속기: ID RBAC를 참조하세요.

예제 페르소나

카드를 사용하여 가상 사용자가 프로세스 내에서 액세스해야 하는 서비스를 정의하고 각 가상 사용자(개인 또는 에이전트)에 필요한 필수 구성 요소 기술을 간략하게 설명할 수 있습니다.

사용 사례: AI 프로세스용 가상 사용자

AI 워크로드와 관련된 주요 프로세스는 다음과 같습니다.

• DataOps는 데이터 수집 및 준비에 중점을 둡니다.
• MLOps에는 기계 학습 모델 운영이 포함됩니다.
• GenAIOps는 기존 모델을 검색 및 평가한 다음 워크로드 컨텍스트로 구체화하는 작업과 관련이 있습니다.
• 내부 루프는 연구 중에 또는 외부 루프 모니터링에 의해 트리거되는 개발 환경의 솔루션을 구체화합니다.
• 외부 루프는 지속적인 모니터링 및 평가를 사용하여 개발에서 프로덕션으로 솔루션을 이동하여 필요한 개선 사항을 식별합니다.

이러한 프로세스에 가상 사용자를 매핑하면 각 가상 사용자에 대한 컨텍스트가 제공됩니다. 이렇게 하면 가상 사용자가 업스킬링이 필요할 수 있는 프로세스를 식별할 수 있습니다.

이미지는 프로덕션 환경 내의 DataOps, MLOps 및 GenAIOps에 대한 워크플로를 보여줍니다. CI/CD(연속 통합/지속적인 배포) 사례를 사용하여 수집에서 모델 배포 및 평가로 데이터 흐름이 진행됩니다. 주요 작업에는 데이터 모델 구체화, 일괄 처리 평가, 엔드포인트 배포, 실시간 모델 평가 및 미세 조정 모델이 포함됩니다. 예제 가상 사용자는 전체 워크플로에 참여합니다.

사용 사례: 아키텍처 디자인에 대한 가상 사용자

프로세스를 지원 아키텍처에 연결하면 가상 사용자가 상호 작용하는 데 필요한 서비스를 식별하여 잠재적인 업스킬링 영역을 강조 표시합니다.

이 연결을 시각화하려면 아키텍처 구성 요소가 연결되는 방법을 보여 주는 그래픽 이미지를 만듭니다. 이는 서비스 간의 데이터 흐름 및 상호 작용과 배포에서 흐름이 자동화되는 방법을 보여 줍니다. 이 시각 보조 기능은 이해 관계자가 아키텍처와 그 안에 있는 다른 가상 사용자의 역할을 이해하는 데 도움이 됩니다.

아래 이미지는 Azure에서 최신 분석을 위한 LAMBDA 아키텍처를 보여 줍니다.

다음 단계

이제 평가 도구로 이동하여 디자인을 평가합니다.