AI 관리 – AI를 제어하는 프로세스

이 문서에서는 AI를 관리하기 위한 조직 프로세스를 간략하게 설명합니다. NIST AI RMF(인공 지능 위험 관리 프레임워크) 및 NIST AI RMF 플레이북을 따릅니다. 또한 CAF Govern의 프레임워크와 일치합니다.

이 지침은 AI 위험 관리를 보다 광범위한 위험 관리 전략에 통합하는 데 도움이 되는 것을 목표로 합니다. 이러한 통합은 통합된 거버넌스 접근 방식을 위해 AI, 사이버 보안 및 개인 정보 보호 위험을 보다 응집력 있는 처리로 제공합니다.

AI 조직 위험 평가

AI 위험 평가는 AI 기술에서 도입된 잠재적 위험을 식별하고 해결합니다. 이 프로세스는 AI 시스템에 대한 신뢰를 구축하고 의도하지 않은 결과를 줄입니다. 조직의 위험을 해결하면 AI 배포가 조직의 가치, 위험 허용 범위 및 운영 목표에 맞게 조정됩니다.

• AI 워크로드를 이해합니다. AI 위험을 완화하려면 AI 워크로드를 이해해야 합니다. 각 AI 워크로드의 범위와 목적을 명확히 하여 관련 위험을 매핑할 수 있습니다. 이 설명에는 AI 워크로드와 관련된 모든 가정 및 제한 사항이 포함되어야 합니다.

• 책임 있는 AI 원칙을 사용하여 위험을 식별합니다. 이러한 원칙은 AI 위험을 평가하기 위한 프레임워크를 제공합니다. 다음 표를 사용하여 AI 원칙의 구조적 평가를 통해 위험을 식별하고 완화합니다.

  책임 있는 AI 원칙	정의	위험 평가 질문
  AI 개인 정보 보호 및 보안	AI 워크로드는 개인 정보를 존중하고 보안을 유지해야 합니다.	AI 워크로드는 어떻게 중요한 데이터를 처리하거나 보안 위반에 취약해질 수 있나요?
  안정성 및 안전성	AI 워크로드는 안전하고 안정적으로 수행해야 합니다.	AI 워크로드가 안전하게 작동하지 않거나 신뢰할 수 없는 결과를 생성할 수 있는 상황은 무엇인가요?
  공정성	AI 워크로드는 사람을 공평하게 처리해야 합니다.	AI 워크로드가 어떻게 의사 결정에서 불평등한 대우 또는 의도하지 않은 편견으로 이어질 수 있을까요?
  포용성	AI 워크로드는 포용적이고 역량을 강화해야 합니다.	AI 워크로드의 디자인 또는 배포에서 특정 그룹을 어떻게 배제하거나 불이익을 받을 수 있나요?
  투명성	AI 워크로드를 이해할 수 있어야 합니다.	사용자가 이해하거나 설명하기 어려울 수 있는 AI 의사 결정의 측면은 무엇인가요?
  책임	사람들은 AI 워크로드에 대한 책임을 져야 합니다.	AI의 개발 또는 사용에서 책임을 확립하기가 불분명하거나 어려울 수 있는 곳은 어디인가요?

• AI 위험을 식별합니다. 먼저 잠재적인 데이터 위반, 무단 액세스 또는 오용을 포함하여 AI 워크로드의 보안 위험을 평가합니다. 이해 관계자와 상의하여 눈에 잘 띄지 않는 위험을 파악하고 평판 위험을 포함한 정성적 및 양적 영향을 모두 평가하여 조직의 위험 허용 범위를 확인합니다.

• 외부 종속성에서 위험을 식별합니다. 타사 데이터 원본, 소프트웨어 및 통합과 관련된 위험을 평가합니다. 조직의 개인 정보 보호 및 규정 준수 표준에 부합하는 정책을 설정하여 보안 취약성, 편견 및 지적 재산권 위험과 같은 문제를 해결합니다.

• 통합 위험을 평가합니다. AI 워크로드를 평가하면 기존 워크로드 및 프로세스와 통합됩니다. 다른 워크로드에 대한 종속성, 복잡성 증가 또는 기능에 영향을 줄 수 있는 비호환성과 같은 잠재적 위험을 문서화합니다.

AI 거버넌스 정책 문서화

AI 거버넌스 정책은 책임 있는 AI 사용을 위한 구조화된 프레임워크를 제공합니다. 이러한 정책은 AI 활동을 윤리적 표준, 규정 요구 사항 및 비즈니스 목표에 맞춥니다. 정책을 문서화하면 AI 모델, 데이터 및 작업을 관리하기 위한 명확한 지침이 보장됩니다.

AI 거버넌스 정책 적용

AI 거버넌스 정책을 적용하면 조직 내에서 일관되고 윤리적인 AI 사례가 보장됩니다. 자동화된 도구 및 수동 개입은 배포에서 정책 준수를 지원합니다. 적절한 적용은 규정 준수를 유지하고 사용자 오류를 최소화하는 데 도움이 됩니다.

• 가능한 경우 Azure Policy 및 Microsoft Purview와 같은 플랫폼을 사용하여 AI 배포에서 정책을 자동으로 적용하여 사용자 오류를 줄이는 정책 적용을 자동화합니다. 자동화가 정책 준수를 향상시킬 수 있는 영역을 정기적으로 평가합니다.

• AI 정책을 수동으로 적용합니다. 직원들이 AI 거버넌스에서 자신의 역할을 이해할 수 있도록 AI 위험 및 규정 준수 교육을 제공합니다. 정기적인 워크샵은 AI 정책에 대한 직원을 업데이트하고, 주기적인 감사를 통해 준수를 모니터링하고 개선 영역을 식별할 수 있습니다.

• 워크로드별 거버넌스 지침을 사용합니다. 자세한 보안 지침은 Azure PaaS(플랫폼 서비스) 및 Azure IaaS(인프라)의 AI 워크로드에 사용할 수 있습니다. 이 지침을 사용하여 이러한 워크로드 유형 내에서 AI 모델, 리소스 및 데이터를 제어합니다.

  Azure 플랫폼에 대한 거버넌스(PaaS)

  Azure 인프라에 대한 거버넌스(IaaS)

AI 조직 위험 모니터링

AI 위험을 모니터링하면 조직에서 새로운 위험을 식별하고 신속하게 해결할 수 있습니다. 정기적으로 평가하면 AI 워크로드가 의도한 대로 작동합니다. 일관된 모니터링을 통해 조직은 진화하는 조건에 적응하고 AI 시스템의 부정적인 영향을 방지할 수 있습니다.

• 지속적인 위험 평가를 위한 절차를 수립합니다. AI의 광범위한 영향을 평가하기 위해 이해 관계자를 참여시켜 새로운 위험을 식별하도록 정기적인 검토를 설정합니다. 위험 재평가 및 필요한 조정을 허용하기 위해 발생하는 문제에 대한 응답 계획을 개발합니다.

• 측정 계획을 개발합니다. 명확한 측정 계획은 일관된 데이터 수집 및 분석을 보장합니다. 운영 메트릭에 대한 자동화된 로깅 및 정성적 피드백에 대한 설문 조사와 같은 데이터 수집 방법을 정의합니다. 측정 빈도 및 범위를 설정하고, 위험 수준이 높은 영역에 초점을 맞추고, 이해 관계자의 입력에 따라 위험 평가를 구체화하는 피드백 루프를 만듭니다.

• AI 위험을 수량화하고 한정합니다. 워크로드의 목적에 맞는 정량적 메트릭(오류율, 정확도) 및 질적 지표(사용자 피드백, 윤리적 문제)를 선택합니다. 업계 표준에 대한 성능을 벤치마킹하여 AI의 영향, 신뢰성 및 성능을 추적합니다.

• 측정 결과를 문서화하고 보고합니다. 일반 설명서 및 보고서는 투명성과 책임을 향상시킵니다. 의사 결정을 안내하는 메트릭, 결과 및 변칙을 요약하는 표준화된 보고서를 만듭니다. 관련자와 이러한 인사이트를 공유하여 위험 완화 전략을 구체화하고 향후 배포를 개선합니다.

• 독립적인 검토 프로세스를 설정합니다. 정기적인 독립 검토는 외부 또는 미공개 내부 검토자를 사용하여 AI 위험 및 규정 준수에 대한 객관적인 평가를 제공합니다. 결과를 사용하여 위험 평가를 강화하고 거버넌스 정책을 구체화합니다.

다음 단계

AI 위험 완화 예제

다음 표에서는 몇 가지 일반적인 AI 위험을 나열하고 각 위험에 대한 완화 전략 및 샘플 정책을 제공합니다. 테이블에는 전체 위험 집합이 나열되지 않습니다.