Equipe Vermelha de IA da Microsoft

Sobre a Equipe Vermelha de IA

Visão geral

• O que é a Equipe Vermelha de IA e como a Microsoft está criando uma IA mais segura?

Guia de Instruções

• Guia para criar Equipes Vermelhas de IA para LLMs

Referência

• Práticas e ferramentas de IA responsáveis
• Avaliação de impacto e padrão de IA responsável

Preparando-se

Visão geral

• Estrutura de Automação Aberta da Microsoft para PyRIT (Sistemas de IA Generativa da Equipe Vermelha)

Guia de Instruções

• Guia de instruções sobre PyRIT

Referência

• Avaliação de risco de IA para engenheiros de ML
• Modelo de responsabilidade compartilhada de IA

Noções básicas sobre as ameaças

Guia de Instruções

• Diretrizes de modelagem de ameaças para desenvolvedores em sistemas de ML

Conceito

• Taxonomia para falha de aprendizado de máquina

Referência

• Barra de bugs para triagem de ataques em sistemas de ML

Apresentação de soluções seguras

Conceito

• Metodologia para segurança, alinhando a série Phi-3 de modelos de linguagem

Referência

• Segurança empresarial e governança para o Azure Machine Learning
• O que é segurança de conteúdo de IA do Azure?
• Estratégias de mitigação de danos com a IA do Azure
• Monitorar a qualidade e a segurança dos aplicativos prompt flow implantados

Lições aprendidas

Visão geral

• Lições do agrupamento vermelho de 100 produtos de IA generativos