Convierte módulos de IA responsable de Microsoft Learn y patrones de remediación de accesibilidad en una lista para funciones generativas (imágenes, código, UI). Verifica brechas de datos (p. ej. estereotipos sobre personas ciegas), audita metadatos de datasets inclusivos, documenta correcciones con humanos en el bucle y alinea con el principio de que las personas siguen siendo responsables de los resultados de la IA.
Casos de uso
- Generadores de imagen sin estereotipos
- Revisión post-incidente por representaciones dañinas
- Compras de modelos de visión de terceros
- Bucles con ERG de discapacidad
- Documentar compras de datos y anonimización
Funciones principales
- Inventariar superficies generativas y comunidades afectadas
- Red-team con escenarios de discapacidad
- Revisar metadatos/etiquetas, no solo volumen
- Definir remediación con dueños
- Verificar puntos de responsabilidad humana
- Publicar memoria firmada con referencias Learn y retest
Relacionados
Relacionados
3 Entradas indexadas
OWASP GenAI LLM Top 10 (v1.1) threat review checklist
Alinea la taxonomía oficial OWASP Top 10 for Large Language Model Applications (v1.1), de LLM01 Prompt Injection hasta LLM10 Model Theft, con un checklist ejecutable para arquitectos que revisan RAG, agentes, complementos y pipelines citando genai.owasp.org. Cada entrada resume el riesgo descrito públicamente por OWASP—incluyendo manipulación de prompts, manejo inseguro de salidas, envenenamiento del entrenamiento, abuso de cómpute, cadena suministro, filtraciones sensibles, plugins con privilegio excesivo, agencias no acotadas, dependencia irracional frente al modelo y robo del weights—emparejándola controles concretos de políticas, supervisión y hardening toolchain.
Security review for AI-generated code
Revisa código generado por IA por modos de fallo de seguridad que asistentes de IA comúnmente pasan por alto: riesgos de prompt injection, exposición de credenciales, vulnerabilidades de dependencias, deserialización insegura y gaps de control de acceso. Esta habilidad detecta lo que los agentes pierden cuando optimizan por funcionalidad sobre seguridad, especialmente en código que maneja input de usuario, autenticación o datos externos.
Multi-region LLM provider readiness review
Convierte guías de control de exportación y enrutamiento multi-proveedor en una lista de planificación cuando un solo país o proveedor de chips no puede asumirse disponible. Se documentan rutas primarias y de contingencia (p. ej. Helicone o LiteLLM Router), se cuantifica exposición de ingresos/latencia si una región queda bloqueada y se alinea mensaje a inversores cuando el liderazgo pide «no esperar nada» de un mercado—como en reportajes sobre licencias de chips en China. Incluye sign-off legal, simulacros de failover y evidencia antes de lanzamientos sensibles geopolíticamente.