Seguridad

Convierte módulos de IA responsable de Microsoft Learn y patrones de remediación de accesibilidad en una lista para funciones generativas (imágenes, código, UI). Verifica brechas de datos (p. ej. estereotipos sobre personas ciegas), audita metadatos de datasets inclusivos, documenta correcciones con humanos en el bucle y alinea con el principio de que las personas siguen siendo responsables de los resultados de la IA.

Alinea la taxonomía oficial OWASP Top 10 for Large Language Model Applications (v1.1), de LLM01 Prompt Injection hasta LLM10 Model Theft, con un checklist ejecutable para arquitectos que revisan RAG, agentes, complementos y pipelines citando genai.owasp.org. Cada entrada resume el riesgo descrito públicamente por OWASP—incluyendo manipulación de prompts, manejo inseguro de salidas, envenenamiento del entrenamiento, abuso de cómpute, cadena suministro, filtraciones sensibles, plugins con privilegio excesivo, agencias no acotadas, dependencia irracional frente al modelo y robo del weights—emparejándola controles concretos de políticas, supervisión y hardening toolchain.

Revisa código generado por IA por modos de fallo de seguridad que asistentes de IA comúnmente pasan por alto: riesgos de prompt injection, exposición de credenciales, vulnerabilidades de dependencias, deserialización insegura y gaps de control de acceso. Esta habilidad detecta lo que los agentes pierden cuando optimizan por funcionalidad sobre seguridad, especialmente en código que maneja input de usuario, autenticación o datos externos.