将 Microsoft Learn 负责任 AI 与无障碍修复整理为清单：核查生成式输出（图像/代码/UI）对视障等群体的刻板描绘、审计 dataset metadata、记录人在回路修复，并对齐人对 AI 结果负责的原则。
使用场景
- 图像生成器反刻板化
- 有害无障碍表述事后审查
- 第三方视觉模型采购
- 与残障 ERG 闭环
- 审计补充数据采购
主要功能
- 盘点生成式输出面
- 残障场景 red-team
- 审查 metadata/标签
- 定义补救与负责人
- 保留人工问责点
- 发布签字备忘录
相关推荐
相关推荐
3 收录条目
OWASP GenAI LLM Top 10（v1.1）风险核查清单
将 OWASP GenAI 项目组维护的《大型语言模型应用 Top 10》公开分类（社区页面当前称为 v1.1，自 LLM01 提示注入延伸至 LLM10 模型窃取）转写为可逐项打勾的工程设计清单，覆盖 RAG、工具调用链、插件宿主、持续学习与托管推理等架构。每个风险域的叙述与缓解方向与 genai.owasp.org／项目维基对「提示操控、未验证输出、语料或训练投毒、滥用算力型 DoS、依赖与模型供应链、敏感信息回声、特权工具设计、代理自主性失控、对模型结论的过度信赖、专有模型与权重被外部复制」等条目描述保持一致，并强调将策略控制、观测与安全左移结合，而非仅依赖单次渗透测试结论。
AI 生成代码的安全审查
审查 AI 生成的代码是否存在注入风险、凭证泄露、依赖漏洞和访问控制缺陷——捕捉智能体在优化功能而非安全性时容易遗漏的问题。
多区域 LLM 提供商就绪度核查
将出口管制与多厂商路由整理为规划清单：记录主/备路（含 Helicone、LiteLLM Router）、量化区域封锁敞口，并在管理层对某市场「零预期」时与财务口径一致；含法务会签、故障演练与上线前证据。