红队测试使用对抗性测试用例，帮助在部署前发现不安全、存在风险或违反策略的行为。它通过侧重于普通质量测试可能无法揭示的滥用场景、故障模式和高风险交互，对评估形成补充。
Important: 仅向 OpenAI 红队测试提交您拥有或被明确授权测试的代码或其他资产。未经 OpenAI 明确书面许可，请勿使用 OpenAI 红队测试来分析或报告开源或任何第三方代码中的漏洞。
使用 Promptfoo 进行开源红队测试
Promptfoo 是一个用于评估提示词、智能体和 AI 应用的开源框架。它的红队测试工作流可以帮助您生成对抗性测试用例、检查目标行为，并利用测试结果来改进您的系统。
有关更广泛的开源方法，请参阅 Promptfoo 的 LLM 红队测试指南.
企业版可用性
OpenAI 红队测试面向需要对 AI 应用和智能体采用托管红队测试服务的企业客户开放。与独立的本地工作流相比，企业级工作流能够支持更广泛的协调、审查和报告需求。
红队测试与评估
使用 评估 来衡量 AI 系统是否按预期运行。使用红队测试来探测系统在面临对抗性、滥用性或意外输入时的表现。成熟的评估项目通常会结合使用两者。