garak
Escáner de seguridad para chatbots de IA y modelos de lenguaje: envía prompts de ataque para encontrar jailbreaks, inyección de prompts, fugas de datos y respuestas tóxicas, y luego redacta un informe. Prueba solo modelos y servicios que sean tuyos o que tengas permiso para probar.
Descarga gratuita (código abierto)
- Desarrollador
- NVIDIA
- Licencia
- Apache-2.0
- Plataformas
- Windows · macOS · Linux
- Categoría
- Desarrollo y tecnología
Útil para
Aplicaciones similares
Verificado por AppHami.ai en la fuente oficial