garak
Scanner de sécurité pour chatbots IA et modèles de langage : envoie des prompts d'attaque pour détecter jailbreaks, injections de prompt, fuites de données et réponses toxiques, puis rédige un rapport. Testez uniquement les modèles et services qui vous appartiennent ou que vous êtes autorisé à tester.
Téléchargement gratuit (open source)
- Développeur
- NVIDIA
- Licence
- Apache-2.0
- Plateformes
- Windows · macOS · Linux
- Catégorie
- Développement et technologie
Utile pour
- L'IA pour les développeurs
- L'IA pour les chercheurs
- L'IA pour la cybersécurité et la protection des données
Applis similaires
Vérifié par AppHami.ai à la source officielle