garak
Sicherheitsscanner für KI-Chatbots und Sprachmodelle: sendet Angriffsprompts, um Jailbreaks, Prompt-Injection, Datenlecks und toxische Antworten zu finden, und schreibt dann einen Bericht. Testen Sie nur Modelle und Dienste, die Ihnen gehören oder die Sie testen dürfen.
Kostenloser Download (Open Source)
- Entwickler
- NVIDIA
- Lizenz
- Apache-2.0
- Plattformen
- Windows · macOS · Linux
- Kategorie
- Entwicklung & Technik
Geeignet für
Ähnliche Apps
Von AppHami.ai an der offiziellen Quelle geprüft