garak
Säkerhetsskanner för AI-chattbottar och språkmodeller: skickar attackpromptar för att hitta jailbreaks, promptinjektion, dataläckor och skadliga svar och skriver sedan en rapport. Testa bara modeller och tjänster som du äger eller får testa.
Gratis nedladdning (öppen källkod)
- Utvecklare
- NVIDIA
- Licens
- Apache-2.0
- Plattformar
- Windows · macOS · Linux
- Kategori
- Utveckling och teknik
Användbar för
Liknande program
Kontrollerat av AppHami.ai mot officiell källa