garak
Sikkerhedsscanner til AI-chatbots og sprogmodeller: sender angrebsprompts for at finde jailbreaks, prompt injection, datalæk og skadelige svar og skriver derefter en rapport. Test kun modeller og tjenester, du ejer eller har lov til at teste.
Gratis download (open source)
- Udvikler
- NVIDIA
- Licens
- Apache-2.0
- Platforme
- Windows · macOS · Linux
- Kategori
- Udvikling og teknologi
Nyttig for
Lignende programmer
Kontrolleret af AppHami.ai mod officiel kilde