garak
Scanner de segurança para chatbots e modelos de linguagem: envia prompts de ataque para encontrar jailbreaks, injeção de prompt, vazamento de dados e respostas tóxicas e depois gera um relatório. Teste apenas modelos e serviços seus ou que você pode testar.
Download gratuito (código aberto)
- Desenvolvedor
- NVIDIA
- Licença
- Apache-2.0
- Plataformas
- Windows · macOS · Linux
- Categoria
- Desenvolvimento e tecnologia
Útil para
Apps parecidos
Verificado pelo AppHami.ai na fonte oficial