garak
Сканер безопасности для ИИ-чат-ботов и языковых моделей: отправляет атакующие промпты для поиска джейлбрейков, prompt injection, утечек данных и токсичных ответов, затем пишет отчёт. Тестируйте только свои модели и сервисы или те, что вам разрешено тестировать.
Бесплатная загрузка (открытый код)
- Разработчик
- NVIDIA
- Лицензия
- Apache-2.0
- Платформы
- Windows · macOS · Linux
- Категория
- Разработка и технологии
Подходит для
Похожие приложения
Проверено AppHami.ai по официальному источнику