AppHami.aiВсе инструменты

garak

Сканер безопасности для ИИ-чат-ботов и языковых моделей: отправляет атакующие промпты для поиска джейлбрейков, prompt injection, утечек данных и токсичных ответов, затем пишет отчёт. Тестируйте только свои модели и сервисы или те, что вам разрешено тестировать.

Бесплатная загрузка (открытый код)

Официальный сайт ↗

Разработчик
NVIDIA
Лицензия
Apache-2.0
Платформы
Windows · macOS · Linux
Категория
Разработка и технологии

Подходит для

Похожие приложения

Проверено AppHami.ai по официальному источнику