garak
AIチャットボットと言語モデルのセキュリティスキャナー:攻撃用のプロンプトを送り、脱獄、プロンプトインジェクション、データ漏えい、有害な回答を見つけてレポートを作成。テストは自分のモデルやサービス、または許可されたものだけにしてください。
無料ダウンロード(オープンソース)
- 開発者
- NVIDIA
- ライセンス
- Apache-2.0
- 対応環境
- Windows · macOS · Linux
- カテゴリ
- 開発・テクノロジー
役立つ分野
似たアプリ
AppHami.aiが公式の入手先で確認済み