KI und LLMs · Senior · Frage 48 von 75
Wie testet man einen Guardrail, ohne ihn zu streng zu machen?
- 1Nur messen, wie viele schädliche Fälle er blockiert
- 2Übersehenes Schädliches und blockiertes Harmloses messen
- 3Ihn alles blockieren lassen und später lockern
Antwort zeigen
Richtige Antwort: Übersehenes Schädliches und blockiertes Harmloses messen
Erklärung
Precision und Recall des Guardrails auf gelabelten Daten zeigen den Kompromiss; das Produkt legt akzeptable Werte fest.