Algorithmische Entscheidungen nachvollziehen

1. Trenne die Frage „Was wird erkannt?“ von „Welche Reaktion folgt?“.
2. Eine nachfolgende Regel kann aus einer fehlerhaften Eingabe nicht automatisch eine sichere Information machen.

M liefert eine Modellvorhersage, R nutzt sie für eine Reaktion. Unsicherheit und Fehler können sich entlang der Kette auswirken; Ziele und Prüfungen bleiben eine Aufgabe verantwortlicher Menschen und Organisationen.

1. Welche Information wurde tatsächlich gespeichert und welche fehlt ausdrücklich?
2. Ein damaliges Urteil und ein späteres Ereignis sind unterschiedliche Größen.

Die Zielgröße lautet Zusage oder Absage. Sie kann frühere Entscheidungsmuster enthalten und ist ohne weitere Daten nicht mit späterer Rückzahlung gleichzusetzen. Das Beispiel bewertet keine reale Kreditwürdigkeit.

1. Unterscheide eine fehlende Information im Datensatz von einer fehlenden Eigenschaft der Person.
2. Eine passende Maßnahme greift die beschriebene Ursache auf und überprüft danach ihre Wirkung.

Hier liegt ein benannter Vollständigkeitsfehler vor. Er muss an der Datenübernahme korrigiert und anschließend mit passenden Fällen geprüft werden. Mehr fehlerhafte Daten lösen das Problem nicht.

1. Ein Merkmal kann Informationen indirekt tragen, auch wenn sein Name keine Gruppe nennt.
2. Trenne den gegebenen Zusammenhang von einer noch zu untersuchenden Ursache und Wirkung.

Ein mit der Gruppe zusammenhängendes Merkmal kann indirekt ähnliche Informationen tragen. Das begründet eine Prüfung, aber noch keine vollständige Ursachenanalyse oder ein pauschales Urteil über alle Fälle.

1. Falsch negativ betrifft vorhandene Eignung, die das Modell verneint.
2. Ziehe die richtig positiv markierten Profile von allen 18 bestätigten geeigneten Profilen ab.

Von 18 nach der Vergleichsgrundlage geeigneten Profilen werden nur 14 positiv markiert. Die übrigen 18−14 = 4 werden fälschlich negativ beurteilt.

1. Prüfe zuerst, ob Testdaten und neue Einsatzsituation noch zusammenpassen.
2. Eine menschliche Prüfung ist nur wirksam, wenn die Person Informationen, Zeit und Änderungsbefugnis besitzt.

Das neue Format kann Informationen anders oder unvollständig abbilden. Ein niedriger Wert könnte dann auch einen Format- oder Datenfehler statt fehlender fachlicher Eignung ausdrücken. Das Team könnte den Import prüfen und geeignete Testfälle mit dem neuen Format unabhängig vergleichen. Eine zuständige Person müsste bei unsicheren oder beanstandeten Fällen die Originalangaben prüfen können und die Vorauswahl tatsächlich korrigieren dürfen. Auch dieser Weg benötigt Zeit und verlässliche Kriterien und garantiert nicht, dass jeder Fehler erkannt wird. Andere passend begründete Prüfwege sind möglich.

1. Nutze die ausdrücklich genannte Bedeutung von positiv, bevor du Fehler benennst.
2. B verbessert einen Fehlertyp und verschlechtert den anderen; frage zusätzlich, welche Szenarien oder Folgen noch nicht geprüft wurden.

Übersehene vorhandene Hindernisse sind falsch negative, unberechtigte Hindernismeldungen falsch positive Ergebnisse. B vermeidet in diesen Testfällen die zwei übersehenen Hindernisse, erzeugt dafür vier zusätzliche Fehlalarme. Die Fehlerzahl allein bewertet nicht ihre unterschiedlichen Folgen. Weitere Tests könnten bislang fehlende Sicht- oder Beleuchtungssituationen mit getrennten Fehlertypen untersuchen. Aus diesen 100 Fällen folgt weder Fehlerfreiheit in allen Situationen noch eine Freigabe für reale Fahrzeuge.