Die Justizvollzugsbehörde des US-Bundesstaats Michigan führt ein neues Verfahren ein, um Häftlinge nach ihrem Risiko einzustufen. Wie t3n unter Berufung auf Futurism berichtet, soll es vorhersagen, welche Gefangenen eine potenzielle Gefahr darstellen, und sie in eine von fünf Sicherheitsstufen einordnen. Die Behörde erhofft sich eine um 30 Prozent genauere Vorhersage als mit den bisherigen Verfahren. Ziel ist es, die zuletzt gestiegene Zahl von Angriffen auf Beschäftigte und von Gewalt unter Insassen zu senken.

Was die Behörde sagt

Entwickelt hat die Behörde das Programm mit der gemeinnützigen Organisation Recidiviz, die aus Google hervorgegangen ist. Ein Pilotprojekt soll in mehreren Männergefängnissen laufen. „Ich bin zuversichtlich, dass wir mit diesem Pilotprojekt und der Nutzung wissenschaftlich fundierter sowie historischer Daten ein dynamisches und objektives Instrument entwickelt haben, das die Sicherheit unserer Einrichtungen stärken wird“, zitiert t3n die Direktorin Heidi E. Washington.

Kritisch merkt t3n an, dass Washington nicht erklärt habe, welche Daten das System erhält. Davon hängt viel ab: Je nach Einstufung erhalten Gefangene unterschiedliche Programme und Ressourcen, und die Einstufung entscheidet mit, mit wem sie untergebracht werden. Fehler, etwa durch nicht korrigierte Verzerrungen in historischen Daten, könnten zu strengeren Haftbedingungen und schlechterer Vorbereitung auf die Zeit nach der Haft führen.

Recidiviz widerspricht

Recidiviz weist die Darstellung als KI-System zurück. In einem Blogbeitrag schreibt die Organisation, einige Berichte hätten angenommen, KI erledige die Arbeit. „Das tut sie nicht“, heißt es dort. Michigans Klassifizierungssystem nutze keine KI, und in Recidiviz-Werkzeugen werde KI nie eingesetzt, um über die Sicherheitsstufe oder Entlassung eines Menschen zu entscheiden.

Die Organisation erklärt, die meisten ihrer Werkzeuge beruhten auf Regeln, die direkt aus den Vorschriften der Bundesstaaten abgeleitet und mit den Akten der Behörden abgeglichen würden. Jeder könne nachvollziehen, wie ein Ergebnis zustande komme. Wo ein Fehler die Freiheit eines Menschen berühren könnte, sei ein regelbasiertes Werkzeug die bessere Wahl. Recidiviz verweist auch selbst auf das Risiko, dass Systeme, die aus historischen Daten lernen, frühere Ungleichheiten fortschreiben.

Die eigentliche Frage

Unabhängig vom Etikett bleibt der Kern der Debatte: Ein statistisches oder regelbasiertes Verfahren, das über Haftbedingungen mitentscheidet, braucht nachvollziehbare Kriterien, unabhängige Prüfung und einen Weg, Einstufungen anzufechten. Welche Daten und Gewichtungen das Michigan-System genau nutzt, ist aus den vorliegenden Berichten nicht ersichtlich. Klar ist nur, dass Behörde und Partner Genauigkeit und Sicherheit als Ziel nennen, während Berichte wie der von t3n vor allem Transparenz anmahnen. Beides schließt sich nicht aus, wenn die Kriterien veröffentlicht werden.