In Bristol wurden bereits fast 500.000 Menschen in ein geheimes Datenanalysystem aufgenommen – ohne dass sie dies selbst wussten. Die Behörden sammelten Informationen zu Straftaten, psychischen Belastungen, Mietrückständen, Schulessen von Kindern, Schwangerschaften unter Minderjährigen sowie familiären Krisen und Sozialhilfeprogrammen. Aus diesen Daten entwickelten Algorithmen Risikoprofile: Wer könnte zukünftig kriminell werden, wer als Opfer oder Gefährdetes identifiziert werden – und welche Personen als problematisch, auffällig oder gefährlich eingestuft wurden.
Ein zentrales Beispiel ist die „Think Family Database“ des Stadtamtes Bristol City Council und der Polizeiamt Avon and Somerset Police, das angeblich ein möglichst vollständiges Bild über tausende Familien liefern sollte. Doch die Praxis zeigt gravierende Mängel: Eine unabhängige Analyse ergab, dass bei Modellen zur Vorhersage von Einbrüchen lediglich unter zehn Prozent der vorhergesagten Fälle tatsächlich eintraten. Zudem erhielten Personen, die erst kürzlich Opfer sexueller Gewalt geworden waren, niedrigere Risikowerte als Menschen mit Einbruchdelikten – während andere Kinder in den Listen gar nicht erschienen.
Die Systeme konnten nicht nur nicht präzise sein, sondern waren auch schwer zu überprüfen. Mitarbeiter mussten Stundenlang manuell Daten prüfen, weil die Algorithmen nicht mehr transparent waren. Der Staat beruft sich auf sogenannte „legal Gateways“ – rechtliche Möglichkeiten für Datenwechsel zwischen staatlichen Stellen – um Bürger ohne Zustimmung zu überwachen. Doch diese Systeme gefährden nicht nur individuelle Rechte, sie zerstören auch das Vertrauen in den Staat selbst.
Politische Entscheidungen zur Einführung von „PoliceAI“ mit einer Finanzierung von 75 Millionen Pfund unterstreichen die Risiken der aktuellen Entwicklung: Die Bürger werden in Risikokategorien eingeordnet, ohne zu wissen, wie diese Klassifikationen entstehen oder welche Folgen sie haben.
