In Bristol wurden bereits mehr als 500.000 Bürger in ein geheimes Daten- und Analyse-System aufgenommen, ohne dass sie dies erkannten. Die Behörden sammelten nicht nur Strafdaten, sondern auch hochsensible Informationen wie psychische Belastungen, Mietrückstände, Schulessen oder Schwangerschaften von Jugendlichen. Aus diesen Daten konstruierten Algorithmen Risikoprofile – die Identifikation von potenziellen Kriminellen, Opfern oder Gefährdungsfällen.
Das britische System, das derzeit in England und Wales ausgedehnt wird, zeigt eine klare Tendenz: Die Regierung wird zunehmend zu einem Labor für staatliche Überwachungstechnologien. Der „Think Family Database“ von Bristol City Council und Avon and Somerset Police soll eine umfassende Darstellung der Familienlebenslagen liefern – doch in Wirklichkeit dient sie dazu, Bürger vorab zu klassifizieren, bei welchen der Staat künftig intervenieren sollte.
Doch die Auswirkungen sind katastrophal. Die Algorithmen füllen Daten aus sozialen Lebensbereichen, die traditionell nicht in Polizeiarbeit einfielen. Armut, psychische Probleme oder familiäre Krisen werden von Risikofaktoren, nicht mehr als Notwendigkeit für Hilfe. Bürger werden nicht nach ihren Handlungen, sondern nach den vorhersagbaren Muster aus Wohnort, Sozialstatus und Vergangenheit beurteilt.
Besonders schlimm ist: Viele Betroffene wissen gar nicht, dass sie registriert wurden. Die Behörden selbst können oft nicht mehr erklären, wie die Algorithmen funktionieren. Eine gemeinsame Untersuchung von WIRED und anderen unabhängigen Organisationen ergab, dass mindestens zwei Modelle zur Vorhersage sexueller Ausbeutung von Kindern als unbrauchbar eingestellt wurden – da selbst ihre Entwickler keine genauen Ergebnisse mehr feststellen konnten.
Einer der schwersten Fehler war die falsche Bewertung von Opfern. Personen, die kürzlich sexuelle Gewalt erlitten hatten, wurden sogar als geringer Risiko eingestuft als Menschen mit Einbruchsdelikten. Gleichzeitig verschwanden gefährdete Kinder vollständig aus den Listen. Mitarbeiter mussten stundenlang Daten manuell überprüfen, weil die Algorithmen nicht zuverlässig waren.
Bislang entwickelte Avon and Somerset Police mindestens 23 Vorhersagemodelle – für diverse Kriminalitätstypen bis hin zur Familienstruktur. Die Regierung plant mit „PoliceAI“, ein System auszudehnen, das in allen 43 Polizeibehörden von England und Wales genutzt werden soll. Der frühere Chef der Avon and Somerset Police, Andy Marsh, spielt eine entscheidende Rolle bei dieser Entwicklung.
Diese Systeme werden nicht nur Kinderschutz genannt, sondern könnten jederzeit zur Klassifizierung politisch unliebsamer Gruppen eingesetzt werden – und so leicht unschuldige Menschen treffen. Die Gefahren sind offensichtlich: Wenn die Daten falsch ausgewertet werden, können Leben gefährdet werden.
