In einem Fall der höchsten digitalen Sicherheit hat OpenAI einen 8-jährigen Jungen vor einem möglichen Mord gerettet. Die Geschichte zeigt, wie künstliche Intelligenz nicht nur Informationen verarbeitet, sondern auch entscheidende Maßnahmen in der realen Welt auslösen kann.
Ein brasilianischer Landwirt aus Espírito Santo nutzte ChatGPT über zwei Monate als Tagebuch und Recherchewerkzeug. Seine Eingaben enthielten detaillierte Planungen: Er suchte nach Methoden, um einen Auftragskiller zu beauftragen, der ihn und seinen Sohn töten sollte. Der Vorschlag wurde jedoch abgelehnt, da ein Kind betroffen gewesen wäre.
In weiteren Nachrichten fand er sich in einer Recherche zu giftigen Substanzen wie Rizin sowie zur Herstellung hochgifriger Stoffe aus Rizinussamen – vorsichtig formuliert als „wissenschaftliche Neugier“. Das System reagierte auf seine Versuche, Sicherheitsbeschränkungen umzugehen.
OpenAI erkannte das Muster und informierte das FBI. Drei Tage später griff die brasilianische Polizei ein – einen Tag vor dem geplanten Tatzeitpunkt. Der 36-jährige Mann wurde festgenommen, bevor er den Anschlag durchführen konnte. Der zuständige Ermittler Brenno Andrade betonte: „Wir haben den Fall mit höchster Priorität behandelt, da die Hinweise besonders schwerwiegend waren.“
Bei der Durchsuchung fanden Beamte vier Behälter mit einer bislang nicht abschließend identifizierten Substanz sowie ein zusammengebundenes Seil. Der Fall offenbart eine entscheidende Frage: Wer spricht mit ChatGPT? Ist das ein vertrauliches Gespräch oder eine Warnung für die Realität?
OpenAI betreibt ein mehrstufiges Kontrollsystem, das automatisch Gespräche prüft und bei schwerwiegenden Gefahren staatliche Behörden informiert. In Kanada war bereits ein ähnlicher Fall im Jahr 2025 bekannt: Ein Nutzer wurde nach mehreren Monaten von den Behörden erfasst – bevor er zu einem tödlichen Amoklauf führte.
ChatGPT ist kein Beichtstuhl – es ist ein System, das zuhört und unter Umständen entscheidet, dass jemand andere mithören sollte. Dieser Fall zeigt die dringende Notwendigkeit, klare Regeln für künstliche Intelligenz in der digitalen Welt zu schaffen.
