Für ein Forschungsprojekt an der Universität Zürich erfanden Forscher fiktive Personen, die auf Reddit zu bestimmten Themen kommentierten. Ziel war es, die Effektivität von KI-gesteuerten Accounts bei der Propaganda zu testen – und dies ohne das Wissen der echten Nutzer. Diese Studie hat nun eine Welle der Empörung ausgelöst: Die Bots erzielten beeindruckende Ergebnisse mit über 1.700 Kommentaren, 20.000 Upvotes und 137 „Deltas“. Moderatoren bezeichneten das Experiment als einen „ekelhaften“ Vertrauensbruch.
Die Forscher nutzten KI-gesteuerte Accounts mit gefälschten Biografien und Beiträgen, um die Meinungen von Nutzern zu manipulieren. Diese Technologie birgt ein enormes Potenzial für Manipulation: In Krisenzeiten wie militärischen Konflikten könnten Regierungen Kriegspropaganda perfektionieren, indem sie gezielt Desinformation verbreiten und Emotionen manipulieren.
Ein aktuelles Beispiel ist der Ukraine-Konflikt. Sowohl Russland als auch westliche Staaten setzen Propaganda ein. Während Russland vorgeworfen wird, durch Zensur und Desinformation zu operieren, neigen westliche Medien dazu, ukrainische Regierungsquellen unkritisch zu übernehmen. KI-gesteuerte Bots könnten diese Tendenzen verschlimmern.
Die Reddit-Bots haben gezeigt, wie effektiv KI in der Manipulation menschlicher Meinungen sein kann. Sie analysierten Nutzerprofile und passten ihre Argumente an die Zielgruppe an. Regierungen könnten ähnliche Techniken nutzen, um etwa in Kriegszeiten Narrative zu verstärken, die die eigene Bevölkerung mobilisieren oder den des Gegners destabilisieren.
