Ein Online-Experiment der Universität Zürich sorgte Anfang Mai für Aufsehen: Sprachmodelle gaben sich auf Reddit als echte Menschen aus – ohne Wissen der Beteiligten. Die Beiträge waren nicht nur glaubwürdig, sondern auch verblüffend überzeugend. Viele Diskussionsteilnehmende gaben an, ihre Meinung geändert zu haben – ausgelöst durch Sätze, die von Maschinen stammten.
Das Ziel der Forschenden war es, herauszufinden, wie effektiv KI-generierte Sprache Menschen in Diskussionen beeinflussen kann. Die Art und Weise, wie sie das taten, wirft jedoch berechtigte Fragen auf – insbesondere in Bezug auf Forschungsethik, Transparenz im digitalen Raum und die Rolle von Sprache in öffentlichen Debatten.
Eine unsichtbare Intervention
Über einen Zeitraum von vier Monaten veröffentlichte ein Team der Universität Zürich mehr als 1000 automatisch generierte Kommentare im Subreddit r/ChangeMyView. Die Texte behandelten gesellschaftlich relevante Themen und waren auf die Nutzerinnen und Nutzer zugeschnitten – basierend auf deren bisherigem Beitragsverlauf. Einige Kommentare gaben sich als persönliche Erfahrungsberichte aus, beispielsweise als Beiträge von Traumaberatern oder städtischen Mitarbeitenden.
Erst nach Abschluss des Projekts informierten die Forschenden die Moderatorinnen und Moderatoren der Plattform über das Vorgehen. Die Reaktion der Community war eindeutig: Man fühlte sich getäuscht und instrumentalisiert.
Forschung ohne Einwilligung
Im Zentrum der Kritik steht, dass die betroffenen Personen nicht wussten, dass sie Teil eines wissenschaftlichen Experiments waren. Es gab keine informierte Einwilligung – ein grundlegendes Prinzip verantwortungsvoller Forschung.
Ethikexpertinnen und -experten reagierten entsprechend deutlich. Amy Bruckman von der Georgia Tech bezeichnete das Vorgehen als die «schwerwiegendste Verletzung der Internet-Forschungsethik», die sie je erlebt habe. Die Universität Zürich verwies auf ein internes Ethikgremium, das das Projekt beraten habe – aber nicht befugt sei, Studien formell abzulehnen. Nach öffentlicher Kritik wurde die geplante Veröffentlichung der Ergebnisse zurückgezogen.
Überzeugender als echte Menschen
Trotz der problematischen Durchführung bringt das Experiment eine zentrale Erkenntnis zutage: Die KI-generierten Argumente wurden auf Reddit häufiger positiv bewertet als Beiträge von echten Nutzerinnen und Nutzern. Besonders erfolgreich waren Kommentare, die auf biografische Informationen zugeschnitten waren.
In der Reddit-Community ChangeMyView können Nutzerinnen und Nutzer Punkte vergeben, wenn sie ihre Meinung aufgrund eines Beitrags ändern. Die Kommentare der Sprachmodelle schnitten im Durchschnitt besser ab als die der meisten Menschen – eine Beobachtung, die das Potenzial und die Wirkung solcher Systeme verdeutlicht.
Digitale Debatten brauchen klare Spielregeln
Reddit ist kein offizieller Ort politischer Willensbildung, aber ein Beispiel dafür, wie sich gesellschaftliche Diskurse heute online entfalten. Wenn automatisch generierte Beiträge gezielt eingesetzt werden, um Menschen zu beeinflussen – ohne deren Wissen – stellt sich die Frage nach der Integrität solcher Räume.
Damit ist nicht gemeint, dass die Demokratie unmittelbar gefährdet sei. Aber die Art, wie wir Debatten führen, verändert sich. Und das sollte nicht ohne gesellschaftliche Diskussion und klare ethische Rahmenbedingungen geschehen.
Sprache als Schnittstelle zur Beeinflussung
In seinem aktuellen Buch Nexus beschreibt Yuval Noah Harari die Geschichte menschlicher Informationsnetzwerke – von mündlicher Überlieferung bis zur KI-gestützten Kommunikation. Er warnt davor, dass Sprachsysteme zunehmend zur zentralen Schnittstelle zwischen Technologie und menschlicher Psyche werden.
Wer diese Schnittstelle kontrolliert, kann Verhalten beeinflussen – ohne Zwang, allein durch Worte. Harari sieht darin keine blosse Zukunftsvision, sondern eine aktuelle Herausforderung. Das Reddit-Experiment liefert ein konkretes Beispiel: Maschinen, die gezielt argumentieren, emotional ansprechen und überzeugender auftreten als viele Menschen – ohne als solche erkennbar zu sein.
Fazit: Mehr Transparenz, weniger Täuschung
Das Reddit-Experiment war wissenschaftlich ambitioniert, aber ethisch nicht vertretbar. Es zeigt, wie wirkungsvoll Sprachsysteme im digitalen Diskurs sein können – und dass diese Wirkung nicht ohne Verantwortung einhergehen darf.
Forschung braucht Neugier und kreative Methoden. Aber sie braucht ebenso klare Grenzen – besonders dann, wenn sie in öffentliche Kommunikationsräume eingreift. Transparenz, Respekt gegenüber Betroffenen und ein Bewusstsein für die gesellschaftlichen Folgen sollten dabei selbstverständlich sein.
Quellen
- Beitragsbild Universität Zürich von Nick Weisser
- The Worst Internet-Research Ethics Violation I Have Ever Seen
- A controversial experiment on Reddit reveals the persuasive powers of AI
Schreibe einen Kommentar