Was, wenn du online diskutierst – und nicht merkst, dass du mit einer KI sprichst?
Ein geheimes Experiment sorgt jetzt für Aufsehen.
Was genau passiert ist, klingt fast zu krass, um wahr zu sein.
Die unsichtbare KI auf Reddit
Forscher der Universität Zürich haben genau das ausprobiert: Sie mischten sich mit KI-generierten Kommentaren heimlich in Diskussionen auf Reddit ein – genauer gesagt im Subreddit r/ChangeMyView, wo User gezielt ihre Ansichten zur Debatte stellen.
Ziel der Studie: herausfinden, wie überzeugend KI sein kann, wenn sie Meinungen beeinflussen soll.
Zwischen November 2024 und März 2025 veröffentlichte das Team mehr als 1.700 KI-generierte Kommentare, ohne die Community darüber zu informieren.
Darunter waren auch besonders heikle Beiträge – etwa solche, die sich als Trauma-Berater ausgaben oder das Schicksal von Vergewaltigungsopfern imitierten.
Dreimal überzeugender als echte Nutzer
Das Ergebnis ist alarmierend: Laut der Plattform NewScientist waren die KI-Kommentare drei- bis sechsmal effektiver darin, andere User zum Umdenken zu bringen – gemessen an der Zahl der als „Überzeugung“ markierten Antworten.
Noch beunruhigender: Kein einziger Nutzer äußerte den Verdacht, dass es sich bei den Beiträgen um KI handeln könnte.
Community empört – Universität verteidigt sich
Nachdem die Ergebnisse öffentlich wurden, reagierten die Moderatoren von r/ChangeMyView entsetzt. Sie kritisierten vor allem, dass die Universität ohne Einwilligung der Betroffenen handelte – und damit grundlegende ethische Standards verletzte.
Auch andere Hochschulen übten scharfe Kritik.
Die Universität Zürich verteidigte sich: Die gewonnenen Erkenntnisse seien „von großer Bedeutung“, die potenziellen Risiken dagegen „minimal“.
Eine Veröffentlichung der Studie sei daher gerechtfertigt – trotz der fehlenden Zustimmung der betroffenen User.
Wie sicher ist unsere Meinung online?
Das Experiment wirft brisante Fragen auf: Wenn KI heute schon unbemerkt Diskussionen beeinflussen kann – wie sieht dann die Zukunft des Internets aus?
Sicher ist: Ethik und Technologie müssen dringend gemeinsam gedacht werden.