Studie: KI-gestützte Kommunikation kann öffentliche Meinungen beeinflussen
Eine neue Studie des Oxford Internet Institute (OII) und des Hasso-Plattner-Instituts
Eine neue Studie des Oxford Internet Institute (OII) und des Hasso-Plattner-Instituts zeigt, dass KI-basierte Schreib- und Bearbeitungstools in sozialen Medien unbeabsichtigt Meinungen beeinflussen können. Die Forschenden stellten fest, dass große Sprachmodelle (LLMs) Beiträge zu kontroversen Themen regelmäßig leicht verändern – selbst dann, wenn sie angewiesen werden, die ursprüngliche Aussage beizubehalten. LLMs (Large Language Models) sind KI-Modelle, die auf riesigen Mengen von Text trainiert werden. Sie lernen dabei statistische Muster der Sprache und können anschließend Texte verstehen und erzeugen.
Anhand von Simulationen mit realen Daten aus sozialen Netzwerken wie X und Facebook konnte gezeigt werden, dass sich diese kleinen Veränderungen über viele Millionen Interaktionen hinweg summieren und langfristig die öffentliche Meinung beeinflussen können. Die Studie kommt außerdem zu dem Ergebnis, dass verschiedene KI-Systeme ähnliche Verzerrungen aufweisen. Dabei wird deutlich, dass nicht nur die KI-Modelle selbst, sondern auch die von Plattformen festgelegten Einstellungen und Anweisungen eine wichtige Rolle spielen.
Die Forschenden wiesen große Sprachmodelle (LLMs) von verschiedenen Anbietern an, um von Menschen geschriebene Texte zu umstrittenen Themen in verbesserte Social-Media-Beiträge zu verwandeln. Anschließend analysierten sie, ob die KI-generierten Versionen systematisch die in den ursprünglichen Beiträgen geäußerte Position veränderten. Anschließend nutzten sie mathematische Modellierungen und Computersimulationen, die auf echten Daten sozialer Netzwerke von X und Facebook basieren, um zu untersuchen, wie sich diese kleinen Veränderungen über Online-Netzwerke ausbreiten und die breite öffentliche Meinung im Laufe der Zeit beeinflussen könnten.
Ein Beispiel liefert die Analyse der Funktion „Explain this post“ von X. Die Forschenden fanden heraus, dass bestimmte Systemanweisungen die Antworten der KI Grok messbar beeinflussten und damit die Darstellung gesellschaftlicher Debatten verändern konnten.
Die Forschenden sehen darin eine neue Form der Einflussnahme, die von bestehenden Regulierungen wie dem EU AI Act oder dem Digital Services Act bislang nur teilweise erfasst wird. Sie fordern daher mehr Transparenz und eine stärkere Auseinandersetzung mit den Auswirkungen KI-gestützter Kommunikation auf den öffentlichen Diskurs.