Zwischen den Zeilen: Eine linguistische Perspektive auf Fake News und KI
Der Vortrag skizziert eine linguistische Perspektive auf die Grenzen aktueller KI-Systeme im Umgang mit Fake News. Der Fokus liegt auf impliziten Annahmen, die das geteilte Hintergrundwissen zwischen Gesprächspartnern reflektieren – sogenannten Präsuppositionen. Diese machen Kommunikation effizient, werden jedoch dann problematisch, wenn der vorausgesetzte Inhalt falsch ist. So sind falsche Präsuppositionen besonders wirksam darin, Misinformation unauffällig einzubetten: Die falsche Information wird nicht explizit formuliert, sondern als wahr vorausgesetzt. Fragen wie „Haben die Wähler herausgefunden, dass die Partei die Linke nicht möchte, dass die EU eine eigene Seenotrettung im Mittelmeer aufbaut?“ suggerieren einen falschen Sachverhalt und riskieren die stille Etablierung von Falschinformationen im gemeinsamen Wissensraum („common ground“).
Fragen, die falsche Präsuppositionen enthalten, stellen nicht nur für Menschen eine kommunikative Herausforderung dar, sondern auch für große Sprachmodelle wie ChatGPT, die auf den ersten Blick kohärente und plausible Antworten liefern. Wenn Sprachmodelle aber auf solche Fragen antworten, ohne die darin implizit enthaltenen Annahmen zu hinterfragen, tragen sie auf subtile Weise zur Verbreitung von Fehlinformation bei.
Der Vortrag präsentiert Ergebnisse eines aktuellen Experiments, in dem verschiedene Sprachmodelle gezielt mit falschen Präsuppositionen über politische Fakten getestet wurden. Die Analyse zeigt: Faktenwissen allein reicht nicht, um implizite Irreführung zu erkennen und zu korrigieren.
Judith Sieker ist Doktorandin in der angewandten Computerlinguistik an der Universität Bielefeld. Ihre Forschung bewegt sich an der Schnittstelle von Linguistik und Künstlicher Intelligenz und verbindet theoretische Konzepte mit angewandter Analyse von Sprachmodellen. Sie interessiert sich besonders für pragmatische Kompetenz und dafür, wie Menschen und KI-Modelle auf Unstimmigkeiten in der Kommunikation sowie auf subtile Diskrepanzen im gemeinsamen Verständnis reagieren.