Pattern-Based Detection of Linguistic Threats
Der Vortrag stellt ein umfassendes System zur Erkennung und Analyse sprachlicher Bedrohungsmuster in Texten vor. Mit dem Aufkommen großer Sprachmodelle (LLMs) können Texte im Internet selbst zu Angriffsvektoren werden, die die Meinungsbildung von Nutzern beeinflussen. Wir stellen ein konfigurierbares Textbedrohungserkennungssystem, das auf linguistischen Mustern basiert. Unser Ansatz verwendet vordefinierte reguläre Ausdrücke und Schlüsselwortmuster, um spezifische sprachliche Marker zu identifizieren, die auf böswillige Absichten hindeuten. Linguistische Mustererkennung kann potenzielle textbasierte Bedrohungen identifizieren. Dies bietet Nutzern und Entwicklern Werkzeuge, um besser zu verstehen, wann sie möglicherweise voreingenommenen oder manipulierten Inhalten ausgesetzt sind. Dieser Ansatz trägt dazu bei, Risiken zu mindern, die Grundlage für politische Diskussionen zu verbessern und die politische Kluft zu verringern.
Prof. Dr. Matteo Große-Kampmann ist Professor für Verteilte Systeme an der Hochschule Rhein-Waal. Er forscht in den Bereichen Informationssicherheit, Datenschutz und Desinformation. Gemeinsam mit seinem Team arbeitet er im Forschungsprojekt „KonCheck“ an Ansätzen zur Erkennung und Kontextualisierung von digitalen Informationen, insbesondere für mobile Endgeräte.