Anlass war die Landtagswahl in Rheinland-Pfalz vor gut drei Wochen. Die Idee hinter dem Projekt ist einfach: Nutzer können Bilder, die sie beispielsweise auf Plattformen wie Instagram sehen und die ihnen verdächtig erscheinen, an eine künstliche Intelligenz senden.
KI aus Kaiserslautern deckt Bildmanipulationen auf
Diese KI analysiert die Bilder und überprüft, ob sie manipuliert wurden. Manipulationen können zum Beispiel durch Bildbearbeitungsprogramme wie Photoshop entstehen, bei denen Objekte hinzugefügt, entfernt oder verändert werden.
Laut Tobias Wirth vom DFKI wurden innerhalb von nur zehn Tagen mehr als 5.000 Bilder zur Überprüfung eingereicht. Dabei stellte sich heraus, dass etwa 50 Prozent der eingesendeten Bilder manipuliert waren. Das zeigt, wie präsent das Problem manipulierter Inhalte in sozialen Netzwerken tatsächlich ist.
Über 20.000 Aufrufe der KI in nur zehn Tagen
Das Interesse an der KI-Technologie war enorm. Innerhalb der kurzen Projektlaufzeit wurde die Plattform über 20.000 Mal aufgerufen. Besonders in den Tagen direkt vor der Wahl stieg die Nachfrage sprunghaft an, da in dieser Phase häufig manipulierte Inhalte geteilt werden, um bestimmte politische Botschaften zu verbreiten oder die öffentliche Meinung zu beeinflussen.
Warum ist das Projekt so wichtig?
Manipulierte Bilder können die öffentliche Wahrnehmung massiv beeinflussen. Sie können falsche Informationen verbreiten, Hass schüren oder das Vertrauen in politische Institutionen untergraben. Das Ziel des DFKI-Projekts ist es, Nutzern ein Werkzeug an die Hand zu geben, mit dem sie verdächtige Inhalte schnell und einfach überprüfen können.
Die Technologie soll nicht nur die Verbreitung von Fake-Bildern eindämmen, sondern auch das Bewusstsein der Nutzer für das Thema schärfen. Je mehr Menschen lernen, manipulierte Bilder zu erkennen, desto schwieriger wird es für Täter, falsche Informationen zu streuen.
DFKI will KI auch bei anderen Wahlen einsetzen
Aufgrund des großen Erfolgs plant das DFKI, die Technologie auch bei zukünftigen Landtagswahlen einzusetzen. Es ist denkbar, dass das System in Zukunft noch weiterentwickelt wird, um auch andere Arten von gefälschten Inhalten wie etwa Videos oder Texte zu erkennen.
