Print Friendly, PDF & Email

Wie lässt sich verhindern, dass täuschend echte KI-Inhalte Wahlen, öffentliche Meinung oder Sicherheit beeinflussen – und welche Verfahren können sie zuverlässig erkennen?

Mit Künstlicher Intelligenz (KI) lassen sich mittlerweile relativ einfach realistisch wirkende digitale Inhalte erzeugen, wie zum Beispiel Videos oder Texte. Derartige Inhalte können unter anderem verwendet werden, um die öffentliche Meinung zu manipulieren und dadurch zum Beispiel den Ausgang von Wahlen oder militärischen Konflikten zu beeinflussen. Dabei ermöglichen es KI-Verfahren, Falschinformationen in zunehmendem Umfang und wachsender Geschwindigkeit zu erzeugen, wobei die betreffenden Inhalte für Menschen zunehmend schwieriger als KI-generiert zu erkennen sind. Die Automatisierung einer Erkennung von KI-generierten Inhalten ist deshalb von großer Bedeutung.

Aktuelle Ansätze zur automatisierten Erkennung von KI-generierten Inhalten lassen sich im Wesentlichen in Metadaten-basierte Ansätze, Wasserzeichenmarkierungen und Post-hoc-Detektionsverfahren einteilen. Metadaten-basierte Ansätze speichern Informationen über die Herkunft von sowohl KI-generierten als auch authentischen Inhalten in den Metadaten dieser Inhalte. Diese Informationen werden kryptografisch vor Manipulationen geschützt und können zum Beispiel Angaben über die Kamera, mit der ein Foto aufgenommen wurde, enthalten. Mithilfe der Metadaten kann so bspw. erkannt werden, ob ein Bild verändert wurde.

Print Friendly, PDF & Email

Verwandte Themen

KI- und Drohnentechnologie – Die Grundlagenkonzepte des Krieges werden sich verändern Der digitale Soldat – Der Kampf mit und gegen neue Technologien KI und OSINT stärken die Führung in Krisen, Konflikten, Kriegen und Katastrophen Social Media Analytics in der Ausbildung Kognitive Kriegsführung: Der Verstand wird zum Schlachtfeld gemacht Die Bedeutung von KI bei vernetzter Kriegsführung im Rahmen von Landes- und Bündnisverteidigung Künstliche Intelligenz – Eine Schlüsseltechnologie der Zukunft