Mit Fotos aus einer Google-Suche lassen sich heute von Zauberhand täuschend echte Fake-Bilder generieren. Die Agentur Feinheit macht mit einem KI-Experiment auf die politischen Gefahren aufmerksam.
Künstliche Intelligenz (KI) oder Machine Learning macht gerade rasante Fortschritte: Mittlerweile lassen sich innert Sekunden fotorealistische Bilder generieren – etwa von bekannten Schweizer Politikerinnen und Politikern.
Um deutlich zu machen, wie verblüffend echt diese Bilder wirken, hat Feinheit das KI-Experiment «Fake or Not» ins Leben gerufen. Dabei gibt sie einem KI-Generator den Auftrag, Porträtbilder der 46 Ständerätinnen und Ständeräte zu erstellen. Grundlage dafür sind Fotos der Politikerinnen und Politiker aus der Google-Suche, die der Generator absaugt. Alles läuft komplett automatisiert ab.
Auf der «Fake or Not»-Seite von Feinheit lassen sich echte und generierte Bilder vergleichen. Das Ergebnis ist verblüffend, zumindest auf den ersten Blick.
Der Klein Report hat genauer hingeschaut und die Probe aufs Exempel gemacht. Von zwanzig Gegenüberstellungen von Fake und Real hat er 18 Mal richtig geraten. Kein Bluff.
Vielleicht bräuchten die KI-Gesichter vor ihrem Auftritt im Web dann doch noch etwas Make-up, das von Menschenhand aufgetragen wird. Aber wirklich gemein werden die Fake-Fotos ja auch erst, wenn man nichts Böses erwartet.
«Mit dem Experiment will Feinheit aufklären darüber, dass sich heute fotorealistische Bilder in rasantem Tempo, in grosser Menge und in hoher Qualität erstellen lassen – und darüber, dass dies jede und jeder mit einem Internetzugang kann», schreibt die Agentur weiter zu ihrem Projekt.
Im «Kulturplatz» auf SRF hat die Agentur vor Kurzem vorgeführt, wie mit Machine Learning zum Beispiel ein Parteipräsident beim Randalieren gezeigt werden kann.
Verfängliche Fake-Bilder von Politikerinnen und Politikern sind also schnell produziert, KI-generierte Texte rasch geschrieben. Wenn diese im Wahlkampf strategisch verbreitet werden, um Menschen zu schaden, kann dies die öffentliche Debatte und Meinungsbildung beeinträchtigen.
«Es geht nicht darum, KI zu verbieten. Aber wir brauchen klare gesetzliche Spielregeln, unter welchen Bedingungen KI-Systeme entwickelt und eingesetzt werden dürfen», sagt Angela Müller, Leiterin der Organisation AlgorithmWatch CH.
Frage des Klein Reports: Ob alle Parteien im Wahlkampf im Herbst den natürlichen Anstand wahren und die Finger von künstlichen Negativ-Kampagnen lassen werden?
