Zwei verstörende Trends

Wir sind hier in einem Fotoforum, insofern passt's ...

Seit einigen Monaten gibt es zwei neue Trend in den sozialen Medien. Sehr verstörende Trends ...

Beim ersten Trend werden dabei per KI Fotos von Menschen in Konzentrations- und Vernichtungslagern sowie Ghettos gezeigt, neben den KI-spezifischen Auffälligkeiten in der Regel wunderschöne Kinder oder dramatisch ausgemergelte Erwachsene. Die werden dann mit hochemotionalen Texten zu wahren Geschichten oder zu komplett erfundenen Geschichten gepostet und erhalten Tausende von Likes und werden weiterverbreitet. Auch wenn beispielsweise die Gedenkstätte Auschwitz täglich Dutzende oder gar Hunderte an Richtigstellungen postet, kommt sie gegen die Masse nicht an.

Über das Problem der Geschichtsfälschung und Entehrung der Opfer will ich gar nicht erst reden, aber was für mich unglaublich ist: Die konsumierenden Menschen erkennen nicht als solche, sondern gehen davon aus, dass es sich um echte Fotos handelt. Darunter auch Journalisten, Wissenschaftler und weitere, eigentlich gebildete Menschen. Wie soll es dann erst werden, wenn die Fotos realistischer aussehen sollten?

Die grundlegende Frage für mich: Ist das beim verlinkten Foto so schwer zu erkennen, dass es sich um KI handelt?

Wozu das auch führt: zu einer vollkommenen Abstumpfung gegenüber der tatsächlichen Fotos, die erhalten sind. Es ist auch ein Einfallstor für Holocaustleugnung oder -verharmlosung.

Der zweite Trend ist nicht weniger verstörend. Dabei fügen vor allem Jugendliche und junge Erwachsene per KI zum Beispiel weinende Kinder in Häftlingskleidung in die Fotos und Filme ein, die sie selbst beim Besuch in einer Gedenkstätte gemacht haben. In diesem Fall wird es dann eher im kleinen Rahmen geteilt, ohne dass es bisher großartig auffällt.

- die meisten Menschen, mich eingeschlossen, ueberpruefen nicht jedes Photo welches sie sehen daraufhin ob es sich um ein (KI-)Fake handeln koennte.
- selbst wenn sie wissen, dass es nur Ketschup ist, bekommen manche Menschen trotzdem Alptraeume von Horrorfilmen. Das Gleiche passiert hier. Wir
wissen dass Insassen von KZ's in dem gezeigten Bild garantiert keine Kraft mehr gehabt haetten noch Geige zu spielen, dennoch setzt sich das irgendwo in
unserem Hirn fest.
Ich halte das fuer ein in der Zukunft schwer zu loesendes Problem.

Ein unkontrollierbare Technologie, die jeden beliebigen Fake erlaubt und von echten Bildern nicht mehr zu unterscheiden ist. Ein Haufen Wirrköpfe, die diese Technologie bedenkenlos einsetzen, entweder aus gedankenloser Vergnügungsucht oder aus ideologischen Motiven. Und eine riesige Menge Gutgläubiger, die alles für wahr halten "was im Internet steht". Entweder, weil sie es nie anders gelernt haben, oder weil es in ihr Weltbild passt und sie daran glauben wollen. Gegen das, was da gerade entsteht, ist Fahrenheit 451 eine seichte Kommödie.

Ein echt schwieriges Thema! Ich befürchte, dass sich dieser Trend noch massiv verstärken wird. Vielleicht manchmal sogar gut gemeint - vielleicht sogar bei dem verlinkten Foto. Vielleicht sogar angeregt durch authentische Berichte über Häftlinge, die gezwungen wurden, zu musizieren. Das macht es aber nicht besser. Und bei einem schnellen Blick auf das Foto ist die Entlarvung als KI-Fake nicht so einfach.

Andererseits ermöglicht die KI, dass künftig Avatare von Überlebenden auch nach deren Tod von den Zuständen in den Vernichtungslagern berichten können. Mich würde es nicht wundern, wenn die Fake-Produzenten das sogar als Argument für ihre gefälschten Fotos heranziehen.

Wir werden diese KI-Fakes nicht verhindern können, zumal die Technik immer perfekter wird. Und da immer weniger Menschen, vor allem auch Jugendliche, sich bewusst mit der eigenen Geschichte und dem Faschismus auseinandersetzen, wird es immer mehr dankbare Abnehmer auch für solche Fälschungen geben, die - wie von dir, Jan befürchtet, die Verbrechen der Nazis verharmlosen bzw. relativieren werden.

Nicht auszumalen, was Goebbels mit so einer Technologie gemacht hätte…

klabö hat geschrieben:Ein echt schwieriges Thema! Ich befürchte, dass sich dieser Trend noch massiv verstärken wird.

mein Krakau hat geschrieben:Beim ersten Trend werden dabei per KI Fotos von Menschen in Konzentrations- und Vernichtungslagern sowie Ghettos gezeigt, neben den KI-spezifischen Auffälligkeiten in der Regel wunderschöne Kinder oder dramatisch ausgemergelte Erwachsene. Die werden dann mit hochemotionalen Texten zu wahren Geschichten oder zu komplett erfundenen Geschichten gepostet

Das fürchte ich auch es ist nicht nur ein schwieriges Thema sondern - meiner Meinung nach - auch gefährliches Thema. Also nicht das Thema sondern eher worum es geht und zwar die KI-(Fake)-Bilder bzw. den KI generierten Content.

mein Krakau hat geschrieben:Die konsumierenden Menschen erkennen solche KI-Fotos nicht als solche, sondern gehen davon aus, dass es sich um echte Fotos handelt. Darunter auch Journalisten, Wissenschaftler und weitere, eigentlich gebildete Menschen. Wie soll es dann erst werden, wenn die Fotos realistischer aussehen sollten?

das ist der Punkt. Also ich habe noch gelernt das Themen, die in Büchern stehen, eigentlich der Wahrheit entsprechen sollten. Inkl. den Bildern etc. Die bevorzugte Quelle zur Wissensbeschaffung ist allerdings heute nicht mehr das "Buch" sondern das Internet und anhand der KI kann ich schlußendlich mir die Geschichte so gestalten wie "ICH DAS WILL" und nicht mehr so, wie es der Realität entspricht. Diese Dinge stelle ich dann der breiten Masse zur Verfügung und wenn es gut gemacht ist, glauben es im schlimmsten Fall noch die Leute So geht wahres Wissen verloren!!!

Tja wie kann man das verhindern Eine Möglichkeit wäre vielleicht das die KI so programmiert wird das sie die eingegebenen Informationen mit vorhandenen Dokumente abgleicht und selber "Fake-Material" im Hintergrund erkennt und das Posten verhindert so dass über diesen Weg Fakes schwerer werden bzw. weniger werden. Schlußendlich ist ja die KI daarauf ausgelegt vorhandenes Wissen im Netz auszuwerten um daraus auch die Antworten zu generieren. Vielleicht sollte man die KI in Zukunft nur Zugriff auf "seriös geprüfte" Dokumentationen, Schriftstücke, Fotos etc. zugreifen lassen die für KI zertifiziert und freigegeben sind.
Natürlich würde es in dem Fall auch wieder schwer fallen über KI Kontent zu erzeugen. Woher will die KI wissen ob es sich um "Fake" oder um "Fiktion", "Satire", "Komödie" etc. handelt??
Aber auch hier könnte man es so regeln das im Bild sichtbar ein Vermerk als Wasserzeichen eingebunden ist welches den KI generierten Kontent auch gleich als entsprechendes Genre kennzeichnet.

mein Krakau hat geschrieben:Der zweite Trend ist nicht weniger verstörend. Dabei fügen vor allem Jugendliche und junge Erwachsene per KI zum Beispiel weinende Kinder in Häftlingskleidung in die Fotos und Filme ein, die sie selbst beim Besuch in einer Gedenkstätte gemacht haben. In diesem Fall wird es dann eher im kleinen Rahmen geteilt, ohne dass es bisher großartig auffällt.

das ist einfach nur geschmacklos sie sollen froh sein diese Zeit nie miterlebt zu haben und vor allem beten dsa solche Zeiten nie wieder kommen!!
da würde ich am liebsten das ist doch kein Freizeitpark sondern eine Gedenkstätte. Wenn sie eine Erinnerung von dort haben wollen, sollen sie sich Fachliteratur mitbringen, lesen und das Wissen an andere weiter geben aber doch nicht so nen "Rotz" mit geschmacklosen "Fake-Bilder".

Unglaublich was es alles gibt

mein Krakau hat geschrieben:Seit einigen Monaten gibt es zwei neue Trend in den sozialen Medien. Sehr verstörende Trends ...

An der zunehmenden Verbreitung von KI würde ich diese negativen Trends nicht festmachen.
Einbruchdiebstähle werden ja auch nicht auf die Entwicklung der Brechstange zurückgeführt.
Linksgerichtete, antiisraelische, gewalttätige Demonstrationen werden auch nicht KI-gesteuert, sondern basieren auf der Interessenlage eines Teiles der in Deutschland lebenden Bevölkerung.
Dieser Vergleich soll nichts verharmlosen. Es ist jedoch nicht so, dass sich auf politischer Ebene nichts bewegt:
https://www.welt.de/politik/deutschland ... hatgpt.com
Einer weiteren politische Vertiefung dieses Themas möchte ich hier keinen Vorschub leisten, vertrete aber die Abtrennung dieser unsäglichen medialen Entgleisungen wie Eingangs beschrieben von fotografischen Themen.

Antisemitismus in jedweder Form ist schlimm. Aber darum geht es bei den Trends nicht. Meine Meinung zu verpflichtenden Gedenkstättenbesuchen habe ich und sie dürfte aufgrund meiner beruflichen Erfahrung wesentlich tiefgehender und vielfältiger sein als bei Politikern oder Journalisten, aber auch um dieses Thema geht es nicht.

Klaus hat richtig angemerkt, dass da auch durchaus Leute mit eigentlich guten Absichten dabei sein können. Aber gut gemeint ist oft das Gegenteil von gut gemacht.

Holocaustkitsch gibt es natürlich schon länger, etwa in Form von Schundbüchern wie dem Tätowierer von Auschwitz, wogegen die Gedenkstätte und weitere Bildungsinstitutionen ebenfalls ankämpfen.

Auch Selfies mit Knutschlippen in Gedenkstätten gab es ebenso schon vor KI wie eingeritzte Liebesschwüre mit Herz in den ehemaligen Gaskammern oder Souvernirjäger mit geklauten Objekten.

Was den Einsatz von KI bedenklicher macht, ist die wesentlich größere und schnellere Reichweite. Und mich hat verblüfft, insbesondere bei dem eingangs verlinkten KI-Bild, dass das nicht erkannt wird. Keine Ahnung, ob mein Auge darauf geschult ist, aber innerhalb von Millisekunden wurde mir das klar.

Dass mit KI durchaus sinnvolle und schöne Dinge getan werden können, versteht sich auch von selbst.

Ein erstaunlich interessantes Thema für ein "markenorientiertes" Fotoforum. Für mich ist die angesprochene Problematik eine weitere Facette im Komplex der Ästhetisierung des Elends. Ein Trend, der sich unabhängig von KI und schon lange vor KI zum Beispiel im Bereich der Pressefotografie breitgemacht hat. Ich denke da zum Beispiel an dieses eine Bild eines toten kleinen Mädchens in den Ruinen von Port-au-Prince nach dem Erdbeben, das einen größeren Pressefotopreis gewonnen hatte, aber allgemein sehr kontrovers diskutiert wurde. KI ist nur ein besonders leichter Weg, diesen Elendskitsch zu produzieren. KI ist halt ein höchst effektiver Kitschgenerator.

Was konkret Fotos aus Shoah-Gedenkstätten betrifft, kommt dazu eine gewisse visuelle Erwartungshaltung. Unser kollektiver, ikonischer Bildfundus besteht hier aus den Dokumentaraufnahmen dieser Zeit in Schwarzweiß oder Sepia und mit Optiken der Epoche. Ich habe mich schon oft darüber gewundert, dass praktisch alle meiner jüngeren Bekannten, Freunde und Social-Media-Kontakte, die ihre Besuche in Auschwitz o.ä. für SoMe dokumentieren, ihren Handyfotos per Filter einen vermeintlich echten Look geben. Also in Schwarzweiß oder sepiagetont und etwas unscharf, womöglich noch mit Vignette. Eigentlich ist "mich darüber gewundert" nicht der richtige Ausdruck. Es geht mehr in Richtung Ekel. Auch weil auf der Metaebene dadurch schon vermittelt wird: "Alles nur Geschichte. Das betrifft mich nicht mehr."