Die Anwendungen lassen sich überlisten und spucken falsch positive und falsch negative Bewertungen aus. Sie geben oft nur eine Wahrscheinlichkeit an und machen die Kriterien der Bewertung nicht transparent, was für die Beweisführung jour­nalistischer Faktenchecks wenig hilfreich ist. Oft ver­schwinden sie genauso schnell wieder vom Markt, wie sie dort aufgetaucht sind. Zuverlässige Verifikation bleibt daher ein Handwerk.

Einfacher wird es nicht: Während frühere Fakes leicht an anatomischen Fehlern oder anderen Ungereimtheiten erkennbar waren, verbessert sich die Qualität dieser Fälschungen rasant. Noch gibt es zum Beispiel Schwächen bei der Darstellung von Schriftzeichen und Details – doch damit dürfte bald Schluss sein. Die Herausforderung für die journalis­tische Verifikationsarbeit wächst. Wir investieren permanent in das Know-how unseres Faktencheck-Teams, um neuen Manipulationstechnologien einen Schritt voraus zu bleiben. Übrigens: Neben diesen Deep Fakes spielen auch Cheap Fakes weiterhin eine große Rolle in der Desinformation. Sie sind eigentlich leicht zu entlarven – erzielen auf Social Media aber trotzdem Wirkung, wie die Reaktionen zeigen.

„Wir investieren permanent in das Know-how unseres Faktencheck-Teams, um neuen Manipulationstechnologien einen Schritt voraus zu bleiben.“

KI-Fakes kosten den Journalismus Vertrauen
Je realistischer Fakes allerdings werden, desto höher ist das Risiko für professionelle Redaktionen, sie in der Schnelllebigkeit des Nachrichtengeschäfts nicht sofort zu erkennen. Ein Beispiel aus jüngster Zeit: Führende italienische Medien illustrierten ihren Bericht über den Besuch von Israels Premierminister Benjamin Netanjahu bei US-Präsident Donald Trump in Washington mit einem gefälschten Bild, das beide Politiker mit dem Unternehmer und Regierungsberater Elon Musk zeigt.

Ein genauer Blick auf das Fake-Foto hätte zwar gereicht, um KI-typische Fehler zu erkennen, auf den ersten Blick wirkte es aber überzeugend, zumal ein solches Dreiertreffen durchaus plausibel schien. Spott und Kritik waren die Folge. Solche Fehler kosten Vertrauen und schaden der Reputation. Vermeiden lassen sie sich nur, wenn Redakteurinnen und Redakteure regelmäßig geschult werden in den Techniken und Werkzeugen der Verifikation und den Chancen und Risiken der KI. 

Die dpa bietet Schulungen für Medienhäuser 2025 unter anderem in Kooperation mit der Google News Initiative an, aber auch maßgeschneidert nach individuellen Kundenbedürfnissen – übrigens auch auf Englisch, Französisch und Niederländisch. Unsere Angebote, Medien im oft hektischen News-Alltag zu begleiten und über Fakes schnell zu informieren, bauen wir ständig weiter aus.

KI-Kompetenz vom Teenager bis zur Seniorin
Im Social-Media-Zeitalter reicht es aber nicht mehr, wenn Redaktionen resilient sind gegen KI-generierte Desinformation. Denn was Menschen über soziale Netzwerke erreicht, geht nicht durch eine journalistische Prüfung. User Generated Content will allzu oft nicht informieren, inspirieren oder unterhalten, sondern Stimmung machen und manipulieren – denn was heftige Reaktionen hervorruft, klickt gut und wird vom Algorithmus begünstigt. Die Gefahr, dass sich durch KI-generierte Falschinformationen eine zunehmende Skepsis gegenüber Medien und demokratischen Institutionen verfestigt, ist real.

Dagegen hilft nur Medienkompetenz, und das heißt inzwischen auch: KI-Kompetenz. Von Schülerinnen und Schülern, die das erste Smartphone bekommen, über ihre Eltern und Lehrkräfte bis zu Seniorinnen und Senioren: Ein breites Verständnis für die Mechanismen von Social Media, KI und Desinformation ist notwendig, um sich im digitalen Zeitalter kompetent durchs Netz zu bewegen.

„Ein breites Verständnis für die Mechanismen von Social Media, KI und Desinformation ist notwendig, um sich im digitalen Zeitalter kompetent durchs Netz zu bewegen.“

Auch hier sehen wir uns als dpa in der Pflicht. Wir haben unsere Angebote zur Medienkompetenz ge­meinsam mit verschiedenen Partnern stark aus­­­gebaut, die Initiative #UseTheNews und das Fak­ten­­check-Team ergänzen sich dabei. Ein Beispiel: Im Teen Fact-Checking Network (TFCN) wer­den junge Leute zwischen 14 und 19 Jahren von erfahrenen Faktencheck-Profis dabei begleitet, Des­infor­mation zu entlarven. In Social-Videos er­klären die Teens, worauf es dabei ankommt, und werden so zu Botschafterinnen und Botschaftern für Gleichaltrige.

Fazit: Wachsamkeit und Medienkompetenz sind entscheidend
Die rasante Entwicklung von Künstlicher Intelligenz bietet dem Journalismus und der Gesellschaft ungeahnte Möglichkeiten. Sie stellt uns aber auch vor neue Herausforderungen. Während KI-generierte Desinformation das Vertrauen in Medien und demokratische Institutionen untergräbt, bietet die gleiche Technologie auch Werkzeuge zur Verifikation. Entscheidend ist, dass Journalisten, Medienhäuser und Bürger darauf vorbereitet sind, Manipulation zu erkennen und einzuordnen. 

Hier sieht sich die dpa als Partnerin von Redaktionen und anderen Institutionen. Faktenbasierter Journalismus, kombiniert mit kontinuierlicher Weiterbildung und technologischer Innovation, bleibt der Schlüssel zur Bekämpfung von Desinformation. Gleichzeitig muss Medienkompetenz in allen Altersgruppen gestärkt werden. Denn nur eine gut informierte Öffentlichkeit kann eine Demokratie lebendig halten.

Teresa Dapp leitet das Faktencheck-Team der dpa und ist seit 2024 gleichzeitig Geschäftsführerin der Tochtergesellschaft dpa-infocom.