Wir dürfen unser Vertrauen nicht verspielen

Von Leif Kramp und Stephan Weichert

Für Journalisten tun sich unweigerlich Fallstricke und Herausforderungen im Tête-à-Tête mit der künstlichen Intelligenz auf: Welche Dynamiken setzen KI-generierte Inhalte bei politischen Wahlen frei? Untergräbt KI die Glaubwürdigkeit des Journalismus, je häufiger sie in den Redaktionen eingesetzt wird? Wo braucht es neue Regeln für den Einsatz von KI? Und sollten KI-Avatare irgendwann ihre Sakkos wechseln, damit sie nicht anfangen zu müffeln?

Im Rahmen der internationalen VOCER-Studie „KI-Resilienz im Journalismus“ befassen wir uns mit einer der größten Herausforderungen der aktuellen Transformationsphase des Journalismus: Wie können Medienschaffende souverän mit der neuen KI-Technologie umgehen? Uns interessieren die Risiken, wiewohl auch die Chancen, die sich aus dem journalistischen Umgang mit KI ergeben. Unsere erste Zwischenbilanz fällt allerdings gemischt aus.

Als wir uns mit Jeff Jarvis zum Expertengespräch verabreden, ist der berühmte Internet-Intellektuelle empört und aufbrausend zugleich. Unser Eisbrecher-Thema: Die US-Wahl. In bester Rant-Laune wettert der bekennende Demokrat über das Medienversagen in der Wahlkampf-Endphase und seine berechtigte Sorge, dass Donald Trump ein zweites Mal zum Präsidenten gewählt werden könnte. Jarvis war nie jemand, der sich in unnötigem Geschwafel verliert.

Er kommt gleich zum Punkt: Die „New York Times“ und die „Washington Post“ seien „kaputt“, schimpft er. Und die Massenmedien hätten „eine Scheißangst vor dem eigenen Bedeutungsverlust“. Er warnt vor den, wie er sie verächtlich nennt, „KI-Boys“: Die Weltanschauungen von Leuten wie Sam Altman, Peter Thiel, Elon Musk, Max Tegmark, vor allem ihre nebulösen Pläne zur Rettung der Menschheit machten ihm Angst („Die sind alle verrückt!“). Und Jarvis klagt unverblümt an, dass sich US-Verlagshäuser seit rund zwei Jahrzehnten von Social-Media-Plattformen, Hedgefonds und jetzt auch noch von KI-Unternehmen willfährig ausbluten lassen.

Das ist harter Tobak für einen 70-Jährigen, der sich seit über einem halben Jahrhundert der Transformation des Journalismus widmet. Jarvis begann seine Karriere als Lokaljournalist, bevor er zum Medienkritiker und danach zum vielbeachteten Blogger („Buzzmachine“) wurde und später als Hochschullehrer an die renommierte Graduate School for Journalism der City Universität von New York (CUNY) wechselte. Jarvis lässt keinen Zweifel daran, warum die Weltöffentlichkeit in den USA gerade zum Zeugen eines Medienspektakels wird, das darauf hindeutet, dass der klassische Journalismus für die demokratische Öffentlichkeit in Zukunft wohl nur noch eine untergeordnete Rolle spielen könnte.

Politische KI-Kommunikation       

Auch eine Praktikerin, die wenige Block entfernt in der Liberty Street ihr Büro hat, sieht die unabhängige Presse zunehmend als gefährdet an: Aimee Rinehart verantwortet die KI-Produktstrategie der globalen Nachrichtenagentur Associated Press. Sie glaubt , dass „KI durch die massenhafte und rasant schnelle Produktion und Verbreitung von Inhalten eine massive Disruption darstellt“ und in Wahlkampfzeiten zum „echten Problem für den Journalismus“ werde.

Vor ihrem Engagement bei AP setzte sich Rinehart bei der Nonprofit-Organisation „First Draft“ viele Jahre gegen die Verbreitung von Fake News ein. Heute glaubt sie, dass Journalismus sich nicht mehr wirksam gegen Desinformation durchsetzen kann, stattdessen sollte er für unverfälschte Quellen und Informationen einstehen (vgl. Interview). Aus Sicht von Rinehart erinnert die Flut an Desinformationen immer mehr an einen Kampf gegen Windmühlen. Dennoch hofft sie:  „Wenn wir hart daran arbeiten, hervorragenden Journalismus zu machen, werden die Leute zu uns kommen und uns glauben – anderen Informationen, die sie online finden, aber nicht.“

Schon von Berufswegen optimistisch ist Jeremy Caplan, Jarvis Ex-Kollege, der an der CUNY nach wie vor Journalisten weiterbildet. Auf die Frage, ob sich der US-Journalismus in Wahlkampfzeiten radikalisiere, zum Schutz der Demokratie womöglich aktivistischer werde, merkt Caplan an, dass schon aufgrund der schieren Menge an Informationen, die auf die Menschen einströmt, die Faktenprüfung „leider nicht voll wirksam“ sei: „KI trägt zu der aktuellen Informationsverschmutzung bei, die wiederum dazu führt, dass sich Menschen überfordert, desillusioniert und frustriert fühlen“.

Das dämpft laut Caplan das Interesse der Menschen an Politik und hält sie davon ab, „sich so stark zu beteiligen, wie sie es sonst vielleicht tun würden“. Allerdings glaubt der Medientrainer, der sich in seinem von über 52.000 Menschen abonnierten Newsletter „Wondertools“ gezielt mit KI-Lösungen befasst, fest daran, dass KI-Tools Journalisten in die Lage versetzen, Daten zu analysieren und auf dieser Basis zukunftsweisende Perspektiven zu erforschen, indem sie sich auf das konzentrieren, „was langfristige Auswirkungen in den kommenden Jahren haben kann“.

Authentizitätsverlust

Den Einsatz von KI sieht Caplan dort mit gemischten Gefühlen, wo sich Journalisten von Skandalisierungen und politischer Propaganda so sehr beeindrucken lassen, dass sie ihren eigentlichen Fokus verlieren und „in eine Falle tappen“: Statt seine unbegründeten Behauptungen zu überprüfen, darauf zu reagieren oder ihn zu korrigieren, hätten die Medien Trump nicht nur 2016, sondern auch im aktuellen Wahlkampf „viel zu viel Spielraum gelassen, um öffentlich zu lügen und wiederholt Hass zu schüren“. Caplan hält es zudem für problematisch, dass journalistische Gatekeeper nicht mehr so viel Macht hätten wie früher, Trump verbreite Nachrichten einfach über die Plattformen Truth Social und X. Caplan fordert daher, dass es gerade in Zeiten der KI-Kommunikation „notwendig ist, diese lächerlichen, schädlichen, hasserfüllten Lügen offensiver anzugehen“.

Dass die Glaubwürdigkeit für Journalisten zunehmend zum Problem wird, glaubt auch Jarvis: Durch digitale Inhalte-Lizenzierung würden sich „KI-Unternehmen das Schweigen der Verlage“ erkaufen, wenn es etwa um Rechtsstreitigkeiten und Gesetzgebung gehe, das sei „reine Lobbyarbeit“. Jarvis meint auch, dass es „einfach nur dumm“ sei, dass KI verwendet werde, um „die Menschheit zu imitieren“. Das gelte für Journalismus, wenn etwa KI die Fernsehnachrichten präsentierte. Er erkenne in KI-gestützten Nachrichten keinen eigenständigen Wert – im Gegenteil: „Meine Sorge ist, dass die Öffentlichkeit getäuscht wird, weil sie wie echte Menschen aussehen, sich wie Menschen verhalten und sie sagen, dass sie keine Menschen sind. Aber jemand, der das nicht weiß oder sich nicht darum schert, hält das womöglich für Real News.“ Wenn die Menschen lernten, den Nachrichten nicht mehr zu vertrauen, „vertrauen sie nichts und niemandem mehr.“

Auch deutsche Redaktionen bereiten sich auf den drohenden Kontrollverlust vor: „Eine der größten Herausforderungen ist der potenzielle Verlust von Authentizität, da KI täuschend echte Inhalte generieren kann“, sagt Christian Sieh, der beim Norddeutschen Rundfunk KI-Trainings anbietet. Sieh glaubt, dass der journalistische Absender und die Quellen wichtiger werden – „sie sind unser wertvollstes Gut“. Direkte Erfahrungen seien dabei unersetzlich: „Journalisten können sagen: Ich habe es gesehen, ich habe es recherchiert, ich habe es aufgeschrieben.“

Gleichzeitig biete KI „enorme Möglichkeiten, unsere Arbeit zu unterstützen, etwa bei der Datenanalyse oder Hintergrundrecherchen.“ Gerade beim Einsatz von Sprachmodellen wie ChatGPT sei jedoch entscheidend zu verstehen, dass diese Systeme nicht selbstständig recherchieren könnten. Sieh hält es daher für einen Knackpunkt, dass „Journalisten die Grenzen der KI-Systeme kennen.“

Der KI-Fachmann erkennt eine mögliche Lösung darin, dass KI dem Journalismus „als wertvolles Hilfsmittel und kreativer Sparringspartner dienen“ solle, indem Journalisten den Umgang mit ihr als „eine Art Partnerschaft betrachten, bei der die Stärken beider Seiten genutzt werden“ . Sieh zufolge hat Ethan Mollick, US-Professor für Management, den Vorteil von KI treffend als „Ko-Intelligenz“ beschrieben: „Wir können KI nutzen, um lästige Aufgaben zu automatisieren, effizienter zu arbeiten und bessere Ergebnisse zu erzielen – sei es durch Stilverbesserungen, Feedback zu Recherchefragen oder Ideengenerierung“. Allerdings dürfe man sich „nie hundertprozentig auf KI verlassen“.

Avatare stürmen den Newsroom

Aber sind deutsche Medien überhaupt AI-ready? „Es gibt eine große Bereitschaft, KI auszuprobieren, aber sind wir bereit für KI? Darauf gibt es keine generelle Antwort. Wenn ich sie geben muss, würde ich sagen: nein, wir haben noch Arbeit vor uns“, sagt Ulrike Köppen, die das „AI + Automation Lab“ des Bayerischen Rundfunks leitet und an datengetriebenen Produkten und investigativen Recherchen zu Algorithmen arbeitet. „Wir haben in Medienhäusern unterschiedliche Geschwindigkeiten, unterschiedlich digitalisierte Workflows, da ist kein Medienhaus ausgenommen“, sagt Köppen. Jedes Medienhaus habe an der einen oder anderen Stelle noch infrastrukturelle Hausaufgaben zu erledigen. Neben der Euphorie gebe es deshalb auch „Ängste und zu Recht Fragen“.

Oliver Haustein-Teßmer, Chief Transformation Officer bei der Neuen Pressegesellschaft mit Sitz in Ulm und Absolvent des Executive Programs der CUNY, warnt bei aller Offenheit vor allzu spielerischem Experimentieren: „Der verantwortungsbewusste Einsatz von KI ist eine zentrale Entscheidung. Dafür sollten Verlage und Redaktionen prüfen, wo KI wirklich Arbeitsergebnisse verbessert.“ An KI-gestützt veröffentlichte Inhalte gehöre immer ein Transparenz-Hinweis.

Während hierzulande durchaus noch zögerlich KI-Abteilungen mit interdisziplinären Teams wie beim BR aufgebaut werden, bevölkern unterdessen weltweit Avatare die Newsrooms: Sender wie „Channel1“ (USA), „Channel IAM“ (Indien), „Xinhua News“ (China) und „MBN News“ (Südkorea) setzen synthetische Neuschöpfungen oder KI-Klone ihrer menschlichen Moderatoren ein, die nicht nur News präsentieren, sondern auch Interviews führen, blitzschnell die Sprache ändern und sogar mit den Korrespondenten flachsen können.

In Deutschland kann der Ruhrpott derzeit als Nabel der KI-News ausgemacht werden: Beim Lokalsender Studio 47 aus Duisburg dreht sich seit einigen Monaten alles um KI-erstellte Avatare und KI-gesteuerte Nachrichten. Es ist der erste Sender in Deutschland, der proaktiv damit umgeht, mittels KI die eigene Reichweite und – trotz Personal- und Nachwuchsmangel – die Arbeitseffizienz zu steigern. Chefredakteur Sascha Devigne sagt, dass die Idee, mit KI-Avataren zu arbeiten, aus der Not heraus geboren wurde, mithin Ultima Ratio war: „Das ist nie eine Branche gewesen, wo der Dukatenscheißer im Keller steht, ganz im Gegenteil, es ist immer ein Strecken zur Decke gewesen.“ Es sei für den Lokalsender deshalb ein pragmatischer Schritt gewesen, diesen Weg zu gehen. „Das hat konkret dafür gesorgt, dass wir den Umfang unseres tagesaktuellen Programms deutlich steigern konnten. Es war messbar und spürbar, dass wir, seit wir mit KI-Tools arbeiten, die Anzahl unserer tagesaktuellen Sendungen verdoppelt haben“.

Wie bleiben wir resilient im KI-Zeitalter?

Das, was Devigne selbst erstaunt hat: Die Zuschauer akzeptieren die journalistische KI-Wende im News-Geschäft. Im Rahmen einer Screening-Studie der Landesanstalt für Medien NRW in Düsseldorf war für den Großteil der über 1.000 Befragten zum einen der Unterschied zwischen einem menschlichen Moderator und einem Avatar nicht mehr feststellbar. Zum anderen wurden KI-Avatare als sympathischer wahrgenommen, auch als verständlicher und teils sogar als authentischer und glaubwürdiger. Nur 10 Prozent lehnten KI-Inhalte in den Medien generell ab. Die einzige kritische Rückmeldung bisher sei von einem Zuschauer gekommen, der bemängelte, dass die Avatare zwischendurch mal die Klamotten wechseln sollten: „Wenn man an jedem zweiten oder dritten Tag den Kollegen Jan Skrynecki als Moderator unseres Nachrichtenformates sieht, der immer das gleiche Hemd trägt, fragen sich die Leute, ob das nicht langsam anfängt zu müffeln“.

Bei aller Euphorie, seinen Output bei gleichbleibendem personellem und technischem Niveau verdoppelt zu haben, ist Devigne sich seiner immensen Verantwortung bewusst: „Wenn wir zukunftsfähig bleiben und in den nächsten 15 Jahren noch den lokalen und regionalen Journalismus betreiben wollen, den wir betreiben möchten, kommen wir nicht umhin, pragmatisch, verantwortungsvoll und sorgfältig mit allem, was wir uns in unseren ethischen Kompass schreiben, KI-Tools einzusetzen.“ Devigne befürchtet auch, dass vor allem in den großen Medienhäusern, „die viel stärker Rendite getrieben sind als wir, die durchgeknallten Controller Spaß“ haben: „Die rennen mit dem Klemmbrett durch den Laden um zu gucken, wen sie als nächstes von der Payroll runterkicken.“

Uli Köppen glaubt derweil daran, „dass über KI eigene Formen und Formate entstehen werden“. Im Moment hangelten wir uns oft an Bestehendem entlang und gucken, wo uns KI bereichern kann, jedoch: „Wenn man beispielsweise an Kunst und KI denkt, bekommt man jetzt schon ein Gefühl dafür, dass Formate entstehen werden, an die wir noch nicht denken“. Auch Christian Sieh vom NDR glaubt an einen KI-Turn: Die Entwicklung zeige, „dass die Bedienung von KI-Tools immer intuitiver wird, dennoch müssen wir die Ergebnisse stets kritisch hinterfragen – genau wie wir es bei menschlichen Zuarbeitern tun würden“. Zudem sei es unerlässlich, dass wir uns kontinuierlich weiterbilden, um mit den rasanten Entwicklungen im KI-Bereich Schritt zu halten. „Nur so können wir die Chancen der Technologie optimal nutzen und gleichzeitig ihre Risiken minimieren.“

Auch Jeff Jarvis, der US-Vordenker des politischen Internets, sagt mit Blick auf das bevorstehende Ergebnis der US-Wahl etwas versöhnlich, dass es letztlich nichts bringe, angesichts von KI in Panik zu verfallen: Um sich für das Zeitalter der Automation zu wappnen, müsse Journalismus das gesellschaftliche Zugehörigkeitsproblem lösen. Denn Content, sagt Jarvis, sei für die Medien kein Geschäftsmodell mehr. Es müsse darum gehen, „Journalismus in den Dienst an der Gesellschaft zu stellen“. Nur so lasse sich der Erosionsprozess noch aufhalten, der durch die sozialen Netzwerke seinen Anfang nahm und der jetzt durch KI beschleunigt werde. Weil Big Tech immer mehr an Macht gewinne und die Populisten auf dem Vormarsch seien – auch in Deutschland – geht es Jarvis zufolge diesmal ums große Ganze: Nicht nur die Professionalität des Journalismus, sondern vor allem das Vertrauen in den Journalismus stünden auf dem Spiel. Um KI-resilient zu werden, glaubt Aimee Rinehart, müssten Medien nun internationale Netzwerke bilden „zwischen Journalisten, die KI besser verstehen und zusammenarbeiten wollen, um das zu teilen, was sie lernen“.

Buchhinweis: Kramp, Leif/Weichert, Stephan: Resilienz in der digitalen Gesellschaft. Mediennutzung in Zeiten von Krisen, Kriegen und KI. Köln: Herbert von Halem Verlag.

Dies ist ein edierter und aktualisierter Beitrag, der in einer früheren Version veröffentlicht in: „Medium Magazin“, 05/2024, S. 54-57.

Bildnachweis: KI-Generiert. NEWS DESERTS: KI-Zyklus zur Expansion von Nachrichtenwüsten und Pressesterben #34 © 2024-2025 Stephan Weichert / VOCER Institut für Digitale Resilienz