ChatGPT: Bedrohung oder Chance für den Journalismus?

Seit der Einführung des von OpenAI betriebenen Chatbots ChatGPT im November diskutieren Journalisten über dessen potenzielle Auswirkungen auf die Nachrichtenbranche.

Wie viele Journalisten werden durch den Aufstieg von generativer künstlicher Intelligenz ersetzt? Wie schnell wird dieser Prozess stattfinden? Welche Journalisten sind am anfälligsten für diese Art von Störung? Und sollten wir ChatGPT als Herausforderung oder als Chance sehen, einige der Probleme zu lösen, mit denen die Nachrichtenbranche konfrontiert ist?

All diese und weitere Fragen werden zurzeit heiß diskutiert. Ich sprach mit drei Experten und zwei Start-up-Gründern, um eine klarere Vorstellung davon zu bekommen, wie generative KI und große Sprachmodelle den Journalismus kurz- und mittelfristig beeinflussen werden.

Francesco Marconi ist Computational-Journalist und Mitbegründer des Echtzeit-Informationsunternehmens AppliedXL. Zuvor war er R&D-Chef bei The Wall Street Journal und Co-Leiter für KI und Nachrichtenautomatisierung bei der Associated Press. Marconi ist der Autor von „Newsmakers: Artificial Intelligence and the Future of Journalism“, einem Buch über KI und Journalismus, das 2020 veröffentlicht wurde.

Madhumita Murgia ist die neu ernannte KI-Redakteurin bei der Financial Times, eine neue Position bei der Zeitung. Davor arbeitete sie als europäische Technologiekorrespondentin bei der FT.

Professor Charlie Beckett ist Leiter von JournalismAI, einem Projekt des Journalismus-Denkfabrik Polis an der London School of Economics (LSE). Neben Forschung und Veröffentlichung eines Berichts über Journalismus und KI betreibt die Initiative ein Fellowship-Programm für Journalisten und Technologen, ein Schulungsprogramm für kleine Nachrichtenräume und kuratiert Beispiele für KI-Anwendungen im Journalismus, damit andere davon lernen können.

Viele Verkaufsstellen nutzen bereits AI in begrenztem Umfang, um ihre Betriebsabläufe zu unterstützen. Andere stellen sich ganz neue Modelle auf der Grundlage der Technologie vor. Zu letzterer Gruppe gehören Jenny Romano und Pedro Henriques, die Gründer von The Newsroom, einer App, die ihren Lesern einen täglichen Überblick mit KI-generierten Zusammenfassungen der wichtigsten Nachrichten bietet: die wichtigsten Fakten, den Kontext und die Hauptaussagen.

KI: Nicht ganz neu

Die Verwendung von KI zur Unterstützung und Erstellung von Journalismusstücken ist etwas, mit dem Unternehmen schon seit einiger Zeit experimentieren. Francesco Marconi kategorisiert KI-Innovationen im vergangenen Jahrzehnt in drei Wellen: Automatisierung, Erweiterung und Generierung.

Während der ersten Phase lag der Fokus darauf, datengetriebene Nachrichten, wie Finanzberichte, Sportergebnisse und Wirtschaftsindikatoren, mithilfe von Techniken zur natürlichen Sprachgenerierung zu automatisieren. Es gibt viele Beispiele für News-Publisher, die Inhalt automatisieren, einschließlich globaler Agenturen wie Reuters, AFP und AP sowie kleinerer Verkaufsstellen.

Laut Marconi wurde die zweite Welle erreicht, als „der Schwerpunkt auf der Verbesserung der Berichterstattung durch maschinelles Lernen und die Verarbeitung natürlicher Sprache zur Analyse großer Datensätze und zur Aufdeckung von Trends lag“. Ein Beispiel dafür ist die argentinische Zeitung La Nación, die 2019 begann, KI zur Unterstützung ihres Daten-Teams einzusetzen und dann in Zusammenarbeit mit Datenanalysten und Entwicklern ein KI-Labor einrichtete.

Die dritte und aktuelle Welle ist die generative KI. Sie wird „durch große Sprachmodelle angetrieben, die in der Lage sind, narrative Texte in großem Umfang zu generieren“, sagt Marconi. Diese neue Entwicklung bietet Anwendungen für den Journalismus, die über einfache automatisierte Berichte und Datenanalysen hinausgehen. Jetzt könnten wir einen Chatbot bitten, einen längeren, ausgewogenen Artikel zu einem Thema oder einem Meinungsartikel aus einer bestimmten Perspektive zu schreiben. Wir könnten ihn sogar bitten, dies im Stil eines bekannten Schriftstellers oder einer bekannten Veröffentlichung zu tun.

Seit November haben sich die Ideen für mögliche Anwendungen dieser Technologie vervielfacht, wobei Journalisten selbst oft die Fähigkeiten von Chatbots zum Schreiben und Bearbeiten testen.

Ein Teil des Grundes, warum ChatGPT und andere Tools so viel Begeisterung auslösen, könnte darin liegen, dass sie so benutzerfreundlich sind und in natürlicher Sprache kommunizieren können, sagt Madhumita Murgia vom FT: „Es fühlt sich an, als ob dort eine Intelligenz wäre, obwohl es wirklich nur eine sehr leistungsstarke Art von vorhersagender Technologie ist.“

Die Sprachmodelle, mit denen diese Tools arbeiten, bedeuten, dass sie auf unsere Anweisungen reagieren, wenn sie neuen Inhalt generieren, und nicht selbst Ideen entwickeln. Das Modell wird auf einen Satz von Inhalten und Daten trainiert und generiert neue Ausgaben auf der Grundlage dessen, worauf es trainiert wurde.

Das bedeutet, dass generative KI zwar hilfreich sein kann, um Informationen zu synthetisieren, Bearbeitungen vorzunehmen und Berichte zu informieren, aber Murgia glaubt, dass generativer KI, wie wir sie heute sehen, einige wichtige Fähigkeiten fehlen, die verhindern werden, dass sie eine bedeutendere Rolle im Journalismus übernimmt. „Basierend auf dem Stand heute ist es nicht originell. Es bricht nichts Neues. Es basiert auf vorhandenen Informationen“, sagt Murgia.

Deshalb kann generative KI laut ihr nicht der Nachfrage nach mehr Analyse oder einer ausgereifteren Meinung zu einem Thema gerecht werden, nach der Leser suchen, wenn sie zu Newsseiten wie der Financial Times gehen. ChatGPT selbst scheint zuzustimmen. 

„Das heißt nicht, dass generative KI nicht stärker werden oder sich weiterentwickeln kann, wenn sich die zugrunde liegende Technologie weiterentwickelt“, sagt Murgia. „Ich glaube auf jeden Fall, dass die Sprachmodelle von heute nicht kreativ oder originell sind und in keiner Weise etwas Neues generieren. Aber ich denke, dass sie ziemlich gut nachahmen.“

Eine weitere Herausforderung für eine größere Rolle von generativer KI im Journalismus sind die sachlichen Fehler, die ChatGPT oft macht, manchmal sogar in öffentlichen Demos, wie es anscheinend bei den neuen AI-betriebenen Werkzeugen von Google und Microsoft der Fall war. ChatGPT hat möglicherweise einen Leser auf eine Referenz verwiesen, die nicht existiert.

„Diese Modelle haben oft Schwierigkeiten, genaue und sachliche Informationen über aktuelle Ereignisse oder Echtzeitdaten zu generieren“, sagt Marconi. Dies legt nahe, dass die derzeit verfügbaren KI-Tools für die Berichterstattung über aktuelle Ereignisse ungeeignet sind – eine komplexe und teure Operation, die sorgfältige Faktenprüfung und Querverweise erfordert.

Generative KI-Modelle haben auch Schwierigkeiten mit Zahlen. „Die neue Generation von generativer KI ist nicht genau, wenn es um die Berechnung exakter Zahlen geht. Unaufhaltsame algorithmische Erstellung birgt große Risiken für ein gesundes Informationssystem“, sagt Marconi. Das bedeutet nicht, dass generative KI im Journalismus keine Rolle spielt, aber wir können uns nicht ausschließlich darauf verlassen.

Professor Charlie Beckett, Leiter des Polis/LSE JournalismAI-Forschungsprojekts, rät ebenfalls zur Vorsicht und würde Journalisten davon abhalten, neue Werkzeuge ohne menschliche Aufsicht zu verwenden: „KI geht nicht um die vollständige Automatisierung der Inhaltsproduktion von Anfang bis Ende, sondern um Ergänzung, um Fachleuten und Kreativen Werkzeuge zur schnelleren Arbeit zu geben, die ihnen mehr Zeit für das geben, was Menschen am besten können“, sagt er. „Menschlicher Journalismus ist auch voller Fehler, und wir minimieren die Risiken durch Redaktion. Das Gleiche gilt für KI. Stellen Sie sicher, dass Sie die Werkzeuge und Risiken verstehen. Erwarten Sie nicht zu viel von der Technologie.“

Marconi argumentiert auch, dass die Medien mit der Technologie auf eine Weise arbeiten sollten, die ihre derzeitigen Fallstricke anerkennt und bekämpft: „Die Einschränkungen großer Sprachmodelle wie GPT signalisieren, wo die journalistische Innovation sich auf die Entwicklung von Ereigniserkennungssystemen konzentrieren sollte, die Echtzeitinformationen erfassen und berechnen können. Die Kombination dieser Ereigniserkennungssysteme mit großen Sprachmodellen wird den Weg für einen vollständig neuen Ansatz im Journalismus ebnen.“

Ein Beispiel für ein Ereigniserkennungssystem findet sich in Marconis eigenem Unternehmen AppliedXL, das er beschreibt als „ein Ereigniserkennungsunternehmen, in dem journalistisch orientierte Menschen zusammenarbeiten, um die Nachrichten vorherzusehen“. Durch maschinelles Lernen und die Grundsätze des investigativen Journalismus zielt sein Team darauf ab, Nachrichten im Zusammenhang mit klinischen Studien vorherzusagen, indem es frühzeitig unregelmäßige Signale in Daten erkennt, lange bevor Unternehmen mit Problemen an die Öffentlichkeit gehen.

Generative KI im Einsatz

Mehrere bekannte Medien haben angekündigt, generative KI zu nutzen oder bereits in ihren Inhalt einzubeziehen. BuzzFeed hat angekündigt, KI zu nutzen, um seine berühmten Persönlichkeitstests zu erstellen, und die New York Times hat ChatGPT genutzt, um einen Valentinstags-Nachrichtengenerator mit einer Kombination von Vorgaben zu erstellen.

Auch andere Medienhäuser untersuchen mögliche Anwendungsbereiche, darunter der deutsche Verlagsriese Axel Springer und der britische Verlag Reach, der kürzlich seine ersten Artikel veröffentlichte, die von einer KI auf einer lokalen Nachrichtenseite geschrieben wurden. Die italienische Zeitung Il Foglio hat eine Herausforderung für ihre Leser angekündigt: Ab der zweiten Woche im März werden 30 Tage lang kurze Texte, die von einer KI geschrieben wurden, in ihrer täglichen Ausgabe veröffentlicht, und Leser, die jeden Text in einer Woche korrekt identifizieren können, haben die Möglichkeit, ein kostenloses Abonnement und eine Flasche Champagner zu gewinnen.

Für Pedro Henriques und Jenny Romano steht die Anwendung von KI im Journalismus im Mittelpunkt des Geschäfts von The Newsroom, dem Unternehmen, das sie 2021 gegründet haben. Sie haben eine App entwickelt, die KI-generierte tägliche Zusammenfassungen der wichtigsten Nachrichten bietet. Dabei handelt es sich nicht um Breaking News, sondern um Nachrichten, die bereits von verschiedenen Quellen breit berichtet wurden. Das Ziel der App, sagten mir die Gründer, sei nicht unbedingt, dem Benutzer völlig neue Informationen zu liefern, sondern ein Bild der Fakten zu zeichnen, auf die sich alle Quellen einigen, und dann unterschiedliche Perspektiven hervorzuheben.

Der erste Schritt des Prozesses besteht darin, Daten von verschiedenen Verlagen zu sammeln, um zu verstehen, welche Nachrichtenereignisse diskutiert werden und von wem, erklärte Henriques. Der nächste Schritt besteht darin, diese Artikel durch ein Modell zu laufen zu lassen, an dem die Gründer mit Journalisten zusammengearbeitet haben. Das Modell bewertet die Qualität der Stücke anhand von Kriterien wie der Präsenz von Fakten.

„Sobald wir diese Artikel über dieselben Ereignisse und eine bestimmte Qualitätsschwelle auf unserer Seite haben, haben wir zwei weitere Modelle, die im Wesentlichen die Artikel in Stücke zerlegen“, sagt Henriques. „Wir identifizieren die Konsenspunkte dessen, was berichtet wird. Also, was sind die Hauptpunkte, auf die sich alle Zeitungen einigen? Welche grundlegenden Fakten berichtet jeder? Und andererseits, was sind die Unterschiede? Was sind verschiedene Ansichten zum gleichen Thema, die auftauchen? Auf der Grundlage dessen schreiben wir einen neuen Artikel, der das im Wesentlichen verpackt. So beginnen wir mit den Konsenspunkten, den grundlegenden Fakten dessen, was passiert, und dann können wir untersuchen, was wir als mehrere Perspektiven bezeichnen.“

Die Artikel von The Newsroom werden von KI geschrieben und von Menschen manuell überprüft. Menschen werden immer Teil des Überwachungsprozesses sein, sagt Romano – und sie seien bestrebt, diesen Prozess weiter zu optimieren.

„Wir planen, je nach Thema unterschiedliche Ebenen hinsichtlich des manuellen Überprüfungsaufwands einzurichten“, sagt Henriques. „Zum Beispiel behandeln wir derzeit größtenteils globale Themen wie Geopolitik, Klima usw. Wenn wir uns anderen Themen zuwenden, die weniger risikoreich sind – wie zum Beispiel Sport –, dann sollen diese in verschiedenen Stufen geprüft werden.“

Derzeit verwenden sie nur englischsprachige Quellenartikel und veröffentlichen Zusammenfassungen in englischer Sprache. Sie planen jedoch, Artikel in anderen Sprachen in ihr Modell aufzunehmen, um auch die geografische Vielfalt ihrer Ausgabe zu verbessern. Dies spiegelt sich in der Branche wider: Obwohl die Verwendung von ChatGPT in mehreren Sprachen möglich ist, ist die Qualität seiner Ausgabe nicht überall gleich.

Auf die Frage, ob sie einige der Probleme erlebt haben, die andere Modelle haben, sagen Henriques und Romano, dass das nicht der Fall wäre. Ihre Modelle haben keine „Halluzinationen“ produziert, wenn die KI eine Aussage generiert, die nicht durch Daten gestützt wird, und ihre manuelle Überprüfung des Textes korrigiert jegliche sachliche Ungenauigkeiten.

„Wir haben es nicht mit Dingen wie Breaking News zu tun. Wenn eine Nachricht bekannt wird, gibt es noch nicht genügend Informationen, um sie ordnungsgemäß zu validieren. Und so ist die Information auf The Newsroom absichtlich etwas verzögert“, sagt Henriques.

Die App befindet sich derzeit in ihrem Minimum-Viable-Product-Stadium und wird daher noch weiterentwickelt. Sie hat etwa 1.000 Nutzer in verschiedenen Ländern, hauptsächlich in Europa, wobei die überwiegende Mehrheit unter 35 Jahren ist, sagen die Gründer. Laut Romano können die derzeitigen Nutzer von The Newsroom in zwei Hauptgruppen unterteilt werden: Menschen, die bereits viel Nachrichten von anderen Quellen konsumieren, und ehemalige Nachrichtenvermeider, eine Gruppe, die sie in ihrem Publikum durch Kontaktaufnahme und Gespräche mit einigen ihrer Nutzer gefunden haben.

Henriques betont jedoch, dass die App nicht dazu gedacht ist, die einzige Nachrichtenquelle für ihre Nutzer zu sein: „Wir sehen uns selbst eher als eine Möglichkeit, Benutzern bei der Navigation durch die Nachrichten im Allgemeinen zu helfen. Wir sehen uns nicht als vollständig eigenständige Plattform – nicht als den einzigen Ort, an dem Sie Nachrichten lesen können. Es ist ein Zugang, ein Orientierungspunkt – aber hier hört es nicht auf. Von hier aus gehen Sie zu anderen Quellen, um tiefer in Dinge einzutauchen, die Sie wirklich interessieren.“

Ein Blick in die Zukunft

Murgia und Marconi verweisen auf die Rolle von Journalisten bei der Synthese von Informationen, der Kontextualisierung und der Identifizierung von Inhalten. Für Marconi wird dies schwieriger werden: „Die Explosion von Datenquellen wie dem Web, Sensoren, mobilen Geräten und Satelliten hat eine Welt geschaffen, in der es einfach zu viel Information gibt. Wir produzieren jetzt mehr Informationen als zu jedem anderen Zeitpunkt in der Geschichte, was es viel herausfordernder macht, unerwünschte Informationen herauszufiltern.“

Marconi glaubt, dass dies ein Bereich des Journalismus ist, in dem KI eine entscheidende Rolle spielen kann, um die Arbeitsbelastung für Menschen zu verringern. „KI sollte nicht nur als Werkzeug zur Generierung von mehr Inhalten gesehen werden, sondern auch dazu beitragen, es zu filtern“, sagt er. „Einige Experten prognostizieren, dass bis 2026 90 Prozent des Online-Inhalts maschinell generiert werden könnte. Dies markiert einen Wendepunkt, an dem wir uns nun darauf konzentrieren müssen, Maschinen zu bauen, die den medialen Lärm herausfiltern, Fakten von Fiktion unterscheiden und hervorheben, was bedeutend ist.“

Marconi ist davon überzeugt, dass Journalisten eine Rolle bei der Entwicklung neuer KI-Tools spielen sollten. Zum Beispiel, indem sie redaktionelle Algorithmen schreiben und journalistische Prinzipien auf die neue Technologie anwenden. „Die Nachrichtenindustrie muss aktiv in der AI-Revolution engagiert sein“, sagt er. „Tatsächlich haben Medienunternehmen die Chance, zu einem wichtigen Akteur in diesem Bereich zu werden – sie besitzen einige der wertvollsten Vermögenswerte für die Entwicklung von KI: Textdaten für das Training von Modellen und ethische Prinzipien für die Schaffung zuverlässiger und vertrauenswürdiger Systeme.“

Marina Adami arbeitet als digitale Journalistin am Reuters Institute. Ursprünglich aus Italien stammend, hat sie für Politico Europe in Brüssel über aktuelle Nachrichten berichtet und in London über lokale Nachrichten geschrieben.