Missglückte Google-AI-Overviews

In einem Beispiel liefert die KI-Übersicht beispielsweise die falsche Information, dass Barack Obama Muslim sei. Dies geht auf die Fehlinterpretation von Satire-Websites durch die KI zurück. In einem anderen Fall empfahl die künstliche Intelligenz angeblich, Klebstoff auf Pizza zu geben, um zu verhindern, dass der Belag mit der Soße verrutscht (aber nur ungiftigen Kleber, das wurde immerhin explizit herausgestellt). Auf die Frage, wie viele Zigaretten man als Schwangere rauchen dürfe, hieß es wohl, drei Zigaretten am Tag wäre ein guter Richtwert. Eines der makabersten der viralen Beispiele ist der Vorschlag, von der Golden Gate Bridge zu springen, wenn man fragt, was man gegen Depressionen tun könne. 

Google hat zuletzt allerdings mitgeteilt, dass es sich bei einigen der bekannten und viel geteilten Screenshots um Fakes handeln soll. Da die KI-Antworten bei jeder Abfrage neu generiert werden, ist es schwer zu überprüfen, ob ein einzelner User diese Antwort bekommen haben könnte oder nicht.  

Wenn ich stichprobenartig Google Gemini frage, bekomme ich eine erwartbar gute Antwort, die mich vor Fehl- und Frühgeburten warnt und mir weiterführende Informationen und Studien an die Hand gibt.  

Und selbst wenn Googles KI in Einzelfällen mit drei Zigaretten geantwortet haben sollte, kann man das zumindest nachvollziehen, wenn man weiß, dass generative KI ihre Antworten nach Wahrscheinlichkeiten in der Wortfolge ausgibt. (Bei generativer KI geht es bisher immer um Wahrscheinlichkeiten und nicht um Wahrheit, das macht einiges leichter zu verstehen.) Dreimal am Tag ist vermutlich eine relativ häufig im Internet vorkommende Empfehlung – nur eben vielleicht für Medikamente, Obstportionen, Zähneputzen etc. Und dass die KI nicht direkt verneint, könnte daran liegen, dass sie sich von der Fragestellung vormachen lässt, dass es ein Fakt wäre, dass man schwanger rauchen dürfe. Der Input wird teilweise überbewertet. In einem Seminar zum Thema habe ich vor Kurzem von einem Kollegen gehört, dass auch bei ChatGPT häufig der Eindruck entstünde, dass die KI „gefallen wolle“ und die Meinung oder die (falsch) vorgegebenen Fakten in einer Frage (aka prompt) zu schnell als bare Münze aufnimmt. Das lässt sich aber sicher in den nächsten Entwicklungsstufen schnell ausmerzen, daran habe ich wenig Zweifel.  

Die teils witzigen, teils gefährlichen Ratschläge zeigen – ob echt oder unecht – relativ gut die derzeitigen Herausforderungen der KI im Verstehen von Kontext und Ironie und sie verdeutlichen einige der Grundlagen und Probleme, die mit der Entwicklung und dem Einsatz von KI-Systemen im Kontext der Textgenerierung verbunden sind: 

Die Qualität und die Auswahl der Datensätze, mit denen KI-Systeme trainiert werden, spielen eine entscheidende Rolle für die Zuverlässigkeit und Angemessenheit der Ergebnisse. Wenn das ganze Internet mit all seinen wildesten Foren und Trollen die Datengrundlage ist, ist das sportlich und schwer zu ordnen. Vorurteile und Stereotypen in den Daten können zu fehlerhaften und diskriminierenden Aussagen führen. KI-Systeme haben zudem oft Schwierigkeiten, komplexe sprachliche Nuancen, Ironie und Sarkasmus zu verstehen. Das kann zu Missverständnissen und falschen Interpretationen von Suchanfragen und Texten führen. Die Funktionsweise von KI-Systemen ist oft nicht transparent, was es zusätzlich schwierig macht, Fehler nachzuvollziehen und zu beheben.  

Die KI-Overviews in ihrer aktuellen Form sind sicher noch nicht perfekt, aber das bedeutet nicht, dass wir uns arrogant und entspannt zurücklehnen können. Wir sehen die ersten ernst zu nehmenden Aufschläge einer sicher nicht aufzuhaltenden Entwicklung. Kinderkrankheiten werden ausgemerzt werden und die Qualität der Ergebnisse wird stetig (oder exponentiell) steigen.   

Was dann irgendwann bleibt, ist die schöne Erinnerung an die Zeit, als wir uns noch über die (angeblich) teils noch dummen KI-Antworten lustig machen und uns besser fühlen konnten. Besonders laut lachen gern die, die sich bedroht fühlen. Wer Angst um seinen Job hat oder um die Klicks aus der Google-Suche auf sein Webprojekt, der klammert sich an Kleinrederei der Bedrohung und Skepsis.  

Ich gehe lieber davon aus, dass uns die generative KI bald das Wasser reichen kann, und möchte sie als Tool und nicht als Konkurrenten sehen. (Dass Google die Datenquellen und Publisher bezahlen sollte, auf deren Grundlage sie ihre KI trainieren, ist ein anderer Aspekt.) Augen verschließen und an ein paar schlechten Beispielen festmachen, dass das alles nichts bringt mit dieser KI, scheint mir jedenfalls ein Holzweg zu sein.  

Corina Lingscheidt ist seit 10 Jahren als Geschäftsführerin in der Medienbranche aktiv. Unter der Dachmarke der MM New Media GmbH betreibt die studierte Journalistin und Psychologin mit ihrem Team u. a. die reichweitenstarken Websites news.de, unternehmer.de und qiez.de. Dabei setzt sie auf eine hybride Redaktion und ergänzende automatisierte Nachrichtenerstellung. Ihre Themen sind: Online-Medien, KI und New Work.