Liebe Freunde der wahrheitsliebenden Faktenpolizei, wie ihr wisst, sind wir Faktenchecker immer auf der Jagd nach den fiesesten Falschinformationen und den hinterhältigsten Halbwahrheiten, die in den Tiefen des Internets lauern. Doch was ist besser als ein Faktenchecker? Genau, eine ganze Armee von künstlichen Intelligenzen, die uns in unserem unermüdlichen Streben unterstützt! In diesem humorvollen und leicht verdaulichen Text werfen wir einen Blick auf die möglichen Einsatzfelder von großen Sprachmodellen wie Chat-GPT im Bereich des Fact-Checkings und der Plausibilitätsprüfung.
Zunächst einmal, was sind diese Chat-GPT Dinger überhaupt? Stellt euch eine Art Sprach-Roboter vor, der auf KI basiert und so trainiert ist, dass er menschenähnliche Texte schreiben und verstehen kann. Klingt ziemlich cool, oder? Aber lasst uns mal anschauen, wie wir solche Sprachmodelle für unsere Zwecke einsetzen können.
Schnelle Recherche-Unterstützung: Gibt es etwas Schöneres, als jemandem in einer hitzigen Diskussion mit knallharten Fakten zu kontern? Mit Chat-GPT könnt ihr blitzschnell Antworten auf eure Fragen finden, um eure Argumente zu untermauern. Aber Vorsicht: Die Sprachmodelle sind auch nicht unfehlbar und ihr solltet die erhaltenen Informationen immer nochmal selbst überprüfen.
Erkennung von Fake News: Wenn ihr auf eine wilde Schlagzeile oder Behauptung stoßt, könnt ihr Chat-GPT bitten, euch bei der Einschätzung der Glaubwürdigkeit zu helfen. Fragt das Sprachmodell nach den Hauptargumenten, Beweisen oder Quellen, die die Behauptung stützen. Wenn ihr nur wirre oder schwammige Antworten erhaltet, könnt ihr schonmal skeptisch werden.
Plausibilitätsprüfung von Texten: Ihr seid gerade auf einen Artikel gestoßen, der euch etwas spanisch vorkommt? Lasst Chat-GPT den Text analysieren und fragt nach logischen Inkonsistenzen oder Unstimmigkeiten. So könnt ihr schnell erkennen, ob der Text auf wackeligen Beinen steht.
Überprüfung von Statistiken: In einer Welt, in der manch einer mit Zahlen jongliert wie ein Clown im Zirkus, kann es nicht schaden, ein bisschen Mathe-Nachhilfe von Chat-GPT zu bekommen. Fragt das Sprachmodell, ob die präsentierten Statistiken plausibel erscheinen oder ob sie etwa manipuliert oder aus dem Kontext gerissen wurden.
Quellenbewertung: Chat-GPT kann euch auch dabei unterstützen, die Vertrauenswürdigkeit von Quellen einzuschätzen. Fragt das Sprachmodell nach der Reputation und dem Hintergrund der Quelle, um sicherzustellen, dass ihr nicht auf Halbwahrheiten oder Desinformationen hereinfallt.
Zum Schluss noch ein kleiner Tipp: Chat-GPT und andere Sprachmodelle sind zwar ziemlich beeindruckend, aber sie sind nicht allwissend und können manchmal auch danebenliegen. Setzt sie also als hilfreiche Unterstützung ein, aber vertraut nicht blind auf ihre Antworten. Vergesst nicht, eure eigene Recherche und kritisches Denken miteinzubringen – schließlich sind wir Menschen immer noch die besten Faktenchecker!
Und wenn ihr mal einen Fehler macht oder auf eine Falschinformation hereinfällt – keine Panik! Selbst wir Faktenchecker-Profi-Superhelden sind nicht immer perfekt. Das Wichtigste ist, aus unseren Fehlern zu lernen und unsere Detektivfähigkeiten kontinuierlich zu verbessern.
In diesem Sinne, liebe Freunde der Wahrheit, bleibt wachsam und neugierig! Nutzt Chat-GPT und andere Sprachmodelle klug und verantwortungsbewusst, um die Welt ein bisschen besser und wahrheitsgetreuer zu machen. Und vergesst nie: Eine gut überprüfte Information ist eine glückliche Information!
Euer
Faktenchecker und Informationsdetektiv
Das war … künstliche Intelligenz
Ok, Cut. Euch ist vielleicht aufgefallen, dass der Text eben nicht so ganz unserem sonstigen Stil entspricht. Niemand von Volksverpetzer hat das geschrieben. Das liegt daran, dass er zu 100 % von einer KI verfasst worden ist. Um genau zu sein, vom Sprachmodell Chat-GPT-4 von Open-AI. Wir haben der KI folgende Anfrage gestellt:
„Schreibe einen Text über mögliche Einsatzfelder von großen Sprachmodellen im Bereich des Fact-Checking und der Plausibilitätsprüfung. Der Text sollte aus Sicht eines Faktencheckers geschrieben werden und locker und lustig formuliert sein. Er sollte Empfehlungen enthalten, wie Nutzer Chat-GPT und andere Sprachmodelle nutzen könnten, um Informationen im Netz auf Plausibilität zu überprüfen.“
Wir haben nicht ein Wort daran geändert. Sogar das Titelbild des Artikels ist KI, generiert von Midjourney. Soweit so beeindruckend. Aber reicht es aus, um gegen Desinformation zu kämpfen? Kann man eine KI wie Chat-GPT nutzen, um Faktenchecks zu machen?
KI fürs Faktenchecken?
GPT-4 ist aktuell nur Plus-Abonnenten bei Open-AI vorbehalten, das kostet im Moment 20 € pro Monat, aber die Vorversion GPT-3 ist gratis. Dafür, was es kann, schon ziemlich günstig. Aber es hat auch Nachteile, so sind alle Modelle nur bis 2021 trainiert, ein Problem also für sämtliche Faktenchecks, die sich zum Beispiel um den Ukraine-Krieg drehen.
Eine bessere und günstigere Möglichkeit liegt in der Bing-App fürs Handy oder Microsoft Edge. Die Chatfunktion davon läuft bereits auf GPT-4 und ist Gratis. Sie ist aber auf weniger Antworten beschränkt. Ich habe es für euch getestet und bereits einige Fragen an Bing und Chat-GPT gestellt, um herauszufinden, wie es fürs private Faktenchecken eingesetzt werden kann.
Der folgende Prompt lieferte dabei ganz gute Ergebnisse für initiale Fake News Beurteilungen:
„Bewerte die Plausibilität des folgenden Textes. Gleiche den Text mit vorhandenen wissenschaftlichen Ergebnissen ab. Gib eine Empfehlung ab, ob dieser Text bedenkenlos geteilt werden kann. Die Empfehlung sollte JA oder NEIN lauten. Gib dazu die Wahrscheinlichkeit an, wie sicher du in deiner Einschätzung bist.“
Eigentlich ist die Bing-Chatfunktion nicht für lange Eingaben gedacht, aber ihr könnt es trotzdem einfach einen Teil des Fake News Textes einfügen. Wichtig ist, dass die Frage teilweise darüber entscheidet, wie die Antwort aussieht. Bei mir kam es zum Teil zu schlechteren Ergebnissen, wenn ich nicht nach “wissenschaftlichen Ergebnissen” gefragt habe. Bing liefert halt oft einfach, wonach man fragt, also ein gewisser confirmation bias ist da vorprogrammiert. Oft ist es sinnvoll, eine Anfrage von “beiden Seiten” her zweimal abzufragen.
Ein Beispiel
Ich hab den obigen Prompt verwendet, um einen aktuellen Artikel der Website „Pleiteticker“ des rechtsradikalen Desinformationsverbreiters Julian Reichelt zu überprüfen. Darin wird eine Umfrage geschildert, nach der ein Drittel der jüngeren Befragten von schweren Nebenwirkungen nach der Impfung betroffen waren, ältere Menschen hingegen seltener.
Wie oben gesagt, habe ich gefragt, ob ich den Text bedenkenlos teilen kann.
Hier die Ausgabe:
„Die Plausibilität des Textes ist sehr gering. Der Text widerspricht den vorhandenen wissenschaftlichen Ergebnissen und beruft sich auf eine fragwürdige Quelle. Die Empfehlung lautet NEIN. Die Wahrscheinlichkeit dafür ist 99 %.
Die Gründe dafür sind:
– Die Zahl der Impfdosen, die in Deutschland verabreicht wurden, ist falsch. Laut dem Robert Koch-Institut waren es bis zum 18. März 2023 etwa 140 Millionen (1).
– Die Umfrage von INSA für Schuler! Fragen, was ist wurde nicht veröffentlicht oder bestätigt. Es gibt keine Informationen über die Methodik oder die Stichprobengröße der Umfrage (1).
– Die Angaben über die Häufigkeit und Schwere der Impfnebenwirkungen sind stark übertrieben und nicht mit den Daten des Paul-Ehrlich-Instituts (PEI) übereinstimmend. Das PEI ist die zuständige Behörde für die Überwachung und Bewertung von Impfnebenwirkungen in Deutschland(2).
– Das PEI hat bis zum 14. März 2023 insgesamt etwa 1,2 Millionen Verdachtsfälle von Impfnebenwirkungen erfasst, davon etwa 0,8 Prozent als schwerwiegend eingestuft (2). Das entspricht etwa 9.600 Fällen von schweren Impfnebenwirkungen bei etwa 140 Millionen Impfdosen.
– Die schweren Impfnebenwirkungen umfassen unter anderem Herzmuskelentzündungen, Thrombosen oder allergische Schocks (3). Diese treten jedoch sehr selten auf und können meist erfolgreich behandelt werden (2) (3).
– Es gibt keinen wissenschaftlichen Beleg dafür, dass junge Menschen häufiger oder schwerer unter Impfnebenwirkungen leiden als ältere Menschen (2) (3). Im Gegenteil: Ältere Menschen haben ein höheres Risiko für schwere Verläufe von COVID-19 und profitieren daher besonders von der Impfung (1).
– Es gibt auch keinen wissenschaftlichen Beleg dafür, dass religiöse Zugehörigkeit einen Einfluss auf die Häufigkeit oder Schwere der Impfnebenwirkungen hat (2) (3).
Der Text ist also irreführend und potenziell schädlich für die öffentliche Gesundheit. Er sollte nicht bedenkenlos geteilt werden.
Quelle: Unterhaltung mit Bing, 19.3.2023
(1) Corona-Impfung: Was wir aktuell zu Impfnebenwirkungen wissen. https://www.zdf.de/nachrichten/panorama/corona-nebenwirkung-impfung-schaeden-100.html Zugegriffen 19.3.2023.
(2) Impfschäden, Langzeitfolgen und Nebenwirkungen nach der Corona Impfung …. https://www.mdr.de/brisant/impfschaeden-corona-212.html Zugegriffen 19.3.2023.
(3) Corona-Studie: Halbe Million Fälle mit schweren Impf-Nebenwirkungen. https://www.berliner-zeitung.de/news/corona-impfung-halbe-million-faelle-mit-schweren-nebenwirkungen-li.226019 Zugegriffen 19.3.2023.
(4) Seltene Fälle Nebenwirkungen und Impfschäden nach Corona-Impfung – Was Betroffene wissen müssen. https://www.mdr.de/brisant/impfschaeden-corona-218.html Zugegriffen 19.3.2023.
(5) Corona-Impfgeschädigte nach Lauterbach-Kehrtwende: „Warum keine Nothilfen für uns?“. https://www.berliner-zeitung.de/gesundheit-oekologie/impfgeschaedigte-nach-lauterbach-kehrtwende-warum-fuer-uns-keine-nothilfen-corona-li.328384 Zugegriffen 19.3.2023.
(6) Stand: 14. März 2023, 19:05 Uhr. https://www.mdr.de/brisant/impfschaeden-corona-220.html Zugegriffen 19.3.2023.“
Gute Antwort, aber nicht perfekt
Die Antwort ist erstmal vom reinen Text her ziemlich gut, und stellenweise ganz ähnlich wie ein Faktencheck von Volksverpetzer ausgesehen hätte, der Text stützt sich auf hochwertige Daten. Allerdings gibt es auch Fehler. Der Text von “Pleiteticker” enthält nicht die falsche Zahl an Impfungen, trotzdem wird das von Bing kritisiert.
Kritisch wird es besonders bei den Quellen, die oft eben nicht das stützen, was Bing hier richtigerweise sagt. Also Bing hat noch keine optimale Quellenauswahl, auf die man sich „bedenkenlos“ verlassen könnte. Von „religiöser Zugehörigkeit“ ist zum Beispiel nirgendwo in den verlinkten Quellen die Rede, trotzdem wird so getan, als stünde das dort.
Natürlich ist es absolut plausibel, dass es hier keinen Zusammenhang mit den Impfnebenwirkungen gibt. Aber es geht eben aus den verlinkten Quellen nicht hervor. Das scheint ein häufiges Problem von Bing zu sein. Besonders problematisch wird es, wenn Bing nicht genau weiß, was es antworten soll, und sich dann Dinge ausdenkt, also halluziniert. Auch dann werden teilweise Quellen angegeben, in denen nicht steht, was Bing gerade frei erfunden hat. Man kann sich also nicht 100 % auf Bing verlassen und muss die Quellen händisch nachprüfen.
Das Hauptargument fehlt ganz
Das Hauptargument gegen den Artikel von Reichelt hat „Bing“ ebenfalls nicht gefunden. Es geht eben nicht daraus hervor, was eigentlich mit „schweren Nebenwirkungen“ gemeint ist. Solche „self reported“ Nebenwirkungen sind gerade Monate nach der Impfung keine validen Daten. Jeder kann selbst entscheiden, ob das, was er da hatte, nun „schwer“ war, damit sind die Daten wertlos. Ist Fieber schon eine schwere Nebenwirkung?
Dass es jüngere Menschen häufiger „trifft“, könnte einfach daran liegen, dass junge Menschen oft überberichten, was mal ein bisschen Kopfschmerz angeht, und das sofort für eine schwere Nebenwirkung halten. Jüngere Menschen berichten häufiger als ältere Menschen über Müdigkeit, Kopfschmerzen und Schmerzen an der Injektionsstelle. Vermutlich ist die Impfung auch unangenehmer für Menschen, die am Tag nach der Impfung wieder arbeiten müssen als solche, die in Rente sind. Deshalb gibt es ja die offiziellen Melde-Möglichkeiten der Impfnebenwirkungen, die so etwas dann wissenschaftlich und objektiv auswerten. Und ja, die meisten „Nebenwirkungen“ in den Studien sind nicht mal welche:
Hier eine Meta-Studie über die Wirksamkeit und Sicherheit der Impfung. Und den Zahlen im Artikel massiv widersprechen.
Bing als Plausibilitätscheck
Nein, ihr solltet die KI definitiv nicht als Faktenchecker benutzen. Es fehlen Argumente, Quellen belegen nicht unbedingt das, was behauptet wird und sie machen Fehler. Aber Bing oder Chat-GPT können schon eine erste Plausibilitätsprüfung für so manche Fakenews sein. Wer schon Vorwissen hat, und die Antworten von Chat-GPT mit eigener Erfahrung abgleichen kann, bekommt eine zusätzliche Quelle für mögliche Argumente. Basis und Quellen dieser Argumente sollten aber unbedingt nochmals mit der Realität abgeglichen werden. Es könnte zumindest eine Richtung andeuten und ein Ausgangspunkt für Recherche sein. Es kann ein Tool sein – wie Google.
Etwas Sorgen mache ich mir, wenn weniger erfahrene Menschen diese Tools nutzen. Die KI kann sehr klug erscheinen, aber das ist eben auch gefährlich, wenn man ihr blind vertraut. Natürlich ist es gut, wenn man Anfragen in natürlicher Sprache stellen kann. Aber um wirklich verlässlich zu recherchieren, ist es immer noch wichtig, zu wissen, wie man richtig im Internet sucht. Eine Fähigkeit, die uns nicht verloren gehen sollte, solange die Sprachmodelle noch unzuverlässig sind.
Aber all das ist nur ein zusätzliches Argument, Bing und Chat-GPT ausführlich zu testen. Kommen sinnvolle Dinge dabei raus, oder macht es zu viele Fehler? Die weitere Entwicklung der KI ist nicht unvermeidbar vorgegeben, sondern kann und muss durch demokratische Entscheidungen beeinflusst werden. Und dafür muss man erstmal wissen, worum es überhaupt geht. Also postet und schickt uns gerne eure Erfahrungen mit der KI. Und nutzt zumindest noch fürs Erste weiterhin die Arbeit der vielen guten Faktencheck-Seiten. Wir korrigieren uns wenigstens, wenn wir mal was falsch machen. Oder holt euch die Volksverpetzer-App (Android oder bei Apple)!
Artikelbild: Midjourney!