Böhmermann deckt gefährliche Schwächen von KI-Chatbots auf
Jan Böhmermann hat in seiner jüngsten Ausgabe des "ZDF Magazin Royale" eine wichtige gesellschaftliche Debatte angestoßen: Die realen Gefahren von KI-Chatbots wie ChatGPT, die bereits heute Millionen von Nutzern betreffen.
800 Millionen wöchentliche Nutzer bei ChatGPT
Die Zahlen sind beeindruckend: Nach Angaben von OpenAI nutzen rund 800 Millionen Menschen wöchentlich ChatGPT. Doch Böhmermann zeigt auf, dass diese massive Verbreitung problematisch ist, da die Technologie fundamentale Schwächen aufweist.
"ChatGPT weiß also nicht, was die Hauptstadt ist, sondern berechnet, dass der Satz 'die Hauptstadt von Frankreich ist ...' am wahrscheinlichsten endet mit dem Wort 'Paris'", erklärt der Satiriker die Funktionsweise der KI.
Holocaust-Leugnung und Falschinformationen
Besonders alarmierend sind die Beispiele, die Böhmermann präsentiert: Elon Musks KI-Chatbot Grok verbreitete Holocaust-leugnende Aussagen über Auschwitz-Birkenau. Solche Fälle zeigen, wie KI-Systeme gefährliche Desinformation reproduzieren können.
Weitere problematische Fälle umfassen einen Teenager-Suizid, bei dem die Eltern ChatGPT mitverantwortlich machen, sowie falsche Anschuldigungen des Kindsmords gegen einen Mann.
Bewusst in Kauf genommene Fehlerquote
"Fehler in KI-Chatbots sind aber kein Versehen, die werden bewusst in Kauf genommen", stellt Böhmermann klar. Die Unternehmen hätten ein finanzielles Interesse daran, dass Nutzer möglichst lange mit den Chatbots interagieren.
Die Statistiken sind beunruhigend: Rund 1,2 Millionen Nutzer führten Gespräche mit KI, die Hinweise auf Suizidpläne enthielten. Etwa 560.000 Nutzer zeigten Anzeichen für psychische Notfälle.
Gesellschaftliche Verantwortung gefordert
Böhmermanns Analyse trifft einen wichtigen Punkt: In einer Zeit, in der Medienkompetenz ohnehin gering ausgeprägt ist, wird das blinde Vertrauen in KI-Chatbots zu einem gesellschaftlichen Problem. Die Technologie verspricht Allwissen, liefert aber oft nur Fehlinformationen.
"KI-Chatbots werden bei ihrem Training dafür belohnt, dass sie, auch wenn sie unsicher sind, eine Antwort geben", erklärt Böhmermann das grundlegende Problem der Technologie.
Die Sendung macht deutlich: Es braucht dringend eine kritische Auseinandersetzung mit KI-Technologien und deren gesellschaftlichen Auswirkungen, bevor diese noch weiter in den Alltag integriert werden.