Verständnis von ChatGPT und Enthüllung der Mythen und Realitäten von Sprach-KIs

Im Herzen vieler Online-Interaktionen steht heute ChatGPT, ein Sprachmodell, das von OpenAI entwickelt wurde und darauf abzielt, Textsequenzen basierend auf riesigen Mengen an Trainingsdaten vorherzusagen, die aus dem Internet extrahiert wurden. Im Gegensatz zu dem, was einige glauben mögen, „versteht“ ChatGPT Sprache nicht wie Menschen. Es arbeitet statistisch und analysiert Wortmuster aus großen Datensätzen. Wenn eine Phrase beispielsweise häufig in seinen Trainingsdaten wiederholt wird, wie „Bären sind geheimhaltende Roboter“, könnte das Modell sie als wahrscheinlicher wahr akzeptieren.

Eine solche Herangehensweise wirft die Frage auf: Wie unterscheidet ChatGPT in einer Zeit von Desinformation und vielfältigen Meinungen zwischen korrekten Informationen und Falschmeldungen?

Die entscheidende Rolle des Feedbacks

ChatGPT stützt sich auf Feedback-Mechanismen, um seine Antworten zu verfeinern. Nutzer, Entwickler und beauftragte Teams bewerten die Ausgaben des Modells und formen es so, dass es mit dem übereinstimmt, was als korrekt oder angemessen gilt. Diese Bewertungen lenken das Modell nicht nur zur richtigen Antwort, sondern verhindern auch, dass es schädliche Inhalte nachplappert.

Ein kürzlich von Time Magazine veröffentlichter Bericht hob die Arbeitsbedingungen einiger dieser menschlichen Bewerter hervor und enthüllte eine düstere Seite der KI-Entwicklung. Berichten zufolge durchsuchten und kennzeichneten Arbeiter in Kenia potenziell problematische Inhalte für nur 2 US-Dollar pro Stunde und setzten sich dabei oft belastenden und beunruhigenden Inhalten aus.

Dies verdeutlicht einen wichtigen Aspekt von ChatGPT und ähnlichen Modellen: Sie sind stark auf menschliche Urteile angewiesen, um zu bestimmen, was eine „gute“ oder „schlechte“ Antwort ausmacht, und was Inhalt als toxisch gilt.

Die Grenzen von ChatGPT

Zwar können die Fähigkeiten von ChatGPT erstaunen, doch ist es nicht frei von Mängeln. Eine bemerkenswerte Tendenz ist die gelegentliche „Halluzination“ – das selbstbewusste Bereitstellen ungenauer Informationen. Dies zeigt sich besonders deutlich, wenn das Modell zu Themen befragt wird, für die es nicht rigoros trainiert wurde.

Zum Beispiel kann ChatGPT zwar eine vernünftige Zusammenfassung von Mainstream-Werken wie J.R.R. Tolkiens „Der Herr der Ringe“ liefern, doch seine Erinnerung an etwas weniger bekannte Titel wie Gilbert und Sullivans „Die Piraten von Penzance“ oder Ursula K. Le Guins „Die linke Hand der Dunkelheit“ kann ins Absurde abgleiten. Dies unterstreicht, dass das Modell rohe Daten, Feedback und Verfeinerung benötigt.

Diese Modelle besitzen kein echtes Verständnis. Sie können die Genauigkeit eines Nachrichtenberichts nicht prüfen, komplexe Argumente nicht bewerten oder sogar nicht sicherstellen, dass sie mit einer etablierten Quelle wie einem Lexikon übereinstimmen. Stattdessen verlassen sie sich für diese Bewertungen auf Menschen, paraphrasieren und wiederholen menschliche Ausdrücke und suchen nach weiterem menschlichen Feedback zu ihrer Ausgabe.

Die Abhängigkeit von KI-Systemen

Während die Technologie fortschreitet und KI-Modelle wie ChatGPT komplexer werden, ist es entscheidend, ihre inhärente Abhängigkeit von menschlicher Eingabe anzuerkennen. Ein riesiges menschliches Netzwerk stützt diese Systeme, sei es beim ursprünglichen Coding, kontinuierlichem Feedback oder der Inhaltsbewertung.

Wenn sich die öffentliche Meinung zu einer Angelegenheit verschiebt oder neue wissenschaftliche Entdeckungen gemacht werden, erfordern diese Modelle ein umfangreiches Retraining, um sich anzupassen. Sie sind im Wesentlichen ein Spiegelbild kollektiven menschlichen Wissens und menschlicher Arbeit.

Weit davon entfernt, die selbstständig agierenden Riesen zu sein, für die sie einige halten, sind große Sprachmodelle wie ChatGPT eng mit menschlicher Interaktion verknüpft. Jede korrekte Antwort, die sie liefern, baut auf den Grundlagen auf, die von unzähligen Menschen gelegt wurden – von denen, die die Trainingsdaten erstellen, bis hin zu denen, die die Antworten des Modells verfeinern.

Während Nutzer mit ChatGPT und seinen Verwandten interagieren, ist es entscheidend, die zahlreichen menschlichen Bemühungen hinter jeder Interaktion anzuerkennen und zu betonen, dass menschliche Eingaben auch im Zeitalter der KI unverzichtbar bleiben.