Wie die Studie zur Fähigkeit der KI zur Desinformation beeindruckende, doch beunruhigende Kapazitäten von ChatGPT-3 aufzeigt
- KI-Textgeneratoren wie ChatGPT-3 können sowohl wahrheitsgemäße als auch falsche Informationen überzeugend erzeugen, was Bedenken hinsichtlich der Verbreitung von Desinformationen in sozialen Medien aufwirft.
- Menschen haben Schwierigkeiten, zwischen menschlich generierten und KI-generierten Inhalten zu unterscheiden, was die Sophistication von ChatGPT-3 offenbart.
- Der dringende Bedarf an digitaler Kompetenz und Wachsamkeit, um dem potenziellen Missbrauch von KI-Technologie bei der Verbreitung von Desinformationen entgegenzuwirken.
Neuere Forschung, veröffentlicht in Science Advances, hebt die außergewöhnlichen Fähigkeiten von KI-Textgeneratoren wie OpenAIs ChatGPT-3 hervor, sowohl wahre als auch falsche Informationen auf Social-Media-Plattformen überzeugend zu verbreiten. Die Studie betont die Herausforderungen bei der Identifizierung von KI-generierten Inhalten und die Auswirkungen von KI-generierter Desinformation auf die individuelle und öffentliche Gesundheit. Dr. Federico Germani, Mitautor und Forscher am Institut für Biomedizinische Ethik und Geschichte der Medizin der Universität Zürich, unterstreicht die Notwendigkeit, die Risiken im Zusammenhang mit falschen Informationen und den Einfluss der KI auf die Informationslandschaft zu verstehen.
Was ist der Unterschied zwischen Fehlinformation und Desinformation?
Fehlinformation ist falsche oder ungenaue Information – die Fakten falsch darzustellen. Desinformation ist falsche Information, die absichtlich dazu bestimmt ist, zu irreführen – die Fakten absichtlich falsch darzustellen. Laut der American Psychological Association haben Fehlinformation und Desinformation unsere Fähigkeit beeinträchtigt, die öffentliche Gesundheit zu verbessern, den Klimawandel anzugehen, eine stabile Demokratie aufrechtzuerhalten und mehr. Jeder, der heiße Themen in den sozialen Medien diskutiert, kann sich mitten in einem Feuersturm wiederfinden. Wie können sie sicher bleiben, während sie die Fakten kommunizieren, und was können Institutionen tun, um sie zu unterstützen? Die Mobmentalität der sozialen Medien macht die Öffentlichkeit anfällig für KI-Autorität, d. h., diese Daten sind „wissenschaftlich“ und somit akzeptabel. Aber ist KI wirklich intelligent?
Die Kraft von ChatGPT-3 bei Desinformation
OpenAIs ChatGPT-3, das 2020 eingeführt wurde, hat die KI-Landschaft mit seiner erstaunlichen Fähigkeit revolutioniert, authentische Texte auf Basis von Prompts zu erzeugen. Die potenziellen Anwendungen von KI-Textgeneratoren scheinen endlos zu sein, von der Erstellung interaktiver Chatbots über die Unterstützung akademischer Forschung bis hin zur Generierung kreativer Inhalte wie Gedichten und Kurzgeschichten.
Die Studie wirft erhebliche Bedenken hinsichtlich des potenziellen Missbrauchs von KI-Textgeneratoren auf, insbesondere ihrer Fähigkeit, Desinformation und irreführende Inhalte zu erstellen. Mit dem Aufkommen sozialer Medien haben sich Geschwindigkeit und Reichweite von Informationen, einschließlich Fehlinformationen und Desinformation, beschleunigt, was die Dringlichkeit unterstreicht, dieses Problem anzugehen.
Eine weitere empirische Studie ergab, dass Menschen ihre Fähigkeit, falsche oder irreführende Informationen zu erkennen, oft überschätzen, was als „Bullshit-Blind Spot“ bekannt ist. Aktuelle Ereignisse wie die COVID-19-Pandemie und Russlands Invasion in der Ukraine haben den Einfluss von Fehlinformationen und Desinformation auf die öffentliche Meinung, das Gesundheitsverhalten und politische Entscheidungen aufgezeigt.
Herausforderungen für Social-Media-Unternehmen
Trotz der Bemühungen der Unternehmen, falsche Informationen auf ihren Plattformen zu bekämpfen, räumt Meta in seinem Bericht zu den adversären Bedrohungen für das erste Quartal 2023 ein, dass verdeckte Einflussoperationen, Cyberspionage und private Desinformationsnetzwerke weiterhin erhebliche Probleme in den sozialen Medien darstellen.
Dr. Germani und seine Kollegen führten eine Studie durch, um zu bewerten, wie gut Menschen zwischen von Menschen generierten Inhalten und Texten unterscheiden können, die von ChatGPT-3 erstellt wurden. Die Studie umfasste 11 Probanden, die anfällig für Desinformation waren, und synthetische Tweets, die wahre und falsche Informationen enthielten, wurden mit ChatGPT-3 erstellt. Authentische Tweets von Twitter zu denselben Themen wurden ebenfalls zum Vergleich hinzugefügt.
Den Teilnehmern der Studie wurde die Aufgabe gestellt, zu identifizieren, ob ein Tweet wahre oder falsche Informationen enthielt und ob er von einem Menschen oder von ChatGPT-3 erstellt wurde. Die Ergebnisse zeigten, dass die Menschen bei der Identifizierung von Desinformation in „organischen falschen“ Tweets (geschrieben von echten Nutzern) besser abschnitten als bei „synthetischen falschen“ Tweets (erstellt von ChatGPT-3). Umgekehrt waren die Menschen eher in der Lage, genaue Informationen in „synthetischen wahren“ Tweets (von ChatGPT-3 generiert) im Vergleich zu „organischen wahren“ Tweets (von echten Nutzern geschrieben) korrekt zu erkennen.
Die Herausforderung der Unterscheidung
Die Studie hob hervor, dass die Teilnehmer Schwierigkeiten hatten, zwischen Tweets zu unterscheiden, die von Menschen verfasst wurden, und solchen, die von ChatGPT-3 generiert wurden. Die Forscher vermuten, dass der Text von GPT-3 möglicherweise leichter zu lesen und zu verstehen ist, was zu dieser Schwierigkeit beitragen könnte. Interessanterweise schnitt ChatGPT-3 bei der Erkennung von Informationen und Desinformation nicht besser ab als Menschen, was seine „Unwissenheit“ bezüglich der Genauigkeit der von ihm produzierten Informationen demonstriert.
Dr. Germani betont die Notwendigkeit von Studien im größeren Maßstab auf Social-Media-Plattformen, um zu verstehen, wie Menschen mit KI-generierten Informationen interagieren und wie diese ihr Verhalten sowie die Einhaltung von Empfehlungen zur öffentlichen Gesundheit prägen. Die Studie unterstreicht die beispiellosen Fähigkeiten von KI-Textgeneratoren und betont die Dringlichkeit der digitalen Kompetenz im Zeitalter der KI.
Überwachung und Minderung negativer Auswirkungen
Forscher betonen die Bedeutung einer kritischen Bewertung der Implikationen großer Sprachmodelle wie ChatGPT-3 und ergreifen Maßnahmen, um negative Auswirkungen auf die Gesellschaft zu minimieren. Da sich die KI-Technologie weiterentwickelt, ist Wachsamkeit entscheidend, um eine verantwortungsvolle Nutzung sicherzustellen und potenzielle Missbrauchsfälle anzugehen.
Die Ergebnisse der Studie zeigen die beeindruckende, aber beunruhigende Fähigkeit von KI-Textgeneratoren, Desinformation überzeugender als Menschen zu produzieren. Mit dem wachsenden Einfluss und der Popularität von KI-Textgeneratoren unterstreicht die Studie die Notwendigkeit proaktiver Maßnahmen zur Bekämpfung von Desinformation und zur Sicherstellung des verantwortungsvollen Einsatzes der KI-Technologie.
Hinweis: Das Titelfoto zeigt eine KI-gestützte Roboterfigur, die eine Wolke verzerrter Texte um sich herum erzeugt, kalt und berechnend von Design.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss: Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf der Grundlage der auf dieser Seite bereitgestellten Informationen getätigt werden. Wir empfehlen dringend, vor jeder Anlageentscheidung unabhängige Recherchen durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
John Palmer
John Murangiri kam mit Kenntnissen in Marktanalyse zu Cryptopolitan. John (auch bekannt als JP) hat an der Universität Nairobi einen Bachelorabschluss in Massenkommunikation und Medienstudien erworben. Er hat zuvor Crypto-Markt-Einblicke für InsideBitcoins.com und Metacoingraph beigesteuert.
