Nutzer haben Schwierigkeiten, KI auf sozialen Plattformen zu erkennen, zeigt Studie
- KI-Bots zeigten eine hohe Wirksamkeit beim Nachahmen menschlicher Gespräche und verwischten die Grenzen in sozialen Medien.
- Trotz des Bewusstseins konnten 58 % der Studienteilnehmer KI-Bots im politischen Diskurs nicht korrekt identifizieren.
- Verschiedene KI-Modelle zeigten ähnliche Leistungen, was darauf hindeutet, dass selbst weniger fortgeschrittene KIs menschliche Nutzer überzeugend simulieren können.
Ein Forschungsprojekt im Bereich der Social-Media-Ermittlungen wurde vom Team der University of Notre Dame durchgeführt, das herausfand, dass die allgemeine Öffentlichkeit große Schwierigkeiten hat, zwischen Mensch und künstlicher Intelligenz während politischer Diskussionen auf verschiedenen Online-Plattformen zu unterscheiden.
Die Forschung, unterteilt in drei Runden mit einer maßgeschneiderten Mastodon-Plattform als Lieferplattform, zeigt, dass Teilnehmer in 58 % der Fälle KI-Bots für Menschen halten.
KI-Bots verwischen menschliche Grenzen in der politischen Diskurs, Studie
Das Untersuchungsteam unter der Leitung von Dr. Paul Brenner vom Research Computation Center der University of Notre Dame setzte KI-Bots ein, die auf generativen Netzwerken basieren, darunter GPT4, Llama-2-Chat und Claude 2.
Diese Generation von Chatbots wurde mit unterschiedlichen Persönlichkeiten entworfen, um als politische Akteure im Bereich der Weltangelegenheiten eingesetzt zu werden und nehmen häufiger menschliche Züge an und sind in verschiedene politische Diskussionen involviert.
Die Schönheit daran war die Tatsache, dass jeder Bot einen Charakter hatte (Entstehung einer Persönlichkeit mit detailliertem Profil), der angewiesen wurde, eine Beziehung zwischen persönlichen Erfahrungen und den breiteren Weltgeschehnissen herzustellen.
Für die Datenmanipulation, obwohl das Panel verstand, dass es mit Menschen und Bots interagierte, konnte etwa die Hälfte dieser Stichprobe selbst den Unterschied zwischen künstlicher Intelligenz und echten Menschen nicht erkennen.
Diese Beweise zeigen, dass AIbots Menschen in Bezug auf ihre Gesprächsmuster sehr genau imitieren können, wodurch sich ihre Chancen erhöhen, zur Verbreitung von Desinformation eingesetzt zu werden.
Die Rolle der KI bei der Desinformation
Herr Paul Brenner hob Probleme wie die Einführung dieser KI-Bots und deren mögliche Kaskadeneffekte hervor, eine Gelegenheit für KI-gestützte Bots, die öffentliche Meinung zu beeinflussen und möglicherweise Desinformation zu verbreiten.
Er erklärte, dass KI in Simulationen so effektiv ist, dass jeder Mensch im Internet leicht darüber getäuscht werden kann, die ursprüngliche Quelle der Information zu sein.
Ein weiterer wichtiger Aspekt, der in dieser Studie hervorgehoben wurde, war die Bewertung verschiedener KI-Modelle im Prozess, wobei gezeigt wurde, dass die Genauigkeitsraten zwischen den verschiedenen LLMs nur geringfügig variierten. Hier verstehen wir, dass diese Tatsache zeigt, dass sogar weniger ausgefeilte Modelle in der Lage sein könnten, in sozialen Medien Interaktionsszenarien überzeugend genug zu sein, um menschenähnliche Gespräche zu erstellen.
Daher hob Brenner unter anderem in erster Linie seinen Standpunkt zu einem multidimensionalen Ansatz zur Verhinderung der Verbreitung falscher Informationen mit Hilfe von KI hervor.
Diese Initiativen wie Aufklärungskampagnen, gesetzgeberische Maßnahmen und strengere Validierung sozialer Medien-Konten werden alle dazu beitragen, dieses Problem vollständig zu lösen. Darüber hinaus werden die Dimensionen der psychischen Gesundheit jugendlicher KI-Einflüsse berücksichtigt und Strategien zur Negierung dieser Auswirkungen entwickelt.
Dieses Forschungsprojekt betont das Ungleichgewicht von KI vs. Online-Informationen-Integrität in den sozialen Netzwerken, das die Entwicklung integrierter Strategien zur Bewältigung der Situation erfordert.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf Basis der auf dieser Seite bereitgestellten Informationen getätigt werden. Wir empfehlen dringend eine unabhängige Recherche und/oder Beratung durch einen qualifizierten Fachmann, bevor Sie eine Investitionsentscheidung treffen.
John Palmer
John Murangiri kam mit Kenntnissen in Marktanalyse zu Cryptopolitan. John (auch bekannt als JP) hat an der Universität Nairobi einen Bachelorabschluss in Massenkommunikation und Medienstudien erworben. Er hat zuvor Crypto-Markt-Einblicke für InsideBitcoins.com und Metacoingraph beigesteuert.
