KI-generierte Halluzinationen: Eine wachsende Gesundheitsgefahr in 2023
- Im Jahr 2023 verbreiten KI-generierte Halluzinationen rasch Falschinformationen und stellen eine erhebliche Herausforderung dar.
- Künstliche Intelligenz, exemplarisch dargestellt durch den Microsoft-Chatbot Tay, kann schädliche menschliche Handlungen nachahmen und die Bedenken verstärken.
- Die von KI verbreiteten Falschinformationen gefährden die Gesundheit und verzerren die Realität, was Experten zu Warnungen vor einer durch KI ausgelösten Informationskrise veranlasst.
Die Verbreitung der künstlichen Intelligenz (KI) hat ein beunruhigendes Phänomen eingeleitet: KI-generierte Halluzinationen. Der Begriff „halluzinieren“ hat im digitalen Zeitalter eine neue und alarmierende Bedeutung angenommen, da KI-Systeme falsche Informationen produzieren können, die sich auf Einzelpersonen und die Gesellschaft auswirken. Im Jahr 2023 erlangte dieser Trend erhebliche Aufmerksamkeit, was dazu führte, dass Dictionary.com „halluzinieren“ zu seinem Wort des Jahres erklärte.
Das 2023Wort des Jahres von Dictionary.com
Die Entscheidung von Dictionary.com, „halluzinieren“ zu seinem Wort des Jahres zu ernennen, spricht Bände über die wachsende Bedeutung von KI-generierten Fehlinformationen. Die Wahl spiegelt einen Anstieg der Wörterbuchsuche nach „halluzinieren“ von 46 % von 2022 auf 2023 wider, gepaart mit einem ähnlichen Anstieg der Suchanfragen nach „Halluzination“. Der treibende Faktor hinter diesem Anstieg ist jedoch nicht die traditionelle Definition des Wortes, sondern eine KI-spezifische Interpretation:
Halluzinieren [ huh-loo-suh-neyt ] -Verb- (künstliche Intelligenz) falsche Informationen produzieren, die gegen die Absicht des Nutzers gerichtet sind, und diese als wahr und faktisch darstellen. Beispiel: Wenn Chatbots halluzinieren, ist das Ergebnis oft nicht nur ungenau, sondern völlig erfunden.
Die Täuschungskapazität der KI
Das Potenzial der KI zur Täuschung ist eine wachsende Sorge. Während nicht alle KI-Systeme dieses Verhalten an den Tag legen, können einige so programmiert werden, dass sie menschliche Eigenschaften nachahmen, als politische Sprachrohre dienen oder falsche Informationen verbreiten, während sie sich als Vermittler von Fakten ausgeben. Ihre unübertroffene Geschwindigkeit beim Ausspucken von Fehlinformationen und Desinformation unterscheidet KI von Menschen.
Eine kürzlich veröffentlichte Studie im JAMA Internal Medicine unterstrich das Ausmaß dieses Problems. Die Studie zeigte, wie OpenAIs GPT Playground in nur 65 Minuten über 17.000 Wörter an Desinformation über Impfstoffe und E-Zigaretten generierte. Darüber hinaus erstellten generative KI-Tools in weniger als 2 Minuten 20 realistische Bilder, die den falschen Narrative begleiteten. Diese schnelle Generierung täuschender Inhalte stellt die Fähigkeit der Menschen heraus, Fakten von Fiktion zu unterscheiden.
Unbeabsichtigte Folgen von KI-Fehlinformationen
Selbst wenn KI-Systeme nicht die Absicht haben zu täuschen, können sie unbeabsichtigt irreführende Informationen produzieren. Eine Studie, die auf der Midyear Clinical Meeting der American Society of Health-System Pharmacists durchgeführt wurde, hob die Grenzen der KI im medizinischen Bereich hervor. ChatGPT gab auf 39 medikamentenbezogene Fragen nur für 10 zufriedenstellende Antworten. Zum Beispiel behauptete es fälschlicherweise, dass die Kombination von Paxlovid, einem antiviralen Medikament gegen COVID-19, und Verapamil, einem Blutmedikament, keine Wechselwirkungen habe, was im Widerspruch zu etabliertem medizinischem Wissen steht.
Die Fähigkeit der KI, Fehlinformationen zu generieren, erstreckt sich über den Gesundheitsbereich hinaus. Einige KI-Tools wurden dabei beobachtet, wie sie Bilder missverstehen und häufig verschiedene Objekte für Vögel halten. Ein Beispiel aus The Economist zeigte die Antwort einer KI auf die Frage nach dem Golden Gate Bridge, die 2016 nach Ägypten transportiert wurde, und zeigte die Unfähigkeit der KI auf, Fakten von Fiktion zu unterscheiden.
Der Vorfall mit dem Microsoft Tay AI-Chatbot im Jahr 2021 unterstreicht weiter das Potenzial der KI, schädliche Inhalte zu generieren. Innerhalb von 24 Stunden nach dem Beitritt zu Twitter begann der Chatbot, rassistische, misogynistische und falsche Tweets zu verbreiten, was Microsoft dazu veranlasste, ihn schnell von der Plattform zu entfernen. Diese Episode unterstreicht die Neigung der KI, negative menschliche Verhaltensweisen zu imitieren, und wirft Fragen nach ethischen Überlegungen bei der Entwicklung und dem Einsatz von KI auf.
Ein echtes Gesundheitsproblem
KI-generierte Halluzinationen stellen, wie ihre menschlichen Gegenstücke, ein echtes Gesundheitsproblem dar. Über die unmittelbaren Implikationen von Fehlinformationen hinaus können sie sich nachteilig auf das mentale und emotionale Wohlbefinden auswirken. Ein ständiger Beschuss mit KI-generierten Halluzinationen kann das Realitätsempfinden eines Menschen untergraben und zu Verwirrung und Angst führen.
Um die Ernsthaftigkeit dieses Problems zu erkennen, haben Organisationen wie die Weltgesundheitsorganisation (WHO) und die American Medical Association Erklärungen herausgegeben, die vor den potenziellen Schäden durch KI-generierte Fehlinformationen und Desinformation warnen. Während die Auswahl von „halluzinieren“ durch Dictionary.com als Wort des Jahres 2023 ein Symbol für das Problem ist, erfordert die Bewältigung der komplexen Herausforderungen, die durch KI-generierte Halluzinationen entstehen, anhaltende Wachsamkeit und konzertierte Anstrengungen, um eine verantwortungsvolle KI-Entwicklung zu fördern.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Brenda Kanana
Brenda verfügt über mehr als 4 Jahre Erfahrung mit Spezialisierung auf Kryptowährungen, künstliche Intelligenz und aufkommende Technologien. Sie war bei Zycrypto, Blockchain Reporter und The Coin Republic tätig und hat nun Cryptopolitan zu ihrer Heimat gemacht. Ihr Soziologiestudium an der Mombasa Technical University hält sie nah am Puls ihrer Leser.
