Hier ist, warum LLMs ein großes Risiko für die Wissenschaft darstellen können
Hier ist, warum LLMs ein großes Risiko für die Wissenschaft darstellen können
- LLMs können manchmal falsche Informationen als korrekt darstellen, was Risiken für Bereiche wie die Wissenschaft birgt, in denen Fakten von Bedeutung sind.
- Der Fehler resultiert meist aus den gescrapten Daten, auf denen die Modelle trainiert werden.
- Forscher der Oxford University argumentieren, dass LLMs am besten als „Zero-Shot-Übersetzer“ eingesetzt werden sollten, um die Wissenschaft zu schützen.
Große Sprachmodelle (LLMs) sind ein großer Schritt nach vorn im Bereich der künstlichen Intelligenz. Eine der Hauptbedenken bezüglich LLMs ist jedoch ihre Fähigkeit, ungenaue Informationen als Tatsache darzustellen, was eine Reihe von Risiken mit sich bringt.
LLMs und Halluzinationen
LLMs können manchmal „Halluzinationen“ produzieren, also falsche oder irreführende Aussagen, die nicht auf der Realität basieren. Dieser Mangel resultiert normalerweise aus den Daten, auf denen die Modelle trainiert wurden.
KI-Modelle werden mit enormen Datenmengen trainiert, die aus dem Internet extrahiert wurden, das sowohl genaue als auch ungenaue Informationen enthält. Infolgedessen lernen LLMs, Texte zu generieren, die mit den Daten konsistent sind, auf denen sie trainiert wurden, selbst wenn diese Texte nicht faktisch korrekt sind.
Zum Beispiel könnte ein LLM, das gebeten wird, eine Zusammenfassung eines wissenschaftlichen Artikels zu verfassen, eine Zusammenfassung generieren, die faktisch falsch ist, weil es gelernt hat, bestimmte Wörter und Phrasen mit bestimmten Konzepten zu verknüpfen, auch wenn diese Verknüpfungen nicht korrekt sind.
Mit einem solchen Fehler wird die Verwendung von LLMs zu einem Problem, insbesondere in der Wissenschaft, wo Fakten von Bedeutung sind.
„Die Art und Weise, wie LLMs verwendet werden, ist entscheidend. In der wissenschaftlichen Gemeinschaft ist es von größter Bedeutung, dass wir Vertrauen in faktische Informationen haben, daher ist es wichtig, LLMs verantwortungsvoll zu nutzen. Wenn LLMs zur Generierung und Verbreitung wissenschaftlicher Artikel verwendet werden, könnten schwere Schäden entstehen“, sagt Prof. Sandra Wachter, Oxford Internet Institute.
Beste Vorgehensweise bei der Verwendung von LLMs
In einem Forschungsbericht, der von Professor Wachter, Brent Mittelstadt und Chris Russell von Oxford veröffentlicht wurde, argumentierten sie, dass klare Erwartungen darüber gesetzt werden sollten, was KI-Modelle verantwortungsvoll und hilfreich beitragen können, um Wissenschaft und Bildung zu schützen.
Die Forscher stellten fest, dass LLMs am besten als „Zero-Shot-Übersetzer“ verwendet werden sollten, was bedeutet, dass Benutzer den Modellen nur genaue Informationen präsentieren und sie bitten sollten, diese in gewünschte Texte umzuwandeln. „Für Aufgaben, bei denen die Wahrheit von Bedeutung ist, ermutigen wir Benutzer, Übersetzungs-Prompts zu schreiben, die geprüfte, faktische Informationen enthalten“, heißt es in dem Bericht.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Ibiam Wayas
Ibiam Wayas berichtet seit 2019 über Krypto-Nachrichten. Er studierte Informatik an der National Open University of Nigeria. Seine Arbeiten erschienen in verschiedenen Krypto-Nachrichtenplattformen, darunter Coinfomania, Crypto News Australia und AltcoinBuzz. Aufgrund seines Hintergrunds in der Informatik konzentriert er sich nun auf Nachrichten zu Kryptowährungen, Robotik und Langlebigkeit.
