Meta Platforms hat am Freitag eine Reihe neuer KI-Produkte veröffentlicht, darunter einen „Self-Taught Evaluator“, der die Genauigkeit anderer KI-Modelle überprüfen kann. Berichten zufolge ist das Modell daher in der Lage, eine geringere menschliche Beteiligung am Entwicklungsprozess der KI-Modelle zu ermöglichen.
Die Facebook- und Instagram-Muttergesellschaft gab am Freitag bekannt, dass sie die neuen KI-Modelle nach der Einführung des Tools in einem August-Artikel veröffentlichen würde, in dem detailliert erläutert wurde, wie es auf der gleichen „Gedankenkette“-Technik basiert, die kürzlich von Kollegen, dem ChatGPT-Hersteller OpenAI, 01 Modelle veröffentlicht .
Dies soll es dem KI-Modell ermöglichen, verlässliche Urteile über die Reaktionen der Modelle zu fällen.
Meta möchte sich den Herausforderungen von Ungenauigkeiten stellen
Reuters- zufolge kann das Modell die Genauigkeit von Antworten auf schwierige Probleme überprüfen und verbessern, beispielsweise in Fächern wie Naturwissenschaften, Mathematik und Programmieren, da es die Zerlegung komplexer Probleme in kleinere logische Schritte erfordert.
Meta hat bekannt gegeben, dass es neben der Kritik an veralteten und ungenauen Antworten auch die Herausforderungen anderer KI-Modelle wie ChatGPT angehen will.
Forscher bei Meta nutzten Berichten zufolge vollständig KI-generierte Daten, um das Bewertermodell zu trainieren, wodurch menschliche Eingaben zu diesem Zeitpunkt entfallen.
Zwei der Meta-Forscher sagten gegenüber Reuters, dass die Fähigkeit, KI zur zuverlässigen Bewertung anderer KI zu verwenden, einen Einblick in einen möglichen Weg zum Aufbau autonomer Unternehmen bietet, die aus ihren eigenen Fehlern lernen können.
„Wir hoffen, dass die KI, je mehr sie übermenschlich wird, immer besser darin wird, ihre Arbeit zu überprüfen, sodass sie tatsächlich besser ist als der durchschnittliche Mensch.“ Forscher Jason Weston.
„Die Idee, Autodidakt zu sein und in der Lage zu sein, sich selbst einzuschätzen, ist grundsätzlich entscheidend für die Idee, diese übermenschliche Ebene der KI zu erreichen“, fügte er hinzu.
Meta bewegt sich in Richtung autonomer KI
Den Forschern zufolge betrachten Stakeholder der KI-Branche diese Agenten als digitale Assistenten, die intelligent genug sind, um vielfältige Aufgaben ohne menschliches Eingreifen zu erledigen.
Die Forscher behaupten, dass sich selbst verbessernde Modelle den oft teuren und ineffizienten Prozess „Reinforcement Learning from Human Feedback“ überflüssig machen könnten, der heute verwendet wird. Dies erfordert die Eingabe menschlicher Annotatoren, die über spezielles Fachwissen verfügen müssen, um Daten genau zu kennzeichnen und zu überprüfen, dass Antworten auf komplexe mathematische und schriftliche Fragen korrekt sind.
Branchenkollegen wie Google und Anthropic haben ebenfalls Forschungsarbeiten zum Konzept von RLAIF oder Reinforcement Learning from AI Feedback veröffentlicht.
Im Gegensatz zu Meta neigen diese anderen Unternehmen jedoch dazu, ihre Modelle nicht zur öffentlichen Nutzung freizugeben.
Experten der KI-Branche sind der Meinung, dass der Einsatz von KI zur Überprüfung von KI von Bedeutung für die Entwicklung autonomer KI-Anwendungen , die ohne menschliches Eingreifen funktionieren können. Das bedeutet, dass KI-Modelle letztendlich aus ihren eigenen Fehlern lernen, sich selbst korrigieren und verbessern werden, ohne dass Menschen etwas dazu beitragen müssen.
Der Social-Media-Riese veröffentlichte außerdem weitere Tools, darunter ein Update seines Segment Anything Model (SAM) zurdent, ein Tool, das die Generierung von LLM-Antworten beschleunigt und Datensätze bereitstellt, die zur Entdeckung neuer anorganischer Materialien verwendet werden können.
Academy : Kurz DeFi
