Meta veröffentlicht KI-Tools, darunter eines, das die Genauigkeit anderer KI-Modelle überprüft

Meta Platforms hat am Freitag eine Reihe neuer KI-Produkte vorgestellt, darunter einen „selbstlernenden Evaluator“, der die Genauigkeit anderer KI-Modelle überprüfen kann. Das Modell soll dadurch den menschlichen Eingriff in den Entwicklungsprozess der KI-Modelle reduzieren.

Der Mutterkonzern von Facebook und Instagram gab am Freitag bekannt, dass er die neuen KI-Modelle veröffentlichen werde, nachdem er das Tool in einem Papier vom August vorgestellt hatte, in dem detailliert erläutert wurde, wie es auf der gleichen „Gedankenkette“-Technik basiert, die auch von Konkurrenten wie dem ChatGPT-Hersteller OpenAI verwendet wird, der kürzlich 01 Modelle veröffentlicht hat.

Dies soll es dem KI-Modell ermöglichen, zuverlässige Beurteilungen der Reaktionen der Modelle vorzunehmen.

Meta möchte die Herausforderungen von Ungenauigkeiten angehen

Laut einem Reuters- Artikel kann das Modell die Genauigkeit der Antworten auf schwierige Probleme, wie sie beispielsweise in Fächern wie Naturwissenschaften, Mathematik und Programmierung auftreten, überprüfen und verbessern, da es die Aufteilung komplexer Probleme in kleinere logische Schritte beinhaltet.

Meta hat bekannt gegeben, dass es unter anderem die Herausforderungen anderer KI-Modelle wie ChatGPT angehen will, sowie die Kritik an veralteten und ungenauen Antworten.

Forscher bei Meta verwendeten Berichten zufolge ausschließlich KI-generierte Daten, um das Bewertungsmodell zu trainieren, wodurch menschliche Eingriffe in dieser Phase entfielen.

Zwei der Meta-Forscher erklärten gegenüber Reuters, dass die Fähigkeit, KI zur zuverlässigen Bewertung anderer KI einzusetzen, einen Einblick in einen möglichen Weg zur Entwicklung autonomer Systeme bietet, die aus ihren eigenen Fehlern lernen können.

„Wir hoffen, dass die KI, je mehr sie übermenschliche Fähigkeiten entwickelt, auch immer besser darin wird, ihre Arbeit zu überprüfen, sodass sie letztendlich besser sein wird als der durchschnittliche Mensch.“ Forscher Jason Weston.

„Die Fähigkeit zum Selbststudium und zur Selbsteinschätzung ist von grundlegender Bedeutung für das Erreichen eines solchen übermenschlichen Niveaus an KI“, fügte er hinzu.

Meta bewegt sich in Richtung autonomer KI

Laut den Forschern sehen die Akteure der KI-Branche diese Agenten als digitale Assistenten, die intelligent genug sind, um eine Vielzahl von Aufgaben ohne menschliches Eingreifen auszuführen.

Die Forscher argumentieren, dass selbstlernende Modelle den Bedarf an einem oft teuren und ineffizienten Verfahren namens Reinforcement Learning durch menschliches Feedback überflüssig machen könnten. Dieses Verfahren erfordert die Eingabe von menschlichen Annotatoren, die über Fachkenntnisse verfügen müssen, um Daten korrekt zu kennzeichnen und die Korrektheit der Antworten auf komplexe mathematische und schriftliche Aufgaben zu überprüfen.

Branchenkollegen wie Google und Anthropic haben ebenfalls Forschungsarbeiten zum Konzept von RLAIF oder Reinforcement Learning from AI Feedback veröffentlicht.

Im Gegensatz zu Meta veröffentlichen diese anderen Unternehmen ihre Modelle jedoch in der Regel nicht zur öffentlichen Nutzung.

Experten der KI-Branche vertreten die Ansicht, dass der Einsatz von KI zur Selbstkontrolle von entscheidender Bedeutung für die Entwicklung autonomer KI-Anwendungen , die ohne menschliches Eingreifen funktionieren können. Dies bedeutet, dass KI-Modelle letztendlich aus ihren Fehlern lernen, sich selbst korrigieren und sich ohne menschliches Zutun verbessern werden.

Der Social-Media-Riese veröffentlichte außerdem weitere Tools, darunter ein Update seinesdent-Segment-Anything-Modells (SAM), ein Tool, das die Generierungszeiten von LLM-Antworten beschleunigt, sowie Datensätze, die zur Unterstützung der Entdeckung neuer anorganischer Materialien verwendet werden können.