Meta stellt „Emu

Meta AI, der Technologie-Riese hinter der Metaverse-Vision, hat eine bahnbrechende Entwicklung in der künstlichen Intelligenz angekündigt. Sie haben ein neues Projekt namens „Emu“ vorgestellt, das darauf abzielt, die Qualität von KI-generierten Bildern zu verbessern. Emu ist ein Sprung in der KI-Innovation und unterstreicht die Bedeutung sorgfältiger Kuratierung und menschlicher Expertise in KI-generierten Inhalten.

Pre-Training mit 1.1 Milliarden Bild-Text-Paaren

Im Zentrum der Entwicklung von Emu steht ein zweistufiger Prozess, der mit dem Pre-Training beginnt. In dieser ersten Phase wird ein Diffusionsmodell einem massiven Datensatz ausgesetzt, der 1,1 Milliarden Bild-Text-Paare aus den internen Ressourcen von Meta AI umfasst. Der Hauptakteur hier ist ein U-Net-Modell mit beeindruckenden 2,8 Milliarden Parametern. Text-Encoder wie CLIP ViT-L und T5-XXL kommen ins Spiel, um diese Architektur zu ergänzen. Das übergeordnete Ziel? Die Generierung hochwertiger Bilder mit einer Auflösung von 1024×1024 Pixeln.

Strenge Datensatzfilterung

Qualitätskontrolle ist bei der Erstellung KI-generierter Inhalte von größter Bedeutung. Meta AI setzt mehrere Filter ein, um die Integrität ihres Datensatzes zu gewährleisten. Über 200.000 Proben werden sorgfältig aus über einer Milliarde Beispielen eliminiert. Verschiedene Filter kommen zum Einsatz:

Ästhetikbewertung

Klassifikatoren werden eingesetzt, um die Ästhetik von Bildern zu bewerten. Dieser Schritt hilft dabei, Bilder auszuschließen, die möglicherweise nicht den gewünschten visuellen Standards entsprechen.

Inhaltsfilterung

Es sind Mechanismen vorhanden, um unerwünschte Inhalte auszuschließen. Dies stellt sicher, dass die generierten Bilder nicht nur visuell ansprechend sind, sondern auch den Community-Richtlinien und ethischen Standards entsprechen.

Ausschluss von Text

Bilder, die stark mit Text beladen sind, werden mittels optischer Zeichenerkennung (OCR) ausgeschlossen. Dies stellt sicher, dass der Fokus auf dem visuellen Aspekt bleibt.

Prüfung von Auflösung und Proportionen

Bilder, die die vordefinierten Kriterien für Auflösung und Proportionen nicht erfüllen, werden herausgefiltert, um Einheitlichkeit im Datensatz zu gewährleisten.

Beliebtheitsmetriken

Auch Beliebtheitsmetriken wie Likes spielen eine Rolle bei der Filterung und verfeinern den Datensatz weiter.

Menschliche Expertise bei der Kuratierung

In der darauffolgenden Phase rückt die menschliche Expertise in den Mittelpunkt. Generalisten, also Personen, die mit Datenannotationen vertraut sind, überprüfen die verbleibenden 200.000 Bilder und wählen eine Teilmenge von 20.000 aus. Das primäre Ziel ist es, deutlich minderwertige Bilder zu identifizieren und zu entfernen, um der Kuratierung eine menschliche Note zu verleihen. Dieser Schritt ist entscheidend, da Heuristiken allein möglicherweise keine erstklassige Bildqualität gewährleisten.

Bildauswahl durch Fotografie-Spezialisten

Die Suche nach Bildqualität hört dort nicht auf. Ein dediziertes Team von **Fotografie-Spezialisten** mit tiefgreifendem Wissen über fotografische Prinzipien tritt in den Vordergrund. Ihre Mission? Bilder zu filtern und auszuwählen, die höchste ästhetische Qualität exemplifizieren. Sie untersuchen Komposition, Beleuchtung, Farbschemata, Kontraste, thematische Relevanz und Hintergründe. Dieser sorgfältige Auswahlprozess ist entscheidend für die Erstellung KI-generierter Bilder, die die höchsten visuellen Standards erfüllen.

Erstellung hochwertiger Textannotationen

Als letzte Verfeinerung werden für diesen kuratierten Datensatz von 2.000 Bild-Text-Paaren hochwertige Textannotationen sorgfältig erstellt. Diese Annotationen bieten Kontext und Bedeutung für die generierten Bilder und erhöhen deren Nutzen und Attraktivität.

Training des Modells

Mit dem verfeinerten Datensatz beginnt das Emu-Modell die Trainingsphase. Es absolviert 15.000 Schritte mit einer Batch-Größe von 64. Bemerkenswerterweise ist diese Batch-Größe im Vergleich zu anderen großen generativen Modellen relativ klein. Während das Modell basierend auf dem Validierungsverlust übertrainiert sein könnte, zeichnen **menschliche Bewertungen** ein anderes Bild. Dieses Phänomen spiegelt Beobachtungen wider, die bei Sprachmodellen gemacht wurden, bei denen die Metriken nicht immer die ganze Geschichte der Modellleistung erzählen.

Die Kunst und Wissenschaft KI-generierter Bilder

Der mehrstufige Prozess von Emu stellt einen bedeutenden Meilenstein in der KI-generierten Inhalte dar. Der Ansatz von Meta AI zielt nicht nur darauf ab, die praktischen Anwendungen ihrer Dienste zu verbessern, sondern unterstreicht auch die entscheidende Rolle der sorgfältigen Kuratierung und menschlichen Expertise bei der Verfeinerung KI-generierter Inhalte. Während KI weiterhin Branchen und die Art und Weise, wie wir mit Technologie interagieren, umgestaltet, steht Emu als Beweis für die Verschmelzung von Kunst und Wissenschaft im Streben nach höherwertigen KI-generierten Bildern.

In einer Welt, in der das visuelle Medium einen enormen Einfluss hat, verspricht Emu, die Standards KI-generierter Bilder zu erhöhen und den Weg für immersivere und fesselndere digitale Erfahrungen im Metaverse und darüber hinaus zu ebnen. Für weitere Details zu dieser bahnbrechenden Entwicklung lesen Sie den vollständigen Artikel, um tiefer in die Zukunft der KI-Bildgenerierung einzutauchen.