Meta investiert in KI-generierte Charaktere und Profile – Bedenken wegen gefälschter Konten

Ein Meta-KI-Executive sagt, Facebook könnte bald einen Ansturm von KI-generierten Profilen und Nutzern erleben.

Meta verbessert seine KI-Tools seit letztem Jahr. Es wurden neue KI-Produkte auf verschiedenen Plattformen wie Facebook eingeführt. Dazu gehören Hunderttausende von Charakteren, die im Juli erstellt wurden, als sie KI-Charaktererstellungstools starteten.

Diese KI-Charaktere sind derzeit privat, aber Meta erwartet, dass sie in den kommenden Jahren eine Standardfunktion auf der Plattform sein werden. Die Profile werden sich sehr ähnlich wie reguläre Benutzerkonten verhalten, sagte Connor Hayes, Vizepräsident von Meta für Produktentwicklung im Bereich generative KI, gegenüber dem Financial Times.

Er fügte hinzu, dass Benutzer „Biografien und Profilbilder haben und Inhalte auf der Plattform generieren und teilen könnten, die von KI unterstützt werden.“

Meta plant den Start von KI-generierten Text-zu-Video-Tools

In den nächsten zwei Jahren wird Meta Investitionen in die KI-Entwicklung priorisieren, um seine Plattformen ansprechender und unterhaltsamer zu machen. Derzeit können Benutzer die KI von Meta für die Fotobearbeitung oder die Erstellung eines KI-Assistenten nutzen.

Darüber hinaus plant Meta, neue Text-zu-Video-Tools einzuführen, die es Content-Erstellern ermöglichen werden, in KI-generierten Videos aufzutreten.

Experten sind jedoch besorgt über das schnelle Wachstum der Anzahl der KI-Nutzer. Sie glauben, dass strenge Schutzmaßnahmen erforderlich sind, um zu verhindern, dass diese KI-Konten falsche Informationen verbreiten.

Becky Owen, ehemalige Chief Marketing Officer bei Billion Dollar Boy und zuvor Leiterin von Metas Creator-Innovations-Team, warnte: „Ohne robuste Schutzmaßnahmen riskieren Plattformen, falsche Narrative durch diese KI-gesteuerten Konten zu verstärken.“

Sie befürchtet auch, dass es zu viele KI-Profile auf der Plattform geben wird, was weniger echte Inhalte anziehen könnte. Wie Owen feststellte, haben KI-Personas keine realen Lebenserfahrungen oder Emotionen und sind viel weniger ansprechend als menschliche Ersteller.

Ein Sprecher von Meta verwies auf die Vorteile von KI-Tools gegenüber Fox Business. Er sagte, sein AI Studio ermögliche es jedem, KI-Charaktere basierend auf ihren Interessen zu erstellen und zu besitzen. Diese Charaktere können „für Nutzen, Spaß oder Unterstützung“ verwendet werden, z. B. beim Kochen, bei Modeberatung oder bei der Bereitstellung täglicher Bestärkungen.

Gleichzeitig sagte Meta-CEO Mark Zuckerberg im April, dass es einige Jahre dauern könnte, bis das volle Potenzial ihrer KI-Technologie ausgeschöpft ist. Er ist der Ansicht, dass dies eine kluge Investition sowohl für das Unternehmen als auch für seine Anleger war, da die „ersten Anzeichen hier sehr positiv sind.