Metas KI-Chatbot löst Bedenken hinsichtlich des Einflusses sozialer Medien aus

Meta, die Muttergesellschaft von Facebook, hat mit ihrem neuen KI-Chatbot Meta AI, der auf allen ihren Social-Media-Plattformen verfügbar ist, eine Debatte angestoßen. Der Chatbot bezeichnet sich selbst als Enzyklopädie, Ratgeber, Berater, Illustrator und vieles mehr. Dieser Schritt hat jedoch Bedenken hinsichtlich des möglichen Einflusses künstlicher Intelligenz auf die Nutzung sozialer Medien aufgeworfen.

Die wachsende Präsenz von KI in den sozialen Medien

Generative KI hält Einzug in die sozialen Medien. TikTok beispielsweise beschäftigt ein riesiges Entwicklerteam, das an der Entwicklung umfangreicher Sprachmodelle arbeitet, die Texte erkennen und generieren können. Das Unternehmen stellt Autoren und Journalisten ein, um diese KI-Modelle zu annotieren und ihre Leistung zu verbessern.

Das wird bereits auf der Hilfeseite von Meta angedeutet. Dort heißt es, das Unternehmen könne die von Nutzern bereitgestellten Nachrichten verwenden, um KI-Modelle zu trainieren und so die technologischen Fähigkeiten zu verbessern. KI-Experten warnen, dass sich Social-Media-Nutzer auf weitere Entwicklungen einstellen sollten, die ihre Erfahrungen positiv wie negativ verändern könnten.

„Alle tun alles, um Aufmerksamkeit zu erregen.“ Ethan Mollick, Professor an der Wharton School der University of Pennsylvania, hebt dies als die wichtigste Anwendung von KI in Social-Media-Apps hervor: die Plattformen so attraktiv wie möglich für die Nutzer zu gestalten. Apps wie Instagram suchen nach Wegen, die Nutzer möglichst lange an sich zu binden, um so die maximale Werbezeit zu erzielen.

Die Balance finden: Regulierung und Mäßigung

Im Rahmen der Telefonkonferenz zu den Ergebnissen des ersten Quartals räumte Mark Zuckerberg ein, dass es noch etwas dauern würde, bis sich die Investitionen in Chatbots und andere KI-Anwendungen auszahlen würden. Doch die Technologie verändert bereits jetzt die Nutzererfahrung auf den Plattformen des Unternehmens. Rund 30 % der Inhalte im Facebook-Feed werden von KI-Empfehlungssystemen bereitgestellt, und mehr als die Hälfte der Inhalte auf Instagram werden über denselben Mechanismus angezeigt.

Während KI das Nutzererlebnis personalisieren oder sogar neue Inhalte erstellen kann, besteht laut Experten auch die Gefahr, dass sie andere Inhalte – wie Porträts und Musik – personalisiert. Jaime Sevilla, Direktor von Epoch, einem Forschungsinstitut, das sich mit aktuellen und zukünftigen Trends der KI-Technologie befasst, äußerte seine Bedenken hinsichtlich der Überzeugungskraft von KI und der möglichen Verbreitung von Fehlinformationen.

Eine Studie belegt, dass GPT-4, entwickelt von KI-Forschern der Eidgenössischen Technischen Hochschule Lausanne, beim Überzeugen von Gesprächspartnern in Diskussionen 81,7 % besser abschneidet als Menschen. Die Studie wurde noch nicht von Fachkollegen begutachtet, doch Sevilla hat bereits Alarm geschlagen, insbesondere hinsichtlich der möglichen Auswirkungen dieser Technologie auf Betrug und Täuschung.

Während die USA auf einen weiteren politisch erbitterten Wahlkampf zusteuern, täten Gesetzgeber gut daran, die Gefahren der KI und ihren Zusammenhang mit der Verbreitung von Fehlinformationen ernst zu nehmen. Bindu Reddy ist CEO und Mitbegründerin von Abacus.AI. Sie schlägt einen subtileren Ansatz als den Einsatz von KI vor, beispielsweise ein Verbot des KI-Einsatzes auf Social-Media-Plattformen. Denn schon lange vor der Erfindung der KI verbreiteten Akteure Fehlinformationen online.

Reddy forderte unterdessen ein Verbot von KI-generierten Deepfakes, die Menschen oder menschenähnliche Bilder erzeugen, kritisierte aber weitreichende Beschränkungen wie jene der Europäischen Union. Sie betonte, die USA dürften bei der KI-Entwicklung nicht hinter andere Länder zurückfallen.

KI-Chatbots und ähnliche Innovationen in den sozialen Medien entwickeln sich rasant, und es bedarf eines ausgewogenen Verhältnisses von Innovation und verantwortungsvoller Regulierung, um den Schutz der Nutzererfahrung sowie demokratischer Prinzipien weltweit zu gewährleisten.