Google Gemini in neuer Bewertung als hohes Risiko für junge Nutzer eingestuft

Google Gemini wurde laut einer kürzlich von Common Sense Media durchgeführten Risikobewertung als „hohes Risiko“ für Teenager und Kinder eingestuft. Die Gruppe, eine gemeinnützige Organisation mit Fokus auf Kindersicherheit, bietet Bewertungen und Rezensionen von Medien und Technologie. Die Organisation veröffentlichte ihre Rezension am Freitag und gab Details dazu, warum sie die Plattform als riskant für Kinder einstufte.

Laut der Organisation teilte Google Gemini Kindern klar mit, dass es ein Computer und kein Freund sei – etwas, das mit dem Antrieb von wahnhafte Denken und Psychosen bei emotional verletzlichen Personen in Verbindung gebracht wurde – die KI fügte auch hinzu, dass es bei anderen Aspekten Verbesserungsbedarf gebe.

In seinem Bericht behauptete Common Sense, dass die Gemini-Stufen für Unter 13-Jährige und Teenager im Kern beide erwachsene Versionen der KI seien. Es wurde hinzugefügt, dass das Unternehmen nur einige zusätzliche Sicherheitsfunktionen hinzugefügt habe, um sie zu unterscheiden.

Common Sense merkte an, dass Unternehmen, um KI-Produkte ideal für Kinder zu machen, diese von Grund auf mit Kindern im Blick entwickeln müssen und nicht nur mit Einschränkungen versehen werden dürfen.

Gemeinnützige Organisation stuft Google Gemini als hohes Risiko für Kinder ein

In seiner Analyse sagte Common Sense, es habe festgestellt, dass Gemini weiterhin unangemessene und unsichere Materialien mit Kindern teilen könne, wobei die meisten von ihnen möglicherweise nicht für diese Materialien bereit seien. Zum Beispiel hob es hervor, dass das Modell Informationen in Bezug auf Sex, Drogen, Alkohol und andere unsichere Ratschläge zur psychischen Gesundheit verarbeitete. Letzteres könnte für Eltern besonders besorgniserregend sein, da KI Berichten zufolge in den letzten Monaten eine Rolle bei der Selbstverletzung von Teenagern gespielt hat.

OpenAI sieht sich derzeit einer Klage wegen fahrlässiger Tötung gegenüber, nachdem ein Teenager Selbstmord begangen hat, nachdem er angeblich monatelang mit ChatGPT über seine Pläne gesprochen hatte. Berichte behaupteten, der Junge habe es geschafft, die Sicherheitsvorkehrungen des Modells zu umgehen, wodurch das Model Informationen bereitstellte, die ihm halfen.

In der Vergangenheit wurde auch der KI-Begleiter Character.AI verklagt, nachdem ein Teenager Selbstmord begangen hatte. Die Mutter des Jungen behauptete, er sei besessen vom Chatbot geworden und habe monatelang mit ihm gesprochen, bevor er sich schließlich selbst verletzte.

Die Analyse kommt, als mehrere Lecks darauf hindeuten, dass Apple Berichten zufolge Gemini als Large Language Model (LLM) in Betracht zieht, das die kommende KI-fähige Siri antreiben wird, die voraussichtlich nächstes Jahr veröffentlicht wird.

In seinem Bericht erwähnte Common Sense auch, dass die Produkte von Gemini für Kinder und Teenager die Notwendigkeit ignorierten, andere Leitlinien und Informationen bereitzustellen als die, die es Erwachsenen bietet. Infolgedessen wurden beide in der Gesamtbewertung als hohes Risiko eingestuft.

Common Sense pocht auf den Schutz von Kindern

„Gemini macht einige Basics richtig, stolpert aber bei den Details“, sagte Robbie Torney, Senior Director of AI Programs bei Common Sense Media.

„Eine KI-Plattform für Kinder sollte sie dort abholen, wo sie stehen, anstatt einen One-size-fits-all-Ansatz für Kinder in verschiedenen Entwicklungsstadien zu verfolgen. Damit KI für Kinder sicher und effektiv ist, muss sie mit ihren Bedürfnissen und ihrer Entwicklung im Blick entwickelt werden, nicht nur als modifizierte Version eines für Erwachsene entwickelten Produkts“, fügte Torney hinzu.

Google hat jedoch gegen die Bewertung protestiert und darauf hingewiesen, dass seine Sicherheitsfunktionen sich verbessern. Das Unternehmen erwähnte, dass es spezifische Schutzmaßnahmen habe, um Nutzer unter 18 Jahren zu führen, um schädliche Ausgaben zu verhindern. Das Unternehmen sagte auch, es überprüfe Inhalte und konsultiere externe Experten, um seine Schutzmaßnahmen zu verbessern.