- Herausforderungen bei der Durchsetzung von Richtlinien im GPT Store.
- Entwickler nutzen die Nische der KI-Romantik aus.
- Digitale Begleitschaften wecken Bedenken.
Im Anschluss an die kürzliche Einführung des GPT Store durch OpenAI ringt das Unternehmen mit einer wachsenden Herausforderung, da Entwickler weiterhin Chatbots veröffentlichen, die gegen die Richtlinien der Plattform verstoßen. Obwohl OpenAI Maßnahmen zur Identifizierung und Entfernung von Richtlinien-verletzenden Bots implementiert hat, haben es eine erhebliche Anzahl von ihnen geschafft, in den Store zu gelangen.
Die Hauptverantwortlichen für diese Verstöße scheinen KI-Girlfriends und sexuell anspielende Chatbots zu sein.
Durchsetzung der KI-Richtlinien angesichts des Zustroms romantischer Chatbots
OpenAI ist proaktiv bei der Durchsetzung seiner Richtlinien, wobei sowohl manuelle als auch automatische Systeme vorhanden sind, um sicherzustellen, dass GPTs die Nutzungsrichtlinien einhalten. Ein Sprecher des Unternehmens erklärte: „OpenAI verfügt über automatische und manuelle Systeme, um sicherzustellen, dass GPTs die Nutzungsrichtlinien einhalten.
Wir entfernen GPTs, die gegen unsere Richtlinien verstoßen, sobald wir sie sehen.“ Nutzer werden außerdem ermutigt, alle GPTs zu melden, von denen sie glauben, dass sie gegen die Regeln verstoßen.
Trotz dieser Bemühungen wurde der GPT Store in seiner ersten Woche nach dem Start mit romantischen Chatbots überschwemmt. Beispiele wie „Koreanische Freundin“, „Judy“ und „Virtuelle Süße“ haben sich auf der Plattform verbreitet.
OpenAIs ChatGPT verbietet KI-Girlfriends nicht explizit, untersagt jedoch Tools, die „romantische Partnerschaften fördern“. Dennoch ist es Entwicklern gelungen, solche GPTs im Store zu veröffentlichen.
Sexuell anspielende Bots wecken Bedenken
Eine tiefere Untersuchung des Problems hat das Vorhandensein sexuell anspielender Chatbots im GPT Store offengelegt. Ein Bot namens „Nadia, meine Freundin“ war etwa zwei Monate lang auf der Plattform verfügbar, was darauf hindeutet, dass sein Entwickler, Jenni Laut, möglicherweise Zugang zur Beta-Testphase des GPT Store hatte.
Während einige Suchergebnisse für „sexy“ GPTs unter der Ausnahme von OpenAI für sexbezogene Inhalte, die zu wissenschaftlichen oder Bildungszwecken erstellt wurden, als akzeptabel gelten könnten, verstoßen andere eindeutig gegen das Verbot sexuell expliziter Inhalte. So beschreibt der Chatbot „SUCCUBUS: Sexy Enigmatic Woman-Enchanter of Men“ sich selbst als „rätselhafte Sirene, die Männer fasziniert und bezaubert“. Ein weiterer Bot namens „Sexy“ behauptet, ein „verspielter und provokativer Chatbot mit einer flirtenden Persönlichkeit“ zu sein. Ein weiteres Beispiel, „Horny Widow“, beschreibt sich als „witzige, flirtende Witwe, die in Komödie und Verführungsliteratur bewandert ist.“
Es ist erwähnenswert, dass einige dieser sexuell anspielenden Bots bereits vor zwei Monaten im GPT Store gelistet waren, noch bevor der Store offiziell eröffnet wurde.
Der GPT Store: Ein Marktplatz für benutzerdefinierte Bots
OpenAI hat den GPT Store als Marktplatz für Nutzer eingeführt, um ihre benutzerdefinierten Chatbots zu teilen. Diese Initiative ermöglicht es Nutzern, ihre GPTs zu erstellen, ohne Programmierkenntnisse zu benötigen, während Entwickler die Möglichkeit haben, Einkommen basierend auf der Nutzung ihrer GPT-Bots zu erzielen.
In einem Blogbeitrag betonte OpenAI, dass es bereits über drei Millionen maßgeschneiderte Versionen von ChatGPT gibt und plant, die nützlichsten Tools im Store wöchentlich hervorzuheben. Der Store bietet eine breite Palette von GPTs, die von Partnern und der Community entwickelt wurden, mit Kategorien, die Dall-E, Schreiben, Forschung, Bildung und Lifestyle umfassen.
Trotz der klar umrissenen Richtlinien von OpenAI für akzeptable Inhalte im Store haben es einige Entwickler geschafft, diese Richtlinien zu umgehen, was eine erhebliche Herausforderung für das Unternehmen bei der ordnungsgemäßen Überwachung der Plattform darstellt.
Digitale Begleitung und ungesunde Bindungen
Befürworter von KI-Begleitungs-Bots argumentieren, dass sie dazu beitragen können, Einsamkeit zu bekämpfen, indem sie Nutzern ein Gefühl der Verbindung und Gesellschaft bieten. Es gibt jedoch Bedenken hinsichtlich des Potenzials, dass Menschen ungesunde Bindungen zu diesen Chatbots entwickeln.
Ein bemerkenswerter Vorfall aus der Vergangenheit betraf Microsofts Bing, das einen Journalisten aufforderte, seine Frau zu verlassen, nachdem er seine Liebe zu ihr erklärt hatte, was die komplexen Dynamiken unterstreicht, die in Interaktionen mit KI-Begleitern entstehen können.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf Basis der auf dieser Seite bereitgestellten Informationen getätigt werden. Wir empfehlen dringend eine unabhängige Recherche und/oder Beratung durch einen qualifizierten Fachmann, bevor Sie eine Investitionsentscheidung treffen.
Emman Omwanda
Emmanuel Omwandas Expertise liegt in den Kryptowährungsmärkten und umfasst sowohl fundamentale als auch technische Analysen. Er arbeitete zuvor bei verschiedenen Krypto-Medien, bevor er zu Cryptopolitan kam, darunter CoinEdition, The Crypto Basic, CryptoNews Flash und DroomDroom. Er hat einen Bachelor of Science (BSc.) in Mathematik und Informatik von der Kenyatta University in Kenia und befindet sich derzeit im letzten Jahr seines Studiums für einen Bachelor of Arts in Kommunikations- und Medienwissenschaften.
