OpenAI sperrt chinesische Konten aufgrund von Anfragen zur Überwachung sozialer Medien

OpenAI gab am Dienstag bekannt, dass es mehrere ChatGPT-Konten geschlossen hat, von denen angenommen wird, dass sie mit chinesischen Regierungsorganisationen verbunden sind. Die Konten wurden gesperrt, nachdem Benutzer versucht hatten, Hilfe bei der Erstellung von Tools zur Verfolgung und Überwachung sozialer Medienaktivitäten zu erhalten.

Das Unternehmen veröffentlichte seinen neuesten öffentlichen Bedrohungsbericht, der erklärt, dass einige Personen den Chatbot gebeten hatten, soziale Medien „abhörende“ Tools und andere Überwachungssysteme zu entwerfen. Diese Anfragen verstießen gegen OpenAIs nationale Sicherheitsrichtlinien. Die Erkenntnisse des Unternehmens in San Francisco weisen auf Bedenken hin, wie generative KI missbraucht werden könnte, während die USA und China darum wetteifern, die Kontrolle über das Wachstum der Technologie und die sie regelnden Vorschriften zu erlangen.

OpenAI schloss auch mehrere Konten, die chinesische Sprache verwendeten und ChatGPT eingesetzt hatten, um bei Phishing-Angriffen und Malware-Operationen zu helfen. Diese Konten hatten das KI-Modell gebeten, weitere Möglichkeiten zur Automatisierung von Aufgaben unter Verwendung von Chinas DeepSeek-System zu untersuchen.

Mehrere bösartige Netzwerke gestört

Das Unternehmen sagte auch, es habe Konten geschlossen, die mit mutmaßlich russischsprachigen kriminellen Organisationen verbunden waren, die den Chatbot nutzten, um bestimmte Arten von Malware zu erstellen, wie Reuters berichtete. Seit OpenAI im Februar des letzten Jahres damit begann, öffentliche Bedrohungsberichte zu veröffentlichen, hat das von Microsoft unterstützte Unternehmen mehr als 40 Netzwerke gestoppt und gemeldet. Seine KI-Modelle haben eindeutig schädliche Anfragen abgelehnt, so das Unternehmen.

„Wir haben keine Hinweise auf neue Taktiken gefunden oder darauf, dass unsere Modelle Bedrohungsakteuren neuartige offensive Fähigkeiten verliehen haben“, stellte das Unternehmen in dem Bericht fest.

OpenAI bedient derzeit mehr als 800 Millionen Menschen, die wöchentlich ChatGPT nutzen. Letzte Woche wurde das Unternehmen zum wertvollsten Startup der Welt, nachdem es einen Sekundäraktienverkauf abgeschlossen hatte, der es auf 500 Milliarden US-Dollar bewertete. Das ist ein Anstieg von seinem früheren Wert von 300 Milliarden US-Dollar und zeigt, wie schnell OpenAI seine Nutzerzahlen und Einnahmen gesteigert hat.

Der Deal ermöglichte es OpenAI-Mitarbeitern, ihre Aktien an eine Gruppe von Investoren zu verkaufen. Zu dieser Gruppe gehörten Thrive Capital, SoftBank, Dragoneer Investment Group, Abu Dhabis MGX und T. Rowe Price, so eine Quelle, die nicht öffentlich über die Angelegenheit sprechen durfte.

Das Unternehmen habe den Verkauf von Aktien im Wert von mehr als 10 Milliarden US-Dollar auf dem Sekundärmarkt erlaubt, sagte die Quelle. Der Aktienverkauf folgt auf SoftBanks Investition in OpenAIs früheren Primärfinanzierungsround über 40 Milliarden US-Dollar. OpenAI erzielte in der ersten Hälfte von 2025 etwa 4,3 Milliarden US-Dollar an Einnahmen, was etwa 16 % mehr ist als im gesamten Vorjahr, berichtete The Information diese Woche.

Der Verkauf findet statt, während große Tech-Unternehmen hart um KI-Talente kämpfen, indem sie teure Gehaltspakete anbieten. Meta investiert Milliarden in Scale AI und hat dessen 28-jährigen Leiter Alexandr Wang eingestellt, um seine neue Super-Intelligence-Sparte zu leiten.