Silicon Valley Tech-Giganten schieben KI-Sicherheit für Produktgewinne zurück

Silicon Valley war der Ort, an den die weltweit führenden Experten für künstliche Intelligenz gingen, um innovative Forschung zu betreiben, aber Experten warnen, dass sich die Dinge geändert haben, und jetzt geht es bei KI nur um das Produkt. KI-Forscher und Experten glauben auch, dass die Tech-Branche seit der Veröffentlichung von ChatGPT durch OpenAI Ende 2022 die Kommerzialisierung vor der Forschung priorisiert hat, indem sie verbraucherfertige KI-Produkte entwickelt hat.

Analysten von Morgan Stanley vorhergesagt dass die KI-Branche das Potenzial hat, bis 2028 einen jährlichen Umsatz von 1 Billion Dollar zu erreichen. Branchenexperten sagen, dass sie sich um die Sicherheit sorgen, während führende Akteure die allgemeine künstliche Intelligenz (AGI) vorantreiben.

KI-Forschung kehrt zu Gewinnen zurück, da Silicon Valley Produkte vor Sicherheit priorisiert

Geoffrey Hinton sagt, KI-Unternehmen sollten gezwungen werden, ein Drittel ihrer Rechenressourcen für Sicherheitsforschung zu verwenden, weil KI in den nächsten 20 Jahren intelligenter als wir sein wird und wir anfangen müssen, uns darüber Sorgen zu machen, was dann passiert pic.twitter.com/ocT3Scmyxg

— Tsarathustra (@tsarnick) Oktober 25, 2024

OpenAI, gegründet als gemeinnützige Forschungseinrichtung im Jahr 2015, befindet sich jetzt in der Mitte einer Bemühung, sich in ein gewinnorientiertes Unternehmen zu verwandeln, laut seinem CEO Sam Altman. Jan Leike, OpenAIs ehemaliger Leiter der Ausrichtung, dessen Team sich auf KI-Sicherheit konzentrierte, trat im letzten Jahr zurück und sagte, dass in den vergangenen Jahren „Sicherheitskultur und -prozesse hinter glänzenden Produkten zurückgestanden haben.“

James White, Chief Technology Officer bei der Cybersicherheits-Startup Calypso, argumentierte, dass Tech-Unternehmen bei der rigorosen Testung ihrer KI-Modelle vor der Veröffentlichung für die Öffentlichkeit zunehmend Abkürzungen nehmen. Er bemerkte, dass neuere KI-Modelle Sicherheit für Qualität opfern, das heißt, bessere Antworten von den KI-Chatbots. 

„Die Modelle werden besser, aber sie sind auch eher gut darin, schlechte Dinge zu tun. Es ist einfacher, sie zu täuschen, schlechte Dinge zu tun.“

– James White, Chief Technology Officer bei Calypso.

Im März schien Google sein Produkt vor der Sicherheit zu priorisieren, nachdem es veröffentlichte sein neuestes KI-Modell, Gemini 2.5, veröffentlichte und sagte, es sei das intelligenteste KI-Modell des Unternehmens. Das Unternehmen veröffentlichte wochenlang keine Modellkarte für Gemini 2.5, was bedeutete, dass es keine Informationen darüber teilte, wie das KI-Modell funktioniert oder seine Einschränkungen und potenziellen Gefahren bei seiner Veröffentlichung.

Das Unternehmen erkannte am 2. April, dass es seine fortschrittlichsten Modelle vor ihrer Veröffentlichung auf potenziell gefährliche Fähigkeiten bewertet. Google aktualisierte später den Blogbeitrag und ließ die Wörter „vor ihrer Veröffentlichung“ weg.

Das Unternehmen veröffentlichte am 16. April eine unvollständige Modellkarte und aktualisierte sie am 28. April, mehr als einen Monat nach der Veröffentlichung des KI-Modells, um Informationen über die gefährlichen Fähigkeitsbewertungen von Gemini 2.5 einzuschließen.

KI-Tech-Unternehmen wechseln von der Forschung zu umsatzstarken Produkten

Ehemalige Meta-Mitarbeiter sagten, sie seien nicht überrascht, als Joelle Pineau, eine Vizepräsidentin von Meta und Leiterin der FAIR-Sparte des Unternehmens, ankündigte letzten Monat, dass sie ihren Posten am 30. Mai verlassen würde. Sie erwähnten, dass sie dies als die Verfestigung des Schritts des Unternehmens weg von der KI-Forschung und hin zur Priorisierung der Entwicklung praktischer Produkte ansahen.

Pineau hat FAIR seit 2023 geleitet, und laut Mitarbeitern bei Meta, konnten kleine Forschungsteams an verschiedenen cutting-edge-Technologien arbeiten, die sich möglicherweise bewähren oder auch nicht. Der Wandel begann, als das Tech-Unternehmen Ende 2022 21.000 Mitarbeiter entließ, oder fast ein Viertel seiner Belegschaft. Ehemalige Mitarbeiter, die mit der Angelegenheit vertraut sind, sagten, dass FAIR-Forscher angewiesen wurden, enger mit Produktteams zusammenzuarbeiten, als Teil der Kostensenkungsmaßnahmen.

Zwei Personen, die mit der Angelegenheit vertraut sind, sagten, dass Anfang dieses Jahres einer der Direktoren von FAIR, Kim Hazelwood, das Unternehmen im Rahmen von Metas Plan verließ, 5 % seiner Belegschaft zu kürzen. Die Personen bemerkten, dass die Veröffentlichung von ChatGPT durch OpenAI ein Gefühl der Dringlichkeit bei Meta erzeugte, mehr Ressourcen in Large Language Models (LLMs) zu investieren.

Die Personen enthüllten auch, dass Metas Chief Product Officer Chris Cox FAIR überwacht hat, um die Lücke zwischen Forschung und der produktorientierten GenAI-Gruppe zu schließen. Sie fügten hinzu, dass GenAI unter Cox mehr Computerressourcen und Teammitglieder von FAIR abgezogen hat, aufgrund seines erhöhten Status im Unternehmen. 

Letzten Monat, Meta veröffentlichte Sicherheits- und Sicherheitstools für Entwickler, um Apps mit den Llama 4 KI-Modellen des Unternehmens zu erstellen. Meta sagte, dass die Tools helfen, die Chancen zu mindern, dass Llama 4 unbeabsichtigt sensible Informationen preisgibt oder schädliche Inhalte erzeugt.