In Silicon Valley ging es in den weltweit führenden Experten für künstliche Intelligenz durch, um innovative Forschung durchzuführen, aber Experten warnen, dass sich die Dinge verändert haben, und jetzt dreht sich AI nur um das Produkt. AI-Forscher und Experten glauben auch, dass die Tech-Industrie seit OpenAI Chatgpt Ende 2022 die Kommerzialisierung vor der Erstellung von KI-Produkten der Verbraucher priorisiert hat.
Analysten von Morgan Stanley sagten voraus , dass die KI -Branche bis 2028 das Potenzial hat, einen Jahresumsatz von 1 Billion US -Dollar zu erzielen. Branchenexperten sagten, sie seien besorgt über Sicherheit, da führende Akteure künstliche allgemeine Intelligenz (AGI) verfolgen.
Die KI -Forschung kehrt zu Gewinnen zurück, da Silicon Valley Produkte vor der Sicherheit priorisiert
Laut Geoffrey Hinton sollten KI-Unternehmen gezwungen sein, ein Drittel ihrer Rechenressourcen für Sicherheitsforschung zu verwenden, da die KI in den nächsten 20 Jahren schlauer als wir werden und wir uns Sorgen machen müssen, was dann passiert .
- Tsarathustra (@tsarnick) 25. Oktober 2024
OpenAI , das 2015 als gemeinnütziges Forschungslabor gegründet wurde, ist laut seinem CEO Sam Altman in der Mitte der Versuche, sich in eine gemeinnützige Einheit zu verwandeln. Jan Leike, OpenAs früherer Leiter der Ausrichtung, dessen Team sich auf KI -Sicherheit konzentrierte, trat letztes Jahr zurück und sagte in den letzten Jahren, dass „Sicherheitskultur und Prozesse glänzende Produkte in den Hintergrund aufgenommen haben“.
James White, Chief Technology Officer des Cybersecurity -Startups Calypso, argumentierte, dass Technologieunternehmen immer mehr Abkürzungen einnehmen, wenn es darum geht, ihre KI -Modelle rigoros zu testen, bevor sie an die Öffentlichkeit weitergegeben werden. Er bemerkte, dass neuere KI -Modelle die Sicherheit für Qualität opfern, dh bessere Antworten der KI -Chatbots.
"Die Models werden besser, aber es ist auch wahrscheinlicher, dass sie gut in schlechten Sachen sind. Es ist einfacher, sie dazu zu bringen, schlechte Sachen zu machen."
- James White, Chief Technology Officer bei Calypso.
Im März schien Google sein Produkt vor der Sicherheit zu priorisieren, nachdem es veröffentlicht hatte , und sagte, es sei das intelligenteste KI -Modell des Unternehmens. Das Unternehmen konnte die Modellkarte des Gemini 2.5 wochenlang nicht veröffentlichen, was bedeutet, dass es keine Informationen darüber teilte, wie das KI -Modell funktioniert oder seine Einschränkungen und potenziellen Gefahren bei seiner Veröffentlichung.
Das Unternehmen bestätigte am 2. April, dass es seine fortschrittlichsten Modelle für potenziell gefährliche Fähigkeiten vor ihrer Freilassung bewertet. Google hat später den Blog -Beitrag aktualisiert und die Wörter "vor ihrer Veröffentlichung" weggelassen.
Das Unternehmen veröffentlichte am 16. April eine unvollständige Modellkarte und hat sie am 28. April, mehr als einen Monat nach der Veröffentlichung des KI -Modells, aktualisiert, um Informationen über die gefährlichen Fähigkeitsbewertungen von Gemini2.5 aufzunehmen.
KI-Technologieunternehmen verlagern sich von der Forschung in Richtung umsatzerzeugender Produkte
Ehemalige Meta -Mitarbeiter sagten, sie seien nicht überrascht worden, als Joelle Pineau, ein Meta Vice Presi dent und der Leiter der Messedivision des Unternehmens, bekannt gab , dass sie ihren Posten am 30. Mai verlassen würde. Sie erwähnten, dass sie es als Verfestigung des Unternehmens von der KI -Forschung angesehen haben und die Entwicklung praktischer Produkte vorzunehmen.
Pineau hat seit 2023 fair geführt, und laut Angaben von Mitarbeitern von Meta könnten kleine Forschungsteams an verschiedenen Technologien für Blutungen arbeiten, die möglicherweise ausgehen oder nicht. Die Verschiebung begann, als das Technologieunternehmen Ende 2022 21.000 Mitarbeiter oder fast ein Viertel seiner Belegschaft entließ. Ehemalige Mitarbeiter, die mit der Angelegenheit vertraut waren, sagten, dass faire Forscher im Rahmen der Kostensensmaßnahmen enger mit Produktteams zusammenarbeiten würden.
Zwei mit der Angelegenheit vertraute Personen sagten, dass Anfang dieses Jahres, einer der Direktoren von Fair, Kim Hazelwood, das Unternehmen im Rahmen des Plans von Meta verlassen hatte, 5% seiner Belegschaft zu kürzen. Die Leute stellten fest, dass OpenAIs Start von Chatgpt ein Gefühl der Dringlichkeit bei Meta erzeugt hat, um mehr Ressourcen in Großsprachmodelle (LLMs) zu gießen.
Die Personen zeigten auch, dass Chris Cox, Chief Product Officer von Meta, Fair beaufsichtigt hat, um die Lücke zwischen Forschung und produktorientierter Genai-Gruppe zu schließen. Sie fügten hinzu, dass Genai unter Cox aufgrund seines erhöhten Status im Unternehmen mehr Computerressourcen und Teammitglieder von Fair abgeschlossen hat.
Im vergangenen Monat hat Meta Sicherheits- und Sicherheitstools für Entwickler veröffentlicht META sagte, dass die Werkzeuge dazu beitragen, die Wahrscheinlichkeit von Lama 4 unbeabsichtigt sensible Informationen zu verringern oder schädliche Inhalte zu erzeugen.
Cryptopolitan Academy: Müde von Marktschwankungen? Erfahren Sie, wie DeFi Ihnen helfen kann, ein stetiges passives Einkommen aufzubauen. Registrieren Sie sich jetzt
