Anthropic-CEO sagt, dass die Kosten für das Training von KI in den nächsten drei Jahren auf 100 Milliarden US-Dollar steigen könnten

Die Kosten für das Training von KI-Modellen (Künstliche Intelligenz) steigen rapide, wobei Prognosen für die nächsten Jahre einen deutlichen Anstieg nahelegen. Dario Amodei, CEO des KI-Startups Anthropic, hob diese steigenden Ausgaben in einer jüngsten Episode des Podcasts „In Good Company“ hervor.

Auch lesen: Samsung-Mitarbeiter streiken und fordern höhere Löhne angesichts wachsender KI-Konkurrenz

Aktuelle fortschrittliche KI-Modelle wie ChatGPT-4 benötigen etwa 100 Millionen US-Dollar für das Training. Aber, laut Amodei, könnten diese Kosten in den nächsten drei Jahren auf zwischen 10 Milliarden und 100 Milliarden US-Dollar steigen.

Die Entwicklung der allgemeinen künstlichen Intelligenz treibt die Kosten in die Höhe

Der starke Anstieg ist auf den Wechsel von generativer KI, wie ChatGPT, zur allgemeinen künstlichen Intelligenz (AGI) zurückzuführen. Der Fortschritt hin zur AGI zielt darauf ab, Systeme zu entwickeln, die Wissen auf eine dem menschlichen Geist ähnliche Weise verstehen, erwerben und nutzen können.

„Ich denke, wenn wir auf 10 oder 100 Milliarden US-Dollar kommen, und ich glaube, das wird 2025, 2026, vielleicht 2027 passieren … dann glaube ich, dass es eine gute Chance gibt, dass wir bis dahin Modelle haben werden, die in den meisten Dingen besser sind als die meisten Menschen.“ 

Amodei

Laut Tom’s Hardware ist der bestehende Rahmen für diese Fortschritte derzeit massiv. Um beispielsweise ChatGPT zu trainieren, wurden über 30.000 GPUs benötigt, und jeder Nvidia B200 AI-Chip kostet zwischen 30.000 und 40.000 US-Dollar. Diese Investition in Hardware ist eines der Elemente, die zu den gestiegenen Ausgaben beitragen könnten. 

Rechenressourcen treiben die KI-Trainingskosten in die Höhe

Es gibt mehrere Gründe, warum die Kosten für das KI-Training steigen. Der Hauptgrund ist, dass die Menge an benötigten Rechenressourcen immens ist. Mit dem Fortschritt bei Deep-Learning-Modellen werden leistungsstarke GPUs und andere speziell entwickelte Hardware benötigt. Im Jahr 2023 wurden über 3,8 Millionen GPUs an Rechenzentren ausgeliefert, was das Ausmaß der erforderlichen Infrastruktur verdeutlicht. 

Auch lesen: Künstliche Intelligenz wird einen breiten Bereich öffentlicher Dienste beeinflussen

Ein weiterer wichtiger Faktor ist der Energieverbrauch. Der Stromverbrauch aller im letzten Jahr verkauften GPUs würde ausreichen, um 1,3 Millionen Haushalte zu versorgen. Dieser hohe Energieverbrauch führt nicht nur zu hohen Ausgaben für das Unternehmen, sondern wirft auch Fragen zu den Auswirkungen auf die Umwelt und den Naturschutz auf. Laut einem jüngsten Bericht von Google stiegen die Emissionen des Unternehmens in vier Jahren um fast 50 %, hauptsächlich aufgrund der für das KI-Training erforderlichen Energie.

Tech-Giganten investieren stark in KI-Infrastruktur

Darüber hinaus investieren führende Technologieunternehmen viel Geld in die Weiterentwicklung der künstlichen Intelligenz. Elon Musk möchte beispielsweise 300.000 der modernsten AI-Chips von Nvidia kaufen. Ebenso wird berichtet, dass Microsoft und OpenAI an einem 100-Milliarden-US-Dollar-Rechenzentrum für die Weiterentwicklung der KI arbeiten.

Auch lesen: Wimbledon setzt KI ein, um Online-Belästigung zu bekämpfen

Trotz dieser steigenden Kosten gibt es Bestrebungen, die Kosten des KI-Trainings zu optimieren. Googles DeepMind hat kürzlich eine Technik namens Joint Example Selection (JEST) vorgestellt, die behauptet, die Anzahl der Iterationen um den Faktor 13 und den Bedarf an Rechenressourcen um den Faktor 10 zu reduzieren. Dies hilft, die zu verwendenden Ressourcen und die benötigte Zeit zu reduzieren.

Trotz dieser Fortschritte ist die allgemeine Richtung aufgrund der Weiterentwicklung der AGI hin zu höheren Kosten gerichtet. Von der generativen KI zur AGI müssen die Modelle große Datensätze interpretieren, daraus lernen, verschiedene Situationen vorhersagen und Probleme lösen, die kritisches Denken erfordern. 

Bericht von Cryptopolitan von Brenda Kanana