Kasachstan wird sein erstes großes Sprachmodell einführen

Am 16. Dezember wird Kasachstan mit der Einführung seines ersten großen Sprachmodells (LLM) namens KazLLM einen bedeutenden technologischen Fortschritt erzielen. Die Einführung fällt mit dem 33. Jahrestag der Unabhängigkeit des Landes zusammen.

Lesen Sie auch: Generative KI erweckt Videospiel-NPCs zum Leben

Das Institut für Intelligente Systeme und Künstliche Intelligenz (ISSAI) gab dies am 18. Juli im Rahmen einer Pressekonferenz an der Nazarbayev-Universität bekannt. Die Datenerfassung für das Projekt begann im März, und das Modell wird mithilfe einer Cloud-Computing-Plattform trainiert, die mit NVIDIA H100-Knoten ausgestattet ist.

dentund Experten bündeln ihre Kräfte in der KI-Entwicklung

dentder Nazarbayev-Universität, der Astana IT University,dentdes Bolashak-Stipendiums und lokale Teilnehmer arbeiten gemeinsam am Projekt KazLLM. Hauptziel dieser Initiative ist die Entwicklung von KazLLM und die Schaffung von Fachkräften, die intelligente KI-Tools und -Anwendungen entwickeln können.

Die technologische Lücke zu anderen Ländern will ISSAI-Gründer und -Leiter Professor Atakan Varol mit diesem Projekt schließen. Er erklärte, dass Kasachstan nach dessen Fertigstellung technologisch nur noch 18 Monate hinter führenden Nationen zurückliegen werde. Die Integration von Sprachfunktionen soll diesen Zeitraum auf 12 Monate verkürzen, während weitere Fortschritte bei Spracherkennungsmodellen Kasachstan an die Spitze der KI-Entwicklung bringen könnten.

Wikipedia-Artikel, Nachrichtenportale, Regierungswebseiten und offene Datensätze wie Common Crawl gehören zu den Datenquellen für das Projekt. Seit über fünf Jahren erstellt ISSAI verschiedene Datensätze zur Verarbeitung natürlicher Sprache, die speziell für die kasachische Sprache entwickelt wurden. Diese umfangreiche Sammlung von Datensätzen ist von großer Bedeutung, da sie ein effektives und präzises Training von KazLLM ermöglicht.

Kasachstan hofft, die nationale und die Informationssicherheit mithilfe von KI-Innovationen zu verbessern

Das KazLLM-Projekt hat Auswirkungen auf die nationale Sicherheit und die Informationssicherheit. Kasachstan erhofft sich durch die Entwicklung eines lokal erstellten Sprachmodells eine Minimierung seiner Abhängigkeit von ausländischer Technologie, die zu Datenschutzverletzungen und der Darstellung verzerrter Informationen führen kann.

Die stellvertretende Direktorin für Außenbeziehungen und leitende Datenwissenschaftlerin, Madina Abdrakhmanova, hob den umfangreichen Trainingskorpus des Modells hervor. „Er wird mindestens 100 Milliarden Token in Kasachisch, Russisch, Englisch und Türkisch umfassen, wobei jede Sprache mit 25 Milliarden Token vertreten ist“, sagte die Direktorin.

Das Projekt verfügt aktuell über mehr als 30 Milliarden Token, darunter 26 Milliarden Token, die mithilfe des Tilmash-Übersetzers generiert wurden, der englische Daten ins Kasachische umwandelt. Diese Übersetzungsfunktion gewährleistet, dass das Modell kohärente und korrekte Texte in kasachischer Sprache erzeugen kann.

Lesen Sie auch: OpenAI setzt auf Lite und veröffentlicht ein günstigeres KI-Modell namens GPT-4o mini.

ISSAI plant, für KazLLM eine benutzerfreundliche Oberfläche zu entwickeln, ähnlich derer von OpenAI-Modellen, um die Zugänglichkeit zu verbessern. Nach Fertigstellung wird die Oberfläche die Interaktion mit dem Modell, das bestärkende Lernen durch menschliches Feedback und die Anpassung an verschiedene Situationen zur Leistungsoptimierung unterstützen. KazLLM wird als allgemeines Abonnementpaket und als API für erfahrene Nutzer angeboten.