Revolutionärer Trainingsansatz befähigt KI zur Generalisierung wie menschliche Gehirne

In einer bahnbrechenden Entwicklung für das Feld der künstlichen Intelligenz (KI) haben Forscher ein neues Trainingsprotokoll vorgestellt, das die Fähigkeit eines KI-Modells zur Generalisierung und zum Verständnis von Informationen erheblich verbessern kann und es dem menschlichen Lernen und Schlussfolgern näher bringt. Dieser innovative Ansatz hinterfragt den herkömmlichen Glauben, dass mehr Daten der Schlüssel zur Verbesserung des maschinellen Lernens sind, und bietet neue Einblicke in die Geheimnisse sowohl der KI als auch der menschlichen Kognition.

Menschen sind darin hervorragend, verschiedene Komponenten zu verstehen und zu kombinieren, um die Welt zu begreifen, eine kognitive Fähigkeit, die als „Kompositionalität“ oder „systematische Generalisierung“ bekannt ist. Sie ermöglicht es uns, unbekannte Sätze zu entschlüsseln, originelle Antworten zu erstellen und die zugrunde liegenden Bedeutungen von Wörtern und Grammatikregeln zu verstehen. Die Erreichung von Kompositionalität war lange Zeit eine Herausforderung für KI-Entwickler, da traditionelle neuronale Netze Schwierigkeiten haben, diesen grundlegenden Aspekt der menschlichen Kognition nachzuahmen.

Während aktuelle generative KI-Modelle wie OpenAIs GPT-3 und GPT-4 Kompositionalität in gewissem Maße nachahmen können, schneiden sie in bestimmten Benchmarks oft ab und erfassen die Bedeutung und Absicht hinter den von ihnen generierten Sätzen nicht wirklich. Eine kürzlich in Nature veröffentlichte Studie legt jedoch nahe, dass ein einzigartiges Trainingsprotokoll, das sich darauf konzentriert, wie neuronale Netze lernen, der Schlüssel zur Bewältigung dieser Herausforderung sein könnte.

Den Lernprozess umgestalten

Die Autoren der Studie gingen einen anderen Ansatz beim Training KI, um die Notwendigkeit zu vermeiden, völlig neue KI-Architekturen zu erstellen. Stattdessen starteten sie mit einem Standard-Transformer-Modell, derselben grundlegenden Architektur, die in ChatGPT und Googles Bard verwendet wird, jedoch ohne vorheriges Texttraining. Die entscheidende Innovation lag im Trainingsregime selbst.

Die Forscher entwarfen eine Reihe von Aufgaben, die eine fiktive Sprache aus unsinnigen Wörtern wie „dax“, „lug“, „kiki“, „fep“ und „blicket“ umfassten. Diese Wörter waren mit Mengen bunter Punkte verbunden, wobei einige Wörter direkt bestimmte Punktfarben repräsentierten und andere Funktionen bezeichneten, die die Punktausgaben veränderten. Zum Beispiel repräsentierte „dax“ einen roten Punkt, während „fep“ eine Funktion war, die, kombiniert mit „dax“ oder anderen symbolischen Wörtern, die entsprechende Punktausgabe mit drei multiplizierte. Entscheidend war, dass die KI keine Informationen über diese Zuordnungen erhielt; die Forscher stellten einfach Beispiele für unsinnige Sätze zusammen mit den entsprechenden Punktkonfigurationen bereit.

KI erreicht menschliches Verständnis

Während das KI-Modell trainiert wurde, lernte es allmählich, kohärent zu reagieren und sich an die impliziten Regeln der unsinnigen Sprache zu halten. Selbst wenn es mit neuen Wortkombinationen konfrontiert wurde, zeigte die KI ihre Fähigkeit, die erfundenen Regeln der Sprache zu „verstehen“ und auf zuvor ungesehene Phrasen anzuwenden. Dieses bemerkenswerte Kunststück deutete auf das Potenzial der KI zur Generalisierung hin, ein entscheidender Schritt in Richtung menschlicher Denkweise.

Um die Leistung der KI zu bewerten, verglichen die Forscher sie mit menschlichen Teilnehmern. In einigen Fällen antwortete das trainierte KI-Modell mit 100-prozentiger Genauigkeit und übertraf damit Menschen, die eine Genauigkeitsrate von etwa 81 Prozent erreichten. Selbst wenn die KI Fehler machte, spiegelten diese häufig von Menschen gemachte Fehler wider, was ihre Fähigkeit zur menschlichen Denkweise unterstrich.

Besonders bemerkenswert ist, dass diese beeindruckende Leistung mit einem relativ kleinen Transformer-Modell erreicht wurde, nicht mit einem massiven KI-Modell, das auf riesigen Datensätzen trainiert wurde. Diese Erkenntnis legt nahe, dass anstelle von KI-Modellen mit endlosen Daten zu überfluten, ein fokussierterer Ansatz, ähnlich wie in einem spezialisierten Linguistik- oder Algebra-Kurs, erhebliche Verbesserungen der KI-Fähigkeiten bewirken kann.

Implikationen und künftige Richtungen

Zwar bietet dieses neue Trainingsprotokoll vielversprechende Ergebnisse, doch ist es wichtig, seine Grenzen anzuerkennen. Das KI-Modell war in spezifischen Aufgaben im Zusammenhang mit der Mustererkennung innerhalb einer erfundenen Sprache hervorragend, hatte jedoch Schwierigkeiten, wenn es mit völlig neuen Herausforderungen oder ungeübten Formen der Generalisierung konfrontiert wurde. Folglich ist es entscheidend zu erkennen, dass die Erreichung einer begrenzten Generalisierung in der KI ein signifikanter Schritt ist, aber das ultimative Ziel der allgemeinen künstlichen Intelligenz noch nicht erreicht.

Armando Solar-Lezama, ein Informatiker am Massachusetts Institute of Technology, weist darauf hin, dass diese Forschung neue Wege zur Verbesserung der KI eröffnen könnte. Indem wir uns darauf konzentrieren, Modelle effektiv reasoning zu lehren, selbst in synthetischen Aufgaben, könnten wir Wege finden, die KI-Fähigkeiten über die aktuellen Grenzen hinaus zu erweitern. Allerdings könnte die Skalierung dieses neuen Trainingsprotokolls Herausforderungen mit sich bringen, die angegangen werden müssen.

Neben den praktischen Auswirkungen auf die KI könnte diese Forschung auch Einblicke in das innere Funktionieren neuronaler Netze und ihre emergenten Fähigkeiten geben. Das Verständnis dieser Prozesse könnte dazu beitragen, Fehler in KI-Systemen zu minimieren und unser Verständnis der menschlichen Kognition zu vertiefen.