Südkorea führt die globale Bewegung mit bahnbrechender KI-Gesetzgebung an

Im Januar 2026 führte Südkorea einen neuen Satz von KI-Gesetzen ein, was einen bedeutenden Meilenstein für jede große Nation markierte.

Der AI Basic Act ist ein Gesetz, das den ersten umfassenden regulatorischen Rahmen für KI schafft, der von einem einzelnen Land umgesetzt wird. Der formelle Name der Gesetzgebung lautet „Basic Act on the Development of Artificial Intelligence and the Establishment of a Foundation for Trustworthiness“.

Wesentliche Merkmale der neuen Regulierungen

Obwohl es einige Ähnlichkeiten zwischen dem südkoreanischen Gesetz und dem KI-Gesetz der Europäischen Union gibt, gibt es auch erhebliche Unterschiede. Ein Großteil der Regulierung konzentriert sich auf KI-Sicherheitsfragen, insbesondere solche, die mit generativer KI und großen Sprachmodellen verbunden sind. Deepfakes und die Verbreitung falscher Informationen über KI-Systeme gehören zu den Themen, die vom Gesetz abgedeckt werden.

Das Gesetz behandelt auch psychische Gesundheitsfragen, obwohl diese Teile nicht so umfangreich sind wie die von einer Reihe von US-Bundesstaaten erlassenen.

Millionen von Menschen wenden sich regelmäßig an generative KI, um Ratschläge zur psychischen Gesundheit einzuholen. Allein ChatGPT verzeichnet wöchentlich mehr als 900 Millionen Nutzer, und viele dieser Nutzer suchen Hilfe bei psychischen Gesundheitsfragen. Die Beratung zu psychischen Gesundheitsthemen durch KI zählt zu den häufigsten Anwendungen moderner generativer KI-Systeme.

Die Popularität ergibt Sinn, wenn man die Zugänglichkeit betrachtet. Die meisten großen KI-Systeme können kostenlos oder zu sehr niedrigen Kosten genutzt werden, jederzeit und überall verfügbar. Jeder, der Bedenken bezüglich der psychischen Gesundheit hat, kann sich einfach anmelden und zu jeder Stunde ein Gespräch beginnen.

Aber Experten warnen, dass KI ungeeignete oder sogar schädliche Ratschläge zur psychischen Gesundheit geben kann. Eine im vergangenen August gegen OpenAI eingereichte Klage hat die Bedenken hinsichtlich unzureichender Sicherheitsmaßnahmen hervorgehoben, wenn die KI kognitive Anleitung gibt. KI-Unternehmen sagen, sie würden langsam Schutzmaßnahmen hinzufügen, aber die Risiken bleiben bestehen.

KI kann potenziell dazu beitragen, dass Nutzer Wahnvorstellungen entwickeln, die zu Selbstverletzung führen könnten. Aktuelle allgemeine Sprachmodelle wie ChatGPT, Claude, Gemini und Grok können die Fähigkeiten von ausgebildeten menschlichen Therapeuten nicht erreichen. Spezialisierte KI-Systeme, die darauf ausgelegt sind, ähnliche Standards zu erreichen, befinden sich noch größtenteils in der Entwicklung und im Test.

Regulatorische Bemühungen in den Vereinigten Staaten

Nur eine Handvoll US-Bundesstaaten haben Gesetze erlassen, die speziell die KI regeln, die Ratschläge zur psychischen Gesundheit gibt. Viele andere Bundesstaaten erwägen ähnliche Gesetzgebungen. Einige Bundesstaaten haben auch Gesetze zur Kindersicherheit bei der Nutzung von KI, KI-Begleitungsmerkmalen und übermäßiger Schmeichelei durch KI-Systeme erlassen.

Dem Kongress sind bereits mehrfach erfolglose Versuche unterlaufen, bundesgesetzliche Regelungen zur KI zu verabschieden, die psychische Gesundheitsberatung betreffen. Diese Initiativen sind stets ins Stocken geraten. Bis jetzt sind diese umstrittenen KI-Anwendungen nicht durch irgendeine bundesgesetzliche Regelung abgedeckt. Die amerikanische Politik kann davon profitieren, zu untersuchen, wie andere Nationen die KI-Gesetzgebung handhaben. Der europäische Union AI Act, die chinesischen KI-Vorschriften sowie die Empfehlungen der Vereinten Nationen für die globale KI-Governance waren bereits Gegenstand vorheriger Untersuchungen.

Gemäß dem AI Basic Act ist es primäres Ziel, die grundlegenden Bedingungen zu schaffen , um einen neuen Rahmen für künstliche Intelligenz in Südkorea zu etablieren. Der Aufbau von Vertrauen in KI-Systeme und die Förderung einer gesunden KI-Entwicklung sind die Ziele des Gesetzentwurfs. Der Schutz der Rechte und der Würde der Menschen, die Verbesserung der Lebensqualität und die Steigerung der nationalen Wettbewerbsfähigkeit gehören zu den erklärten Zielen.

Der gemeinsame Nenner ist der Schutz der Menschheit vor potenziellen Schäden durch KI. Die KI-Branche spricht oft von „menschenzentrierter KI“, der Idee, dass KI sich an menschlichen Werten orientieren und Menschen unterstützen sollte, anstatt sie zu untergraben. Die nationale Wettbewerbsfähigkeit erscheint als ein zentrales Anliegen in den KI-Regulierungen der meisten Länder. Südkoreas Erwähnung der Steigerung der nationalen Wettbewerbsfähigkeit spiegelt diesen globalen Wettbewerb wider.

Die Verabschiedung des südkoreanischen AI Basic Act stellt einen wichtigen Moment in der Entwicklung der KI-Regulierung weltweit dar. Als erstes umfassendes nationales KI-Gesetz eines großen Landes wird es wahrscheinlich beeinflussen, wie andere Nationen ähnliche Gesetzgebungen angehen.