UK geht gegen KI-Chatbots vor, um Kinder online zu schützen

Die britische Regierung ist dabei, die Regulierung der Nutzung von KI-Chatbots zu verschärfen, um Kinder besser vor schädlichen und illegalen Inhalten zu schützen. 

Premierminister Keir Starmer hat bekannt gegeben einen Prozess eingeleitet, um eine rechtliche Lücke zu schließen, die Chatbot-Anbietern erlaubte, außerhalb der wichtigsten Online-Sicherheitsgesetze zu operieren. Es wird Unternehmen, die KI-Chatbots herstellen und betreiben, auferlegen, aktiv gegen illegale Inhalte vorzugehen und sicherzustellen, dass ihre Plattformen für jüngere Nutzer sicher sind. 

Jetzt behauptet die Regierung, sie werde die Art und Weise ändern, wie das Online Safety Act is durchgesetzt wird, und spezifizieren, wie Chatbots dem Gesetz entsprechen müssen. Die Regulierung wurde viel früher im Prozess entwickelt, aber hauptsächlich an die Anforderungen von Social-Media-Plattformen und öffentlichen Foren angepasst, in denen Menschen ihre Inhalte posten konnten. Weder die Betreiber privater KI-Chatbots noch die Nutzer erhielten eine gleichwertige Abdeckung, und ihre Verantwortlichkeiten bleiben unklar. Starmer versprach, diese Schlupflösch bald zu schließen.

Chatbot-Unternehmen müssen sich an die gleichen rechtlichen Verpflichtungen halten wie andere Online-Unternehmen, warnte er, oder bestraft werden. Die Regierung sagt, diese Änderung muss sicherstellen, dass Chatbot-Anbieter ihre Systeme aktiv überwachen und illegale Materialien blockieren. Vor seiner Ankündigung sagte Starmer, dass kein Technologieunternehmen von dem Gesetz ausgenommen sein würde.

Die Regierung fürchtet auch, dass die Behandlung von KI-Chatbots anders als bei Social-Media-Plattformen Kinder schädlichen oder unangemessenen Inhalten aussetzen könnte. Beamte glauben, dass, wenn KI-Chatbots ihr gewünschtes Publikum erreichen sollen, insbesondere Teenager und Jugendliche, strengere Schutzmaßnahmen notwendig sind.

Neue Befugnisse zur Bekämpfung sich schnell verändernder Technologien

Zusätzlich zum Schließen rechtlicher Lücken, wird die Regierung neue Befugnisse schaffen, die schnellere Maßnahmen ermöglichen, wenn Risiken auftreten. Statt darauf zu warten, dass das Parlament völlig neue Gesetze verabschiedet, werden Aufsichtsbehörden schneller auf Technologien reagieren. 

Dies ist eine Möglichkeit, sicherzustellen, dass Schutzmaßnahmen mit dem schnellen Fortschritt in der künstlichen Intelligenz Schritt halten. KI-Tools verbessern sich schnell und dringen in neue Bereiche vor. Infolgedessen können Risiken plötzlich auftreten, und Aufsichtsbehörden benötigen Flexibilität, um sie zu adressieren. 

Starmer wies kürzlich auf die Risiken schädlicher KI-generierter Inhalte hin, wie Fälle, in denen Technologie genutzt wird, um sexualisierte Bilder von Personen ohne deren Zustimmung zu erstellen. 

Er nannte solche Nutzungen inakzeptabel und sagte, dass bestehende Gesetze dagegen durchgesetzt werden sollten. Die Regierung sagte, eine bessere Durchsetzung würde Unternehmen zwingen, von Anfang an sicherere Systeme zu entwickeln. 

Dazu könnten Schutzmaßnahmen gehören, die in die Chatbot-Software integriert sind, um illegale Inhalte zu identifizieren und zu verhindern, bevor Nutzer sie sehen. Technologieunternehmen werden auch dafür verantwortlich gemacht, wie sich ihre KI-Systeme verhalten. 

Das bedeutet, dass sie Ausgaben überwachen, Sicherheitsfunktionen verbessern müssen, um Systeme sicherer zu machen, und schnell reagieren müssen, wenn Fehler erkannt werden.

Regierungsmaßnahmen zum Schutz von Kindern vor Schäden

Die Verschärfung der Regulierung von KI-Chatbots ist Teil der größeren Herausforderung, die Sicherheit von Kindern auf praktisch jeder digitalen Plattform zu gewährleisten. Die Regierung prüft neue Maßnahmen, die das Risiko weiter verringern könnten. 

Eine in Arbeit befindliche Vorschläge ist die Anforderung, dass Nutzer ein bestimmtes Alter erreichen müssen, um auf soziale Medien zugreifen zu können. Beamte untersuchen auch, wie die Einschränkung von Funktionen wie dem endlosen Scrollen übermäßiger Bildschirmzeit entgegenwirken kann, sowie die Erschwerung für junge Menschen, sich von schädlichen oder süchtig machenden Inhalten. 

abzulösen. Diese Änderungen könnten nach öffentlichen Konsultationen zum Wohlergehen von Kindern im Internet folgen. Eltern, Pädagogen und Sicherheitsexperten sind besorgt über die Auswirkungen digitaler Plattformen auf die psychische Gesundheit junger Menschen und das Ausmaß der Exposition gegenüber unangemessenen Inhalten. 

Das übergeordnete Ziel der Regierung ist es, ein sichereres Online-Umfeld zu schaffen, in dem Kinder die Vorteile der Technologie nutzen können, ohne schwerwiegenden Schäden ausgesetzt zu sein.