KI-Apps sollen „Sicherheitslabels“ enthalten, die Risiken und Tests hervorheben
Labels müssen Risiken und Tests in KI-Apps klar angeben.
- KI-Entwickler müssen Labels mit Hinweisen auf Risiken und Sicherheitsprobleme in ihre Apps aufnehmen.
- Dieser Schritt hilft Nutzern, die Technologie der künstlichen Intelligenz zu verstehen und die Privatsphäre zu wahren.
- Ein Leitfaden zur Datenanonymisierung wird für Länder in der ASEAN-Region verfügbar sein.
In naher Zukunft könnten Nutzer von generativen KI-Apps Labels finden, die klar umreißen, wie die KI genutzt werden soll, welche damit verbundenen Risiken bestehen und wie der Testprozess abläuft. Gemäß neuen Richtlinien werden Labels verpflichtend, um die Technologie für die Massen verständlicher zu machen.
Auch lesen: Europäische Union (EU) führt in der KI-Regulierung
Singapurs Ministerin für Kommunikation und Information, Frau Josephine Teo, sagte, dass die neue Maßnahme ein Versuch ist, einen Standard für Transparenz und Tests für Tech-Unternehmen zu definieren. Sie sprach auf der Tech-Konferenz zum Schutz personenbezogener Daten am 15. Juli, laut einem Bericht der Strait Times.
KI-App-Entwickler sollten transparent über ihre Innovationen sein
Wie bei der Praxis, dass Medikamente oder Haushaltsgeräte Sicherheitslabels tragen, müssen Entwickler von generativen KI-Apps klar darüber informieren, wie die KI-Modelle genutzt und entwickelt werden. Frau Teo, die auch Ministerin für die Smart-Nation- und Cybersicherheitsinitiative ist, sagte:
„Wir werden empfehlen, dass Entwickler und Bereitsteller transparent mit Nutzern umgehen, indem sie Informationen darüber bereitstellen, wie die generativen KI-Modelle und Apps funktionieren.“
Die Ministerin erklärte die bevorstehenden Regeln und sagte, sie seien ähnlich wie beim Öffnen einer „Box mit rezeptfreien Medikamenten“. Man findet ein Blatt Papier, das klar angibt, wie das Medikament verwendet werden soll und welche möglichen „Nebenwirkungen auftreten können.“
Teo betonte: „Dieses Maß an Transparenz“ ist für KI-Systeme erforderlich, die auf einer generativen künstlichen Intelligenz basieren. Der neue Regelkatalog wird Sicherheitsbenchmarks definieren, die vor der Veröffentlichung eines KI-Modells an die Öffentlichkeit eingehalten werden sollten.
Leitfaden zur Datenanonymisierung soll in 2025 veröffentlicht werden
Generative künstliche Intelligenz ist eine Gattung der KI, die neue Texte und Bilder generieren kann und weniger vorhersehbar ist als traditionelle KI. Gemäß den neuen Richtlinien müssen Ersteller die Risiken der Verbreitung von Lügen, feindseligen Kommentaren und voreingenommenen Narrativen in den Inhalten erwähnen.
Teo sagte, dass Haushaltsgeräte Labels tragen, die klar angeben, dass der Artikel auf sichere Nutzung getestet wurde; andernfalls wüsste ein Kunde nicht, ob das Gerät sicher ist. Dies wird auch für KI-Anwendungen praktiziert. Singapurs Infocomm Media Development Authority (IMDA) wird mit der Branche über die neuen Regeln konsultieren. Teo erwähnte jedoch kein Datum für die Richtlinien.
IMDA hat auch einen Leitfaden zu datenschutzbezogenen Themen in der Technologie veröffentlicht, der der wachsenden Nachfrage nach Daten zum Trainieren von KI-Modellen bei gleichzeitiger Wahrung der Privatsphäre der Nutzer gerecht wird, sagte Teo.
Denise Wong, stellvertretende Chief Executive von IMDA, sagte: „Die Sicherung von Daten in generativer KI ist für die Branche herausfordernder.“ Sie äußerte ihre Ansichten in einer separaten Podiumsdiskussion über KI und Datenschutz während der Veranstaltung. Vertreter verschiedener Tech-Unternehmen waren Teil der Podiumsdiskussion, darunter ChatGPT-Hersteller OpenAI und die Beratungsfirma Accenture.
Datenschutz-Sicherheitsvorkehrungen sollten in allen Phasen der KI-Entwicklung und -Bereitstellung vorhanden sein, sagte Jessica Gan Lee, Leiterin des Datenschutzes bei OpenAI. Sie sagte, KI-Modelle sollten mit diversen Datensätzen aus „allen Ecken der Welt“ trainiert werden. Lee betonte, dass mehrere Kulturen, Sprachen und Quellen in das KI-Training einbezogen werden sollten, zusammen mit der Suche nach Wegen, die Verarbeitung personenbezogener Daten zu begrenzen.
Teo sagte, ein Leitfaden zur Datenanonymisierung werde Anfang 2025 für in ASEAN tätige Unternehmen eingeführt. Der Leitfaden wird aus einem Treffen regionaler Beamter im Februar resultieren, das Möglichkeiten zur Schaffung eines sicheren globalen digitalen Ökosystems erkundete.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Aamir Sheikh
Aamir ist Tech-Journalist mit fast sechs Jahren Erfahrung in der Krypto- und Technologiebranche. Er absolvierte sein Studium an der MAJ University mit einem MBA in Finanzen und Marketing. Heute arbeitet er für Cryptopolitan, wo er über die neuesten Entwicklungen in den Kryptowährungsmärkten und Preisprognosen berichtet.
