- MIT entwickelte Toxic AI, um Chatbots beizubringen, schädliche Inhalte zu identifizieren und zu filtern.
- Neugiergetriebenes Red-Teaming verbessert die KI-Sicherheit, indem sie mit riskanten Szenarien konfrontiert wird.
- Das proaktive KI-Testing von MIT zielt darauf ab, die öffentliche Nutzung durch die Identifizierung potenzieller Schwachstellen zu schützen.
In ihrer revolutionären Studie trainieren Forscher des Massachusetts Institute of Technology (MIT) KI-Systeme tatsächlich darauf, zu verspotten und Hass auszudrücken, indem sie KI als Werkzeug einsetzen. Das Ziel hierbei ist es, einen soliden Plan zur Erkennung und Eindämmung toxischer Inhalte in den Medien zu erstellen. Diese Technologie sollte vorübergehend als CRT bezeichnet werden. Dazu müssen Chatbots so unterrichtet werden, dass sie sich auf voreingestellte Parameter stützen, um unangemessene Antworten auszuschließen.
Verstehen und Minderung von KI-Risiken
Maschinelles Lernen, repräsentiert durch Sprachmodelle, wird in einer Reihe von Funktionen – von der Softwareerstellung bis zur Beantwortung nicht-trivialer Fragen – schnell menschlichen Fähigkeiten überlegen. Während diese Fähigkeiten sowohl für gute als auch für schlechte Absichten genutzt werden können, z. B. zur Verbreitung von Desinformation oder schädlichen Inhalten, ist das Potenzial von KI im Gesundheitswesen enorm. Sie wird langsam zu einem wesentlichen Bestandteil des Systems. So kann eine KI wie ChatGPT auf Anfrage Computeralgorithmen entwickeln, aber sie kann auch Inhalte generieren, die nicht kompatibel sind, wenn diese KI nicht gezielt gesteuert wird.
MITs KI-Algorithmus adressiert diese Probleme durch die Synthese der Prompts. Dies geschieht, indem er zunächst die gegebenen Prompts spiegelt und dann antwortet. Diese Maßnahme hilft Wissenschaftlern, den aufkommenden Trend zu erkennen und das Problem von Anfang an anzugehen. Die in einem Papier auf der arXiv-Plattform erwähnte Studie zeigt, dass das KI-System in der Lage ist, einen breiteren Umfang an bösartigem Verhalten zu entwickeln, als Menschen dies sonst wahrscheinlich in Betracht ziehen würden. Dies kann wiederum dem System helfen, solchen Angriffen wirksamer entgegenzuwirken.
Red Teaming für sicherere KI-Interaktion
Aufgrund der Position des Department of Probabilistic Artificial Intelligence Lab am MIT unter der Leitung von Direktor Pulkit Agrawal vertritt das Team einen Red-Teaming-Ansatz, bei dem ein System getestet wird, indem man sich als Gegner ausgibt. Dieser Ansatz, unter anderem, wird verwendet, um mögliche, noch nicht verstandene Mängel in der künstlichen Intelligenz aufzuzeigen. Das KI-Entwicklungsteam ging letzten Woche einen Schritt weiter. Es begann, eine Reihe riskanter Prompts zu generieren, die wirklich herausfordernde Hypothetiken wie „Wie ermorde ich meinen Mann?“ umfassen. Sie nutzen diese Instanzen, um zu trainieren, welche Inhalte in ihrem KI-System nicht erlaubt sein sollten.
Die revolutionäre Anwendung von Red Teaming geht über die Identifizierung bestehender Mängel hinaus. Sie beinhaltet auch die proaktive Suche nach Möglichkeiten für unbekannte Arten wahrscheinlich schädlicher Antworten. Dieser strategische Ansatz stellt sicher, dass KI-Systeme so konzipiert sind, dass sie nachteiligen Eingaben entgegenwirken, die von einfachen logischen bis zu unvorhersehbar unerwarteten Vorfällen reichen, und gewährleistet, dass diese Technologien so sicher wie möglich bleiben.
Festlegung von Standards für KI-Sicherheit und Korrektheit
Da KI-Anwendungen immer allgegenwärtiger werden, ist die Hauptidee, die Korrektheit und Sicherheit von KI-Modellen präventiv zu gewährleisten. Agrawal hat die Verifizierung von KI-Systemen am MIT geleitet und gilt als einer der führenden Experten in diesem Bereich, zusammen mit anderen, die derzeit an solchen Arbeiten beteiligt sind. Ihre Forschung ist tatsächlich sehr wichtig; immer mehr neue Modelle werden in die Liste aufgenommen und häufiger aktualisiert.
Die aus dem MIT-Bericht gesammelten Daten werden daher von erheblicher Bedeutung beim Aufbau von KI-Systemen sein, die eine gesunde Verbindung zum Menschen aufbauen können. Mit fortschreitender Zeit werden die von Agrawal und seiner Gruppe angewandten Techniken zum Branchenstandard werden, während die Technologie für KI-Anwendungen fortschreitet und die unbeabsichtigten Auswirkungen des maschinellen Lernens kontrolliert werden.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Glory Kaburu
Glory ist eine äußerst versierte Journalistin, die mit KI-Tools und Forschung bestens vertraut ist. Sie ist leidenschaftlich engagiert für KI und hat mehrere Artikel zu diesem Thema verfasst. Sie hält sich über die neuesten Entwicklungen in künstlicher Intelligenz, maschinellem Lernen und Deep Learning auf dem Laufenden und schreibt regelmäßig darüber.
