Die Forderung nach Transparenz bei KI wächst, während Howso sich mit dem Problem der „Black Box“-KI auseinandersetzt

In einer zunehmend von künstlicher Intelligenz ( KI ) geprägten Welt ist Transparenz in Entscheidungsprozessen für viele zu einem dringenden Anliegen geworden. Mike Capps, Mitbegründer von Howso, einem in Raleigh ansässigen Unternehmen, das sich auf erklärbare KI spezialisiert hat, argumentiert, dass Menschen, genau wie sie die Zutaten ihres Frühstücks genau prüfen, auch Transparenz in KI-Systemen fordern sollten, die wichtige Lebensbereiche wie Gesundheitswesen und Bildung beeinflussen.

Der Aufstieg der Black-Box-KI

Die allgegenwärtige Präsenz von KI in unserem Leben hat zu ihrem Einsatz in zentralen Entscheidungsprozessen geführt, von medizinischen Eingriffen und Kreditgenehmigungen bis hin zu Bewährungsentscheidungen. Capps argumentiert jedoch, dass ein wesentliches Problem vieler bestehender KI-Systeme ihre Intransparenz ist, die oft als „Black-Box-KI“ bezeichnet wird 

Diese Systeme fällen endgültige Urteile, ohne klare Einblicke in die Art und Weise zu gewähren, wie diese Schlussfolgerungen zustande kommen. Dadurch bleiben Benutzer und Interessengruppen im Dunkeln über die Entscheidungskriterien.

Howso, ehemals Diveplane, wurde 2018 von Mike Capps mit dem Ziel gegründet, die Verbreitung von intransparenter KI in Frage zu stellen. Der einzigartige KI-Ansatz des Unternehmens, die sogenannte „attributable KI“, zeichnet es aus. 

Attributable AI ermöglicht es Nutzern, eine Entscheidung auf spezifische Datenpunkte tracund so den Entscheidungsprozess transparent und nachvollziehbar zu gestalten. Wird beispielsweise eine Empfehlung für einen chirurgischen Eingriff ausgesprochen, kann das System von Howso die 17 wichtigsten Datenpunkte identifizieren, die diese Entscheidung beeinflusst haben, und sorgt so für Klarheit und Nachvollziehbarkeit.

Die KI-Engine von Howso findet in verschiedenen Branchen Anwendung. Einer der Kunden, Scanbuy, arbeitet mit großen Einzelhändlern zusammen, um Howsos Tool für Kundenanalysen zu nutzen. Dadurch können Einzelhändler Kundenpräferenzen präzise und nachvollziehbar vorhersagen. 

Insbesondere Bildungseinrichtungen wie NC State und UNC haben die Technologie von Howso für spezifische Projekte eingesetzt, was die wachsende Nachfrage nach transparenter KI in der Wissenschaft unterstreicht.

Die Entscheidung, Howsos KI-Engine im September als Open Source zu veröffentlichen, unterstreicht das Engagement des Unternehmens für mehr Transparenz. Dieser Schritt ermöglicht es Nutzern, ihre eigenen nachvollziehbaren, KI-gestützten Plattformen zu entwickeln und so die Reichweite transparenter KI- Technologie.

Bemerkenswerte Kunden und Partnerschaften

Zu Howsos beeindruckendem Kundenstamm zählen Branchenriesen wie Mastercard und Mutua de Madrileña, ein spanisches Versicherungsunternehmen. Auch das Virginia Department of Behavioral Health and Developmental Services nutzt Howsos Technologie, um Entscheidungsprozesse zu optimieren. Diese Partnerschaften belegen die breite Anwendbarkeit und die hohe Nachfrage nach KI-Systemen, die Transparenz und Verantwortlichkeit in den Vordergrund stellen.

Capps unterstreicht die entscheidende Bedeutung von Transparenz in der KI und zieht eine Parallele zu Lebensmittelkennzeichnungen. So wie Verbraucher sich auf Nährwertangaben verlassen, um informierte Entscheidungen über ihre Lebensmittel zu treffen, sollten auch Einzelpersonen ähnliche Transparenz hinsichtlich KI-gestützter Entscheidungen fordern, die ihr Leben beeinflussen. Es geht nicht nur um Vertrauen, sondern auch um eine grundlegende Voraussetzung für verantwortungsvolle Softwareentwicklung.

Die Tücken der Black-Box-KI

Wie Capps hervorhebt, birgt die Black-Box-KI mehrere inhärente Probleme. Erstens wirft sie Fragen hinsichtlich der Zuverlässigkeit und Nachvollziehbarkeit von KI-Systemen auf. Sind die internen Abläufe eines KI-Systems verborgen, wird es schwierig, Fehler zudentund zu beheben. Folglich bleiben potenzielle unbeabsichtigte Folgen oder Verzerrungen ungelöst, was zu erheblichen Ersatzkosten führt.

Eine besonders wichtige Anwendung von KI, bei der Transparenz unerlässlich ist, sind Bewährungsentscheidungen. Diese Entscheidungen basieren häufig auf historischen Daten, die Verzerrungen enthalten können. Diese Verzerrungen können sich bei einer Skalierung zur Effizienzsteigerung verfestigen und potenziell zu unfairen und diskriminierenden Ergebnissen führen. Capps betont, dass der Wunsch nach einer Straffung und Beschleunigung von Gerichtsverfahren nicht auf Kosten der Aufrechterhaltung rassistischer Vorurteile gehen darf.