Forderung nach Transparenz in KI wächst, während Howso „Black-Box“-KI angeht

In einer Welt, die zunehmend von künstlicher Intelligenz (KI) getrieben wird, ist Transparenz in Entscheidungsprozessen zu einer drängenden Sorge für viele geworden. Mike Capps, Mitbegründer von Howso, einem in Raleigh ansässigen Unternehmen, das sich auf erklärbare KI spezialisiert hat, behauptet, dass Menschen, genau wie sie die Zutaten in ihrem Frühstücksessen prüfen, Transparenz in KI-Systeme fordern sollten, die kritische Aspekte ihres Lebens wie Gesundheitsversorgung und Bildung beeinflussen.

Der Aufstieg der Black-Box-KI

Die allgegenwärtige Präsenz von KI in unserem Leben hat zu ihrer Nutzung in entscheidenden Entscheidungsprozessen geführt, von medizinischen Eingriffen und Kreditgenehmigungen bis hin zu Haftentlassungsentscheidungen. Capps argumentiert jedoch, dass ein signifikantes Problem bei vielen bestehenden KI-Systemen ihre Undurchsichtigkeit ist, die oft als „Black-Box-KI“ bezeichnet wird. 

Diese Systeme treffen endgültige Urteile, ohne klare Einblicke darin zu geben, wie diese Schlussfolgerungen zustande kommen, und lassen Nutzer und Interessenträger im Dunkeln über die Entscheidungskriterien.

Howso, früher bekannt als Diveplane, wurde 2018 von Mike Capps mit der Mission gegründet, der Verbreitung von Black-Box-KI entgegenzuwirken. Der einzigartige Ansatz des Unternehmens zur KI, bekannt als „attributable AI“ (nachvollziehbare KI), hebt es hervor. 

Nachvollziehbare KI ermöglicht es Nutzern, eine Entscheidung bis zu spezifischen Datenpunkten zurückzuverfolgen, wodurch der Entscheidungsprozess transparent und verständlich wird. Wenn beispielsweise eine Empfehlung für eine medizinische Operation ausgesprochen wird, kann das System von Howso die 17 wichtigsten Datenpunkte identifizieren, die diese Entscheidung beeinflusst haben, und bietet so Klarheit und Rechenschaftspflicht.

Die KI-Engine von Howso hat Anwendungen in verschiedenen Bereichen gefunden. Einer ihrer Kunden, Scanbuy, arbeitet mit großen Einzelhändlern zusammen, um das Tool von Howso für Kundenintelligenz zu nutzen. Dies ermöglicht es Einzelhändlern, Kundenpräferenzen vorherzusagen, und zwar auf eine Weise, die sowohl genau als auch erklärbar ist. 

Bemerkenswerterweise haben auch Bildungseinrichtungen wie die N.C. State University und die UNC die Technologie von Howso für spezifische Projekte übernommen, was die wachsende Nachfrage nach transparenter KI in der Akademie unterstreicht.

Die Entscheidung, die KI-Engine von Howso im September quelloffen zu machen, unterstreicht das Engagement des Unternehmens für Transparenz. Dieser Schritt befähigt Nutzer, ihre eigenen erklärbaren KI-gestützten Plattformen zu gestalten und erweitert so die Reichweite transparenter KI-Technologie weiter.

Bemerkenswerte Kunden und Partnerschaften

Die beeindruckende Liste der Kunden von Howso umfasst Branchenriesen wie Mastercard und Mutua de Madrileña, eine spanische Versicherungsgesellschaft. Darüber hinaus hat das Virginia Department of Behavioral Health and Developmental Services die Technologie von Howso für verbesserte Entscheidungsprozesse genutzt. Diese Partnerschaften demonstrieren die breite Anwendbarkeit und Nachfrage nach KI-Systemen, die Transparenz und Rechenschaftspflicht priorisieren.

Capps unterstreicht die kritische Bedeutung von Transparenz in der KI und zieht eine Parallele zu Lebensmitteletiketten. Genau wie Verbraucher sich auf Nährwertangaben verlassen, um informierte Entscheidungen über ihre Nahrung zu treffen, sollten Individuen ähnliche Transparenz bezüglich KI-gestützter Entscheidungen fordern, die ihr Leben beeinflussen. Es geht nicht nur um Vertrauen, sondern auch um eine grundlegende Anforderung für verantwortungsvolle Softwareentwicklung.

Die Fallstricke der Black-Box-KI

Black-Box-KI, wie Capps hervorhebt, birgt mehrere inhärente Probleme. Erstens wirft sie Fragen nach der Zuverlässigkeit und Rechenschaftspflicht von KI-Systemen auf. Wenn die inneren workings eines KI-Systems verborgen sind, wird es schwierig, Fehler oder Bugs zu identifizieren und zu beheben. Folglich bleiben die potenziellen Folgen unbehandelt, was zu erheblichen Ersatzkosten führen kann.

Eine besonders wichtige Anwendung von KI, bei der Transparenz entscheidend ist, sind Haftentlassungsentscheidungen. Diese Bestimmungen stützen sich oft auf historische Daten, die Verzerrungen enthalten können. Diese Verzerrungen können bei der Skalierung zur Steigerung der Effizienz fortbestehen und zu unfairen und diskriminierenden Ergebnissen führen. Capps betont, dass zwar der Wunsch besteht, Gerichtsverfahren zu straffen und zu beschleunigen, dies jedoch nicht auf Kosten der Fortdauer rassistischer Verzerrungen geschehen sollte.