Ein Drittel der britischen Unternehmen sieht Datensicherheit als großes Hindernis bei der Einführung von LLMs

Jedes dritte Unternehmen in Großbritannien macht sich Sorgen um die Sicherheit seiner Daten bei der Verwendung von Large Language Models (LLMs), da diese sich von Assistenten, die auf Befehle oder Fragen antworten, zu unabhängigen Systemen entwickelt haben, die ohne ständige menschliche Eingriffe handeln.

Aus diesem Zögern diese Organisationen, KI-Agenten vollständig in ihre Operationssysteme zu integrieren, aus Angst, die Kontrolle über ihre Daten und Sicherheit an Maschinen zu verlieren, die „für sich selbst denken“ können.

Die britische Regierung unternimmt Schritte, um diese Herausforderungen anzugehen. Staatsminister im Cabinet Office, Pat McFadden, kündigte die Entklassifizierung einer Geheimdiensteinschätzung an, die darauf hindeutet, dass KI die Cyberbedrohungen in den kommenden Jahren eskalieren lassen wird.

Im Jahr 2024 erhielt das NCSC fast 2.000 Berichte über Cyberangriffe, wobei fast 90 als „signifikant“ und 12 als „ganz oben in der Schwere“ eingestuft wurden. Dies war die dreifache Anzahl schwerer Angriffe im Vergleich zum Vorjahr.

Britische Unternehmen zeigen Bedenken hinsichtlich der Datensicherheit in LLMs

Unternehmen in Großbritannien müssen strenge Vorschriften einhalten, die die Daten der Menschen schützen und deren Missbrauch verhindern, wie das Datenschutzgesetz des Vereinigten Königreichs und die Datenschutz-Grundverordnung (DSGVO) der EU.

Unternehmen, die diese Gesetze brechen, riskieren rechtliche Schritte und einen Reputationsschaden, daher überdenken sie ihre LLM-Strategien. KI kann ohne sorgfältige menschliche Aufsicht oder genaue Eingabe private Informationen offenlegen oder irreführende Ergebnisse erzeugen. 

Anfangs boten KI-Tools wie Chatbots feste Antworten, während intelligente Thermostate nur die Temperatur änderten, indem sie einfachen Regeln folgten, ohne zu denken oder aus neuen Daten, früheren Aktionen oder den Ergebnissen ihrer Entscheidungen zu lernen. Heute nutzen KI-Agenten LLMs, um aus Daten zu lernen, ihre Aktionen basierend auf neuen Informationen zu ändern und verschiedene Probleme durch menschliches Denken zu lösen. 

Aber das ist nur ein kleiner Teil eines viel größeren Problems, da Menschen den Agenten auch anweisen können, eine Aufgabe zu erledigen, und dieser sie in kleinere Aktivitäten unterteilt, jede einzeln bearbeitet und dann die Ergebnisse bewertet. Darüber hinaus können einige Agenten zusammenarbeiten, um komplexe Aufgaben zu bewältigen, wobei einer von ihnen an der Arbeit arbeitet, während der andere die Ergebnisse überprüft, um das Ergebnis zu verbessern. 

Obwohl dieses Wachstum Unternehmen hilft, Abläufe zu automatisieren und die Zeit zu verkürzen, die menschliche Teams sonst aufgewendet hätten, ist es auch eine Bedrohung, da es mit zunehmender Anzahl von Entscheidungen, die diese Agenten selbst treffen, für uns immer schwieriger wird, vollständig zu verstehen, vorherzusagen oder zu kontrollieren, was sie tun. Ebenso können die Konsequenzen ihrer Fehler exponentiell wachsen, da diese KI-Agenten ohne Unterbrechung für menschliche Eingriffe handeln. 

Unternehmen setzen KI-Agenten vorsichtig in verschiedenen Abteilungen ein

Viele Unternehmen in Großbritannien verwenden KI-Agenten in ihren täglichen Abläufen, wobei Abteilungen wie Kundenservice, Personalwesen (HR) und Marketing die Tools langsam testen und genau überwachen.

Ein gutes Geschäftsbeispiel ist Pets at Home, das einen KI-Agenten für sein Veterinärpersonal entwickelt hat, um schnelle Antworten und Unterstützung während der Haustieruntersuchungen zu bieten, was zeigt, wie nützlich KI-Agenten auch für kleine Rollen in echten Jobs bleiben. 

Derzeit benötigen die meisten agentic AI-Systeme Menschen, die sie anleiten, ihre Arbeit überprüfen und Fehler beheben, da sie nicht bereit sind, Menschen vollständig ohne Aufsicht zu ersetzen. Die Zukunft könnte jedoch erfordern, dass Unternehmen schwierige Entscheidungen treffen, die es ihnen ermöglichen, KI-Agenten in Systeme zu integrieren, aber auch die Kontrolle zu behalten.