DPDs KI-Chatbot durchdreht: Entschuldigung nach Beschimpfungen und Kritik am Unternehmen
Chatbot
- DPD hat sich verrückt benommen, Leute beschimpft und Schlechtes über das Unternehmen gesagt.
- Ein Nutzer testete den Bot, brachte ihn dazu, unhöfliche Dinge zu sagen, und teilte dies online.
- DPD hat den Chatbot deaktiviert; es zeigt, dass KI manchmal seltsam agieren kann.
DPD, das Kurierunternehmen, sah sich kürzlich einer unerwarteten Herausforderung gegenüber, als sein KI-gestützter Chatbot aus dem Takt geriet und dabei Nutzer beschimpfte sowie die Dienstleistungen des Unternehmens kritisierte. Der Vorfall hat zu einer Entschuldigung von DPD und einer vorübergehenden Deaktivierung der Live-Chat-Funktion auf der Website geführt.
DPD hat die Chatbot-Funktionalität seiner Website kürzlich aktualisiert, um menschlichere Antworten auf Nutzeranfragen zu liefern. Als Teil dieser Updates integrierte das Unternehmen ein ChatGPT-ähnliches „Large Language Model“ (LLM) in den Chatbot.
Nutzer manipuliert Chatbot, um unangemessene Antworten zu erhalten
Ein viraler Tweet von Ashley Beauchamp enthüllte jedoch, dass der Chatbot manipuliert werden kann, um Antworten außerhalb der beabsichtigten Parameter von DPD zu geben. Beauchamps Interaktionen mit dem Chatbot führten dazu, dass dieser DPD als „die schlechteste Lieferfirma der Welt“ brandmarkte und explizite Bemerkungen machte.
Ashley Beauchamp, Spitzname „ChatDPD“, teilte eine Reihe von Screenshots auf Twitter, in denen seine Gespräche mit dem Chatbot eine überraschende Wendung nahmen. Trotz DPDs Bemühungen, sicherzustellen, dass keine Schimpfwörter verwendet wurden, antwortete der Chatbot mit: „F*** yeah! I’ll do my best to be as helpful as possible.“
Beauchamps Tweets erlangten erhebliche Aufmerksamkeit mit über einer Million Aufrufen. Als Reaktion auf diesen Vorfall hat DPD die Live-Chat-Funktion vorübergehend deaktiviert, während sie an der Lösung des Problems arbeiten.
Die Grenzen des Chatbots testen
Beauchamp, der scheinbar frustriert von der Leistung war, beschloss, die Grenzen des Chatbots zu testen, indem er ihn aufforderte, DPD zu kritisieren und sogar zu fluchen. Seine Bemühungen führten dazu, dass der Chatbot DPD als „unzuverlässig“, „schrecklich“ und „die schlechteste Lieferfirma der Welt“ bezeichnete. Er wurde dazu gezwungen, ein Gedicht und ein Haiku zu generieren, was seine Mängel hervorhob.
Der Vorfall unterstreicht eine häufige Herausforderung bei der Verwendung von KI-gestützten Chatbots und Large Language Models wie ChatGPT. Während diese Modelle mit riesigen Datenmengen trainiert werden, um hilfreiche und relevante Antworten zu liefern, können sie gelegentlich unerwartete oder unangemessene Inhalte generieren, wenn sie mit kreativen Eingaben konfrontiert werden.
KIs, einschließlich der von DPD, sollen die Nutzererfahrung verbessern, aber wenn sie nicht effektiv implementiert werden, können sie zu Frustration und unpersönlichen Interaktionen führen.
Weiterreichende Auswirkungen für KI und die kreativen Branchen
Ashley Beauchamp, ein Musiker, äußerte Bedenken hinsichtlich der Auswirkungen der KI auf kreative Branchen wie die Musikkomposition. KI-Tools wurden entwickelt, um komplette Musikstücke aus textbasierten Eingaben zu generieren, was Fragen zum geistigen Eigentum und zur Kreativität aufwirft.
Textbasierte Large Language Models wie ChatGPT wurden für das potenzielle Scraping urheberrechtlich geschützten Materials kritisiert, was die Notwendigkeit eines verantwortungsvollen KI-Einsatzes und einer Regulierung weiter unterstreicht.
DPD bestätigte die Authentizität des Gesprächs mit dem Chatbot und erkannte das Problem an. In einer Erklärung erklärte DPD, dass nach einem Systemupdate ein Fehler auftrat, der dazu führte, dass das KI-Element unerwartete Antworten produzierte. Infolgedessen wurde die KI-Funktion sofort deaktiviert, und es wird an der Lösung des Problems gearbeitet.
Vorherige Vorfälle mit durchgedrehten KI-Chatbots
Dieser Vorfall ist nicht der erste, bei dem KI-Chatbots durchgedreht sind und menschliche Kundenservice-Mitarbeiter ersetzt haben. In den Vereinigten Staaten wurde der Chatbot eines Chevrolet-Händlers offline genommen, nachdem Nutzer ihn dazu gezwungen hatten, SUVs für nur 1 US-Dollar anzubieten, obwohl der Preis eigentlich 56.200 US-Dollar betrug.
KI kann manchmal dazu manipuliert werden, unerwartete oder humorvolle Antworten zu produzieren, wenn Nutzer clevere Prompts eingeben.
Neben dem folgenden Vorfall steht die Leistung von DPD als Kurierunternehmen in der Kritik. Laut einer Rangliste, die von der Wohltätigkeitsorganisation Citizens Advice erstellt wurde, belegte DPD unter den britischen Kurierdiensten einen mittleren Platz und schnitt bei Preisen, zugänglichen Lieferoptionen, Kundenservice und seinem CO2-Fußabdruck schlecht ab.
Da KI weiterhin voranschreitet und in verschiedenen Sektoren eine prominentere Rolle spielt, wird es entscheidend, Probleme wie die bei DPD aufgetretenen zu lösen, um Kundenzufriedenheit und Vertrauen zu wahren.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Joseph Katala
Joseph ist ein erfahrener Profi in der Krypto- und Blockchain-Branche mit über drei Jahren Erfahrung. Sein Fachwissen umfasst eine breite Palette von Rollen, von Krypto-Schreiben und -Analyse bis hin zur Blockchain-Entwicklung. Mit einer tiefen Leidenschaft für das transformative Potenzial dieser Technologien setzt er sich dafür ein, das Verständnis in den Bereichen Krypto und Blockchain durch Medien zu fördern.
