Altman warnt vor Datenschutzproblemen bei der Nutzung von ChatGPT für bestimmte Zwecke

Wer sich von ChatGPT beraten lässt oder persönliche Ratschläge sucht, sollte vorsichtig sein, warnt OpenAI-CEO Sam Altman, denn Gespräche mit der KI bieten nicht die gleichen Datenschutzvorkehrungen wie Gespräche mit einem echten Arzt oder Anwalt.

Altman sprach das Thema in einer kürzlich erschienenen Folge des Podcasts des Komikers Theo Von an. Er merkte an, dass es, je mehr sich KI in sensible Bereiche ausbreitet, immer noch keinen Rechtsschutz für die von Nutzern geteilten Daten gibt.

„Die Leute erzählen ChatGPT die persönlichsten Dinge ihres Lebens“, sagte Altman. Er wies darauf hin, dass viele, insbesondere jüngere Nutzer, den Chatbot wie einen Therapeuten oder Lebensberater behandeln und bei Beziehungsproblemen oder anderen privaten Angelegenheiten fragen: „Was soll ich tun?“.

Im Gegensatz dazu sind die Informationen, die sich jemand einem approbierten Therapeuten, Anwalt oder Arzt anvertraut, durch das Arzt-Patienten- bzw. Anwaltsgeheimnis geschützt. Bei einer KI existiert eine solche rechtlichedentjedoch noch nicht.

Diese Lücke könnte vor Gericht zu einem echten Problem werden, warnte Altman, da OpenAI im Falle einer Anordnung verpflichtet wäre, Chatprotokolle herauszugeben. „Ich finde das total daneben. Wir sollten für Gespräche mit KI denselben Datenschutzstandard haben wie für Gespräche mit einem Therapeuten oder Ähnlichem – und darüber musste sich vor einem Jahr noch niemand Gedanken machen“, fügte er hinzu.

Mangelnde Privatsphäre könnte ein Hindernis für die breite Nutzung von ChatGPT darstellen

OpenAI sieht diesen Mangel an Datenschutz als potenzielles Hindernis für eine breitere Anwendung. Neben den enormen Mengen an Online-Daten, die zum Trainieren der Modelle benötigt werden, sieht sich das Unternehmen nun auch mit Forderungen in Rechtsstreitigkeiten konfrontiert, Benutzerchats herauszugeben.

In einem aufsehenerregenden Fall wehrt sich OpenAI im Rahmen der Klage der New York Times gegen eine wichtige gerichtliche Anordnung. Das Urteil würde das Unternehmen zwingen, die Daten von mehreren hundert Millionen ChatGPT-Nutzern weltweit aufzubewahren, mit Ausnahme der Nutzer der Unternehmensversion.

OpenAI hat gegen die Entscheidung Berufung eingelegt und sie als „überzogen“ bezeichnet. Das Unternehmen argumentiert, dass sich künftige Forderungen nach Zugriff für Strafverfolgungsbehörden oder Beweismittel vervielfachen könnten, wenn Gerichte die eigenen Datenschutzrichtlinien von OpenAI außer Kraft setzen können.

Heutzutage erhalten Technologieunternehmen regelmäßig Vorladungen zur Herausgabe von Nutzerdaten im Rahmen strafrechtlicher Ermittlungen. Doch mit der Weiterentwicklung der Gesetze wachsen auch die Bedenken darüber, was digitale Spuren preisgeben könnten. Nachdem der Oberste Gerichtshof im Juni 2022 das Urteil Roe v. Wade aufgehoben hatte, wechselten viele Nutzer zu sichereren Apps oder zu Apple Health, das seine Aufzeichnungen verschlüsselt.

Altman befragte Von auch zu seiner Nutzung von ChatGPT, nachdem dieser zugegeben hatte, Bedenken hinsichtlich der Weitergabe persönlicher Daten zu haben. „Ich denke, es ist verständlich, dass man sich vor der intensiven Nutzung von ChatGPT über die Datenschutzbestimmungen – wie etwa die rechtlichen – im Klaren sein möchte“, sagte Altman und betonte, dass Nutzer, solange KI enjdieselbedentwie traditionelle Fachleute genießt, zweimal überlegen, bevor sie sich öffnen.