Sam Altman ist besorgt über die stillen Gefahren hinter ChatGPT

OpenAI-Chef Sam Altman erläuterte, wie sein Unternehmen Entscheidungen bezüglich ChatGPT trifft. Er sagte, dass ihn selbst kleinste Entscheidungen bezüglich des Verhaltens des Chatbots mehr beunruhigen als weitreichende Richtlinien.

In einem Interview mit Tucker Carlson sagte Altman, er schlafe nachts nicht besonders gut. „Es gibt viele Dinge, die mich sehr belasten, aber wahrscheinlich nichts mehr als die Tatsache, dass jeden Tag Hunderte Millionen Menschen mit unserem Modell sprechen“, sagte Altman.

Altman bezeichnete Selbstmord als das schwierigste Problem, mit dem das Team konfrontiert ist, und verwies auf eine Klage einer Familie, die ChatGPT für den Tod ihres jugendlichen Sohnes verantwortlich machte.

„Sie haben wahrscheinlich über Selbstmord gesprochen, und wir haben ihnen wahrscheinlich nicht das Leben gerettet“, sagte er. „Vielleicht hätten wir etwas Besseres sagen können. Vielleicht hätten wir proaktiver sein können. Vielleicht hätten wir ihnen besser raten können, sich Hilfe zu suchen.“

Letzten Monat reichten die Eltern von Adam Raine eine Produkthaftungsklage und Klage wegen fahrlässiger Tötung gegen OpenAI ein, nachdem ihr 16-jähriger Sohn Suizid begangen hatte. In der Klage hieß es, ChatGPT habe Adam aktiv bei der Suche nach Suizidmethoden unterstützt. Kurz darauf veröffentlichte OpenAI einen Beitrag mit dem Titel „Menschen in ihrer größten Not helfen“, in dem Maßnahmen zur Verbesserung der Reaktionen in „sensiblen Situationen“ dargelegt wurden

Wer legt die ethischen Regeln von ChatGPT fest?

Altman erklärte, das Basismodell werde mit dem gemeinsamen Wissen der Menschheit trainiert, woraufhin OpenAI das Verhalten anpasse und festlege, was das System nicht tun solle. „Das ist eine wirklich schwierige Aufgabe. Wir haben mittlerweile viele Nutzer mit sehr unterschiedlichen Lebensperspektiven… Insgesamt bin ich aber positiv überrascht von der Lernfähigkeit des Modells und seiner Fähigkeit, einen moralischen Rahmen anzuwenden“, sagte er.

Er sagte, das Unternehmen habe „Hunderte von Moralphilosophen und Experten für die Ethik von Technologie und Systemen“ konsultiert. Er wies auf eine vom Unternehmen durchgesetzte Grenze hin: Das System werde keine Anweisungen zur Entwicklung biologischer Waffen geben.

„Es gibt klare Beispiele dafür, wo die Interessen der Gesellschaft in erheblichem Widerspruch zur Freiheit der Nutzer stehen“, sagte er und fügte hinzu, dass das Unternehmen „nicht alles richtig machen wird und auch den Input der Welt benötigt“

Wie steht es um die Privatsphäre der Nutzer bei der Nutzung von ChatGPT?

Als Carlson sagte, generative KI könne für „totalitäre Kontrolle“ missbraucht werden, entgegnete Altman, er setze sich seit Langem für ein „KI-Privileg“ ein, wonach alles, was man einem Chatbot anvertraut,dentbleibt. „Wenn Sie mit einem Arzt über Ihre Gesundheit oder mit einem Anwalt über Ihre rechtlichen Probleme sprechen, darf die Regierung diese Informationen nicht erhalten, richtig? … Ich denke, wir sollten dasselbe Prinzip auch für KI haben.“

Wie in einem CryptopolitanBericht von ohne rechtliche Absicherung.

Er merkte an, dass die US-Behörden derzeit die Nutzerdaten des Unternehmens per Vorladung erhalten können.

Auf die Frage, ob das Militär ChatGPT missbrauchen würde, um Menschen zu schaden, gab Altman keine direkte Antwort. „Ich weiß nicht, wie ChatGPT heutzutage beim Militär genutzt wird … aber ich vermute, dass viele Soldaten ChatGPT um Rat fragen“, sagte er und fügte später hinzu, er sei sich „nicht ganz sicher, was er davon halten soll“

OpenAI ist eines der KI-Unternehmen, das einen Auftrag des US-Verteidigungsministeriums in Höhe von 200 Millionen Dollar erhalten hat.

Carlson sagte voraus, dass die generative KI auf ihrem jetzigen Weg und damit auch Altman mehr Macht anhäufen könnte als jeder andere Mensch, und bezeichnete ChatGPT als eine „Religion“

„Aktuell nutzen unzählige Menschen ChatGPT und andere Chatbots, und diese sind alle leistungsfähiger. Sie leisten mehr, erreichen mehr, gründen neue Unternehmen und erschließen sich neues Wissen“, sagte Altman. Er fügte hinzu, dass er glaube, KI werde viele der heutigen Arbeitsplätze vernichten, insbesondere kurzfristig.