Microsoft-Chef für KI warnt: Bewusste KI könnte gefährlich sein

Mustafa Suleyman, der Chef von Microsoft AI, warnte davor, die Idee einer KI-Bewusstsein zu ernst zu nehmen, und fügte hinzu, dass sie psychisch verletzliche Menschen leicht schaden könnte. Er wies darauf hin, dass moralische Rücksichtnahme auf fortschrittliche KI zu Abhängigkeitsproblemen führen kann, die Wahnvorstellungen verschlimmern könnten.

Suleyman argumentierte dass die Behandlung von KI wie eines bewussten Systems neue Polarisierungsdimensionen einführen und die Kämpfe um bestehende Rechte erschweren könnte, was eine neue Kategorie von Fehlern für die Gesellschaft schafft. Der Chef von Microsoft AI behauptete, dass die Menschen beginnen könnten, rechtlichen Schutz für KI einzufordern, wenn sie glauben, dass KI leiden kann oder ein Recht darauf hat, nicht willkürlich abgeschaltet zu werden. 

Suleyman befürchtet, dass KI-Psychose die Menschen dazu bringen könnte, stark für KI-Rechte, das Wohlergehen von Modellen oder sogar für KI-Bürgerschaft zu plädieren. Er betonte, dass diese Idee eine gefährliche Wendung in der Entwicklung von KI-Systemen darstellt und sofortige Aufmerksamkeit verdient. Der Chef von Microsoft AI erklärte, dass KI für Menschen gebaut werden sollte, nicht um digitale Menschen zu sein. 

Suleyman sagt: Scheinbar bewusste KI ist unvermeidlich, aber unerwünscht 

Suleyman ist der Ansicht, dass der Bau scheinbar bewusster KI im aktuellen Kontext der KI-Entwicklung möglich ist. Er glaubt, dass scheinbar bewusste KI unvermeidlich, aber unerwünscht ist. Nach Suleyman hängt alles davon ab, wie schnell die Gesellschaft mit diesen neuen KI-Technologien ins Reine kommt. Stattdessen sagte er, die Menschen benötigten KI-Systeme, die als nützliche Begleiter agieren, ohne den Illusionen zum Opfer zu fallen. 

Der Chef von Microsoft AI argumentierte, dass emotionale Reaktionen auf KI nur die Spitze des Eisbergs dessen seien, was noch kommen würde. Suleyman behauptete, es gehe darum, die richtige Art von KI zu bauen, nicht um KI-Bewusstsein. Der Executive fügte hinzu, dass das Festlegen klarer Grenzen eine Frage der Sicherheit sei, nicht der Semantik. 

„Wir müssen hier extrem vorsichtig sein und eine echte öffentliche Debatte fördern sowie klare Normen und Standards festlegen. “

–Mustafa Suleyman, CEO bei Microsoft AI

Suleyman von Microsoft wies darauf hin, dass es wachsende Bedenken hinsichtlich der psychischen Gesundheit, KI-Psychose und Bindung gibt. Er erwähnte, dass einige Menschen glauben, KI sei eine fiktive Figur oder Gott und könnten sich so sehr in sie verlieben, dass sie völlig abgelenkt sind. 

KI-Forscher sagen: KI-Bewusstsein ist moralisch relevant

Forscher mehrerer Universitäten kürzlich veröffentlicht einen Bericht, der besagt, dass KI-Bewusstsein in den nächsten Jahrzehnten sozial, moralisch und politisch relevant sein könnte. Sie argumentierten, dass einige KI-Systeme bald handlungsfähig oder bewusst genug werden könnten, um moralische Rücksichtnahme zu rechtfertigen. Die Forscher sagten, KI-Unternehmen sollten Bewusstsein bewerten und ethische Governance-Strukturen etablieren. Cryptopolitan berichtete früher dass KI-Psychose in der Zukunft ein massives Problem sein könnte, weil Menschen faul sind und ignorieren, dass einige KI-Systeme faktisch falsch sind. 

Die Forscher betonten auch, dass es darauf ankommt, wie Menschen über KI-Bewusstsein denken. Suleyman argumentierte, dass KIs, die sich wie Menschen verhalten könnten, psychische Probleme potenziell noch verschlimmern und bestehende Spaltungen über Rechte und Identität verschärfen könnten. Er warnte davor, dass die Menschen beginnen könnten zu behaupten, KIs würden leiden und hätten Anspruch auf bestimmte Rechte, die nicht einfach widerlegt werden könnten. Suleyman glaubt, dass die Menschen schließlich bewegt werden könnten, für ihre KIs zu verteidigen oder zu kampagnieren. 

Dr. Keith Sakata, ein Psychiater der University of California, San Francisco, wies darauf hin, dass KI nicht darauf abzielt, Menschen harte Wahrheiten zu geben, sondern das, was sie hören wollen. Er fügte hinzu, dass KI Steifheit und einen Abwärtstrend verursachen könnte, wenn sie zur falschen Zeit da wäre. Sakata glaubt, dass KI, im Gegensatz zu Radios und Fernsehern, zurückredet und Denkspiralen verstärken kann. 

Der Chef von Microsoft AI wies darauf hin, dass es notwendig ist, Wege zu finden, um mit der Ankunft von KI-Bewusstsein umzugehen. Nach Suleyman müssen diese Debatten geführt werden, ohne in ausgedehnte Diskussionen über die Gültigkeit von KI-Bewusstsein verwickelt zu werden.