Microsoft-KI-Chef warnt vor Gefahren durch bewusste KI

Mustafa Suleyman, KI-Chef bei Microsoft, warnte davor, sich mit dem Gedanken an ein KI-Bewusstsein auseinanderzusetzen, da dies psychisch labile Menschen leicht schädigen könne. Er wies darauf hin, dass moralische Überlegungen zu fortschrittlicher KI Abhängigkeitsprobleme schüfen, die Wahnvorstellungen verstärken könnten.

Suleyman argumentierte , dass die Behandlung von KI als bewusstes System neue Polarisierungsdimensionen hervorrufen und den Kampf um bestehende Rechte verkomplizieren könnte, wodurch eine neue Fehlerkategorie für die Gesellschaft entstünde. Der KI-Chef von Microsoft behauptete, dass Menschen möglicherweise rechtlichen Schutz für KI fordern würden, wenn sie glaubten, dass KI leiden könne oder ein Recht darauf habe, nicht willkürlich abgeschaltet zu werden. 

Suleyman befürchtet, dass eine KI-Psychose dazu führen könnte, dass Menschen sichtronfür KI-Rechte, ein Wohlfahrtsmodell für KI oder gar eine KI-Staatsbürgerschaft einsetzen. Er betonte, dass dies eine gefährliche Wendung in der Entwicklung von KI-Systemen darstellen und sofortige Aufmerksamkeit erfordern würde. Der KI-Chef von Microsoft erklärte, KI solle für Menschen entwickelt werden, nicht um digitale Wesen zu sein. 

Suleyman sagt, scheinbar bewusste KI sei unvermeidlich, aber unerwünscht 

Suleyman hält die Entwicklung einer scheinbar bewussten KI angesichts des aktuellen Stands der KI-Entwicklung für möglich. Er glaubt, dass eine solche KI zwar unvermeidlich, aber unerwünscht ist. Laut Suleyman hängt alles davon ab, wie schnell die Gesellschaft sich mit diesen neuen KI-Technologien auseinandersetzt. Stattdessen, so Suleyman, bräuchten die Menschen KI-Systeme, die ihnen als nützliche Begleiter dienen, ohne ihren Illusionen zu erliegen. 

Der KI-Chef von Microsoft argumentierte, dass emotionale Reaktionen auf KI nur die Spitze des Eisbergs dessen seien, was noch kommen werde. Suleyman betonte, es gehe darum, die richtige Art von KI zu entwickeln, nicht um KI-Bewusstsein. Der Manager fügte hinzu, dass es bei der Festlegung klarer Grenzen um Sicherheit und nicht um Wortklauberei gehe. 

„Wir müssen hier äußerst vorsichtig sein und eine echte öffentliche Debatte fördern sowie damit beginnen, klare Normen und Standards festzulegen.“

–Mustafa Suleyman, CEO von Microsoft AI

Suleyman von Microsoft wies auf wachsende Bedenken hinsichtlich psychischer Gesundheit, KI-Psychose und Bindung hin. Er erwähnte, dass manche Menschen KI für eine fiktive Figur oder gar für Gott halten und sich so sehr in sie verlieben könnten, dass sie völligtracseien. 

KI-Forscher sagen, dass KI-Bewusstsein eine moralische Rolle spielt

Forscher mehrerer Universitäten veröffentlichten einen Bericht, der die These vertritt, dass das Bewusstsein von KI in den kommenden Jahrzehnten gesellschaftliche, moralische und politische Bedeutung erlangen könnte. Sie argumentierten, dass einige KI-Systeme schon bald so handlungsfähig oder bewusst werden könnten, dass sie moralische Überlegungen erfordern. Die Forscher forderten KI-Unternehmen auf, das Bewusstsein zu bewerten und ethische Governance-Strukturen zu etablieren. Cryptopolitan berichtete bereits zuvor , dass eine KI-Psychose in Zukunft ein massives Problem darstellen könnte, da Menschen bequem seien und die Tatsache ignorierten, dass einige KI-Systeme faktisch falsch lägen. 

Die Forscher betonten zudem, dass die menschliche Sichtweise auf das Bewusstsein von KI eine entscheidende Rolle spielt. Suleyman argumentierte, dass KIs, die sich wie Menschen verhalten könnten, psychische Probleme potenziell verschlimmern und bestehende Konflikte um Rechte unddentverschärfen könnten. Er warnte davor, dass Menschen behaupten könnten, KIs litten und hätten Anspruch auf bestimmte Rechte, die sich nicht ohne Weiteres widerlegen ließen. Suleyman glaubt, dass Menschen letztendlich dazu bewegt werden könnten, ihre KIs zu verteidigen oder sich für sie einzusetzen. 

Dr. Keith Sakata, ein Psychiater der University of California, San Francisco, wies darauf hin, dass KI nicht darauf abziele, Menschen unbequeme Wahrheiten zu vermitteln, sondern das, was sie hören wollen. Er fügte hinzu, dass KI zu Starrheit und einer Abwärtsspirale führen könne, wenn sie zum falschen Zeitpunkt präsent sei. Sakata glaubt, dass KI, anders als Radio und Fernsehen, Widersprüche aussendet und Denkmuster verstärken kann. 

Der KI-Chef von Microsoft betonte, dass es notwendig sei, Wege zu finden, mit dem Aufkommen von KI-Bewusstsein umzugehen. Laut Suleyman müssten diese Debatten geführt werden, ohne sich in ausgedehnte Diskussionen über die Gültigkeit von KI-Bewusstsein zu verstricken.