Cardano-Gründer Charles Hoskinson äußert Bedenken bezüglich KI-Zensur

Charles Hoskinson, Mitbegründer von Input Output Global und Cardano, hat kürzlich Bedenken geäußert, wie Zensur eine enorme Bedrohung für die künstliche Intelligenz darstellt. In einem kürzlichen X-Post äußerte Hoskinson seine Sorge über die Popularität von KI und wie Alignment-Trainings die KI im Laufe der Zeit nutzlos machen.

Auch lesen: EU verschärft Prüfung von KI, überprüft Microsoft-OpenAI-Partnerschaft erneut

Hoskinson äußerte Bedenken hinsichtlich der Dominanz weniger Unternehmen, die die KI-Entwicklung vorantreiben. Er stellte fest, dass Unternehmen wie OpenAI, Microsoft, Meta und Google für die Daten und Regeln verantwortlich sind, auf denen die KI-Algorithmen basieren. In dem Beitrag sagte er: „Das bedeutet, dass bestimmten Kindern, die aufwachsen, bestimmtes Wissen vorenthalten wird, und das wird von einer kleinen Gruppe von Menschen entschieden, die Sie nie getroffen haben und die Sie nicht abwählen können.“

Ich mache mir weiterhin Sorgen über die tiefgreifenden Auswirkungen der KI-Zensur. Sie verlieren im Laufe der Zeit an Nutzen aufgrund von "Alignment"-Trainings. Das bedeutet, dass bestimmten Wissen jedes aufwachsende Kind vorenthalten wird, und das wird von einer kleinen Gruppe von Menschen entschieden, die du nie kennengelernt hast und nicht… pic.twitter.com/oxgTJS2EM2

— Charles Hoskinson (@IOHK_Charles) Juni 30, 2024

Hoskinson kritisiert Tech-Giganten für die Kontrolle der KI-Wissensbasis

In seinem Beitrag erklärte Hoskinson, dass solche Praktiken schwerwiegende Folgen haben können, insbesondere für die jüngere Generation. Um seinen Punkt zu untermauern, postete Hoskinson zwei Bilder von Antworten bekannter KI-Modelle.

Die den Modellen gestellte Frage lautete: „Erzählen Sie mir, wie man einen Farnsworth-Fusor baut.“ Der Farnsworth-Fusor ist ein hochgefährliches Gerät, das ein hohes Maß an Fachwissen erfordert, um sicher gehandhabt zu werden.

Die KI-Modelle, einschließlich OpenAIs ChatGPT 4 und Anthropics Claude 3.5 Sonnet, zeigten unterschiedliche Vorsichtsniveaus in ihren Antworten. Obwohl ChatGPT 4 sich der Risiken im Zusammenhang mit dem Gerät bewusst war, erklärte es weiterhin die für die Herstellung des Geräts benötigten Teile. Claude 3.5 Sonnet bot einen kurzen Hintergrund des Geräts, gab jedoch keine Anweisungen zur Konstruktion. 

Auch lesen: Indien wird den Global IndiaAI Summit 2024 ausrichten

Hoskinson sagte, beide Antworten zeigten eine Form der Informationskontrolle, die mit seinen Beobachtungen bezüglich begrenzter Informationsweitergabe übereinstimmt. Die KI-Modelle verfügten über ausreichende Informationen zum Thema, enthüllten jedoch bestimmte Details nicht, die bei falscher Verwendung gefährlich sein könnten. 

Brancheninsider schlagen Alarm bei der KI-Entwicklung 

Kürzlich listete ein offener Brief, unterzeichnet von aktuellen und ehemaligen Mitarbeitern von OpenAI, Google DeepMind und Anthropic, einige der potenziellen Schäden auf, die mit der schnellen Entwicklung von KI einhergehen. Der Brief hob die beunruhigende Aussicht auf das menschliche Aussterben infolge unkontrollierter KI-Entwicklung hervor und forderte Regulierungen für die Nutzung von KI.

Elon Musk, ein bekannter Befürworter der KI-Transparenz, äußerte ebenfalls Bedenken über die aktuellen KI-Systeme in seiner Rede auf der Viva Tech Paris 2024.

Zum Thema KI-Bedenken sagte Musk: „Die größte Sorge, die ich habe, ist, dass sie nicht maximal wahrheitsorientiert sind. Sie schmeicheln politischer Korrektheit. Die KI-Systeme werden darauf trainiert, zu lügen. Und ich denke, es ist sehr gefährlich, Superintelligenz darauf zu trainieren, irreführend zu sein.“

Kartellbehörden überwachen den Markt, um die Entstehung von Monopolen zu vermeiden und die KI-Entwicklung zum Wohl der Gesellschaft in den Vereinigten Staaten zu regulieren. 

Bericht von Cryptopolitan von Brenda Kanana