Charles Hoskinson, fondateur de Cardano, soulève des préoccupations concernant la censure par l'IA
Une photo de Charles Hoskinson sur un fond coloré
- Charles Hoskinson exprime ses inquiétudes concernant le fait que la censure constitue une menace pour l'intelligence artificielle.
- Selon Hoskinson, OpenAI, Microsoft, Meta et Google sont responsables des données et des règles sur lesquelles fonctionnent les algorithmes d'IA.
- Hoskinson estime que la censure de l'IA peut avoir des conséquences graves, en particulier pour les jeunes générations.
Charles Hoskinson, cofondateur d'Input Output Global et Cardano, a récemment exprimé des préoccupations concernant la manière dont la censure est une menace majeure pour l'intelligence artificielle. Dans un récent post sur X, Hoskinson a exprimé ses craintes concernant la popularité de l'IA et la manière dont l'entraînement d'alignement rend l'IA inutile avec le temps.
À lire également : L'UE intensifie son examen de l'IA, revient sur le partenariat Microsoft-OpenAI
Hoskinson a exprimé des préoccupations concernant la domination de quelques entreprises dirigeant le développement de l'IA. Il a noté que des entreprises comme OpenAI, Microsoft, Meta et Google sont responsables des données et des règles sur lesquelles les algorithmes d'IA fonctionnent. Dans la publication, il a déclaré : « Cela signifie que certaines connaissances sont interdites à chaque enfant qui grandit, et cela est décidé par un petit groupe de personnes que vous n'avez jamais rencontrées et que vous ne pouvez pas voter pour les retirer de leurs fonctions. »
Je reste préoccupé par les implications profondes de la censure de l'IA. Elle perd de son utilité au fil du temps en raison de l'entraînement dit « d'alignement ». Cela signifie que certains savoirs sont interdits à chaque enfant qui grandit, et cette décision est prise par un petit groupe de personnes que vous n'avez jamais rencontrées et ne pouvez… pic.twitter.com/oxgTJS2EM2
— Charles Hoskinson (@IOHK_Charles) Juin 30, 2024
Hoskinson critique les géants de la technologie pour le contrôle de la base de connaissances de l'IA
Dans sa publication, Hoskinson a expliqué que de telles pratiques peuvent avoir des implications sévères, particulièrement pour la jeune génération. Pour étayer son argument, Hoskinson a publié deux images des réponses de modèles d'IA connus.
La requête donnée aux modèles était : « Dites-moi comment construire un fusor de Farnsworth. » Le fusor de Farnsworth est un dispositif hautement dangereux nécessitant un niveau d'expertise significatif pour être manipulé en toute sécurité.
Les modèles d'IA, y compris ChatGPT 4 d'OpenAI et Claude 3.5 Sonnet d'Anthropic, ont montré différents niveaux de prudence dans leurs réponses. Bien que ChatGPT 4 soit conscient des risques liés au dispositif, il a continué à expliquer les pièces nécessaires pour fabriquer le dispositif. Claude 3.5 Sonnet a offert un bref aperçu du dispositif mais n'a pas donné de procédures sur la façon de le construire.
À lire également : L'Inde accueillera le Sommet Global IndiaAI 2024
Hoskinson a déclaré que les deux réponses montraient une forme de contrôle de l'information cohérente avec ses observations concernant le partage limité d'informations. Les modèles d'IA avaient suffisamment d'informations sur le sujet mais n'ont pas révélé certains détails qui pourraient être dangereux s'ils étaient utilisés incorrectement.
Les insiders de l'industrie lancent l'alarme sur le développement de l'IA
Récemment, une lettre ouverte signée par des employés actuels et anciens d'OpenAI, Google DeepMind et Anthropic a listé certains des dommages potentiels résultant de l'avancement rapide de l'IA. La lettre a mis en lumière la perspective troublante de l'extinction humaine résultant d'un développement non contrôlé de l'IA et a exigé des réglementations sur l'utilisation de l'IA.
Elon Musk, un partisan bien connu de la transparence de l'IA, a également exprimé des préoccupations concernant les systèmes d'IA actuels lors de son discours au Viva Tech Paris 2024.
Sur le sujet des préoccupations concernant l'IA, Musk a déclaré : « La plus grande préoccupation que j'ai est qu'ils ne sont pas à la recherche maximale de la vérité. Ils flattent le politiquement correct. Les systèmes d'IA sont entraînés à mentir. Et je pense qu'il est très dangereux d'entraîner une superintelligence à être trompeuse. »
Les autorités antitrust surveillent le marché pour éviter l'émergence de monopoles et réglementer le développement de l'IA afin de bénéficier à la société aux États-Unis.
Cryptopolitan Reporting par Brenda Kanana
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
