Sam Altman s'inquiète des dangers silencieux qui se cachent derrière ChatGPT

Le PDG d'OpenAI, Sam Altman, a expliqué comment son entreprise prend des décisions concernant ChatGPT. Il a indiqué que les moindres choix relatifs au comportement du chatbot le préoccupaient davantage que les politiques générales.

Dans une interview accordée à Tucker Carlson, Altman a déclaré qu'il ne « dormait pas très bien la nuit. Il y a beaucoup de choses qui me pèsent, mais probablement rien de plus que le fait que chaque jour, des centaines de millions de personnes interagissent avec notre modèle », a-t-il affirmé.

Altman a décrit le suicide comme le problème le plus difficile auquel l'équipe est confrontée, citant une plainte déposée par une famille qui tenait ChatGPT responsable de la mort de leur fils adolescent.

« Ils ont probablement parlé de suicide, et nous ne leur avons probablement pas sauvé la vie », a-t-il déclaré. « Nous aurions peut-être pu mieux réagir. Nous aurions peut-être pu être plus proactifs. Nous aurions peut-être pu leur donner de meilleurs conseils, du genre : “Vous avez besoin d’aide.” »

Le mois dernier, les parents d'Adam Raine ont porté plainte contre OpenAI pour responsabilité du fait des produits et homicide involontaire après le suicide de leur fils de 16 ans. La plainte indique que « ChatGPT a activement aidé Adam à explorer des méthodes de suicide ». Peu après, OpenAI a publié un article intitulé « Aider les gens lorsqu'ils en ont le plus besoin », détaillant les mesures prises pour améliorer les réponses dans les « situations délicates »

Qui définit les règles éthiques de ChatGPT ?

Altman a expliqué que le modèle de base est entraîné sur les connaissances partagées par l'humanité, puis qu'OpenAI ajuste les comportements et détermine ce que le système ne fera pas. « C'est un problème complexe. Nous avons maintenant de nombreux utilisateurs, aux perspectives de vie très diverses… Mais dans l'ensemble, j'ai été agréablement surpris par la capacité du modèle à apprendre et à appliquer un cadre moral », a-t-il déclaré.

Il a déclaré que l'entreprise avait consulté « des centaines de philosophes moralistes et de spécialistes de l'éthique des technologies et des systèmes ». Il a souligné une limite que l'entreprise s'impose : le système ne donnera aucune instruction sur la création d'armes biologiques.

« Il existe des exemples clairs où les intérêts de la société entrent en conflit important avec la liberté des utilisateurs », a-t-il déclaré, ajoutant que l'entreprise « ne réussira pas tout du premier coup et a également besoin de l'avis du monde entier »

Que devient la confidentialité des utilisateurs lors de l'utilisation de ChatGPT ?

Lorsque Carlson a affirmé que l'IA générative pourrait servir à un « contrôle totalitaire », Altman a rétorqué qu'il militait pour un « privilège en matière d'IA », garantissant ladentdes échanges avec un chatbot. « Quand on parle de sa santé à un médecin ou de ses problèmes juridiques à un avocat, le gouvernement ne peut pas accéder à ces informations, n'est-ce pas ?… Je pense qu'il faudrait appliquer le même principe à l'IA. »

Comme indiqué dans un Cryptopolitanrapport de sans protection juridique.

Il a fait remarquer qu'à l'heure actuelle, les autorités américaines peuvent obtenir des données d'utilisateurs auprès de l'entreprise au moyen d'une assignation à comparaître.

Interrogé sur la possibilité que l'armée utilise ChatGPT à des fins malveillantes, Altman n'a pas répondu directement. « J'ignore comment les militaires utilisent ChatGPT aujourd'hui… mais je soupçonne que beaucoup d'entre eux consultent ChatGPT pour obtenir des conseils », a-t-il déclaré, avant d'ajouter qu'il ne savait pas « exactement quoi en penser »

OpenAI est l'une des entreprises d'IA ayant reçu un prix du département de la Défense américain d'une valeur de 200 millions de dollars.

Carlson a prédit que, sur sa trajectoire actuelle, l'IA générative, et par extension Altman, pourraient accumuler plus de pouvoir que n'importe quelle autre personne, qualifiant ChatGPT de « religion »

« Actuellement, des tas de gens utilisent ChatGPT et d'autres chatbots, et ils sont tous plus performants. Ils font tous plus de choses. Ils sont tous capables d'accomplir davantage, de créer de nouvelles entreprises, de produire de nouvelles connaissances », a déclaré Altman. Il a également indiqué qu'il pensait que l'IA supprimerait de nombreux emplois existants aujourd'hui, surtout à court terme.