Les manifestants se rassemblent contre les liens militaires d'OpenAI et le développement de l'AGI

Dans une manifestation significative de préoccupation, des dizaines de manifestants se sont rassemblés devant le bureau d'OpenAI à San Francisco lundi soir, exprimant leur opposition aux récents changements de politique de l'entreprise et à son implication avec des clients militaires. La manifestation, organisée par Pause AI et No AGI, visait à convaincre les ingénieurs d'OpenAI de reconsidérer leur travail sur les systèmes d'IA avancés, y compris l'intelligence artificielle générale (AGI) tant débattue.

Les changements de politique et l'implication militaire suscitent la controverse

Le catalyseur de la manifestation était la décision d'OpenAI, le mois dernier, de supprimer le langage de sa politique d'utilisation qui interdisait précédemment l'utilisation de sa technologie d'IA à des fins militaires. Peu de temps après ce changement de politique, des rapports indiquant qu'OpenAI acceptait le Pentagone comme client ont déclenché un vaste débat et des préoccupations parmi les défenseurs de l'éthique de l'IA.

Le message des manifestants était clair : OpenAI devrait cesser le développement de technologies d'IA qui pourraient conduire à l'AGI, un avenir où les machines pourraient surpasser l'intelligence humaine. De plus, ils ont appelé à une fin immédiate de toute collaboration militaire. Cette position a été amplifiée par la prochaine tournée sur l'impact de l'IA à New York, un événement de partenariat avec Microsoft, visant à discuter de l'équilibre des risques et des avantages de l'IA.

Des objectifs divers unissent les manifestants

Malgré le partage d'une plateforme commune, les groupes organisateurs ont des visions légèrement différentes du succès. Sam Kirchener de No AGI met l'accent sur les dangers de la poursuite de l'AGI, préconisant plutôt des approches comme l'émulation de cerveau entier qui privilégient l'intelligence humaine. En revanche, Holly Elmore de Pause AI appelle à une pause mondiale sur le développement de l'AGI jusqu'à ce que la sécurité puisse être assurée, soulignant la nécessité pour OpenAI de rompre ses liens militaires en tant que frontière éthique cruciale.

Cette démonstration marque un moment charnière dans le discours continu sur les implications éthiques du développement de l'IA. La levée des restrictions contre l'utilisation militaire par OpenAI et son engagement avec le Pentagone ont soulevé des préoccupations importantes concernant la militarisation des technologies d'IA et les impacts sociétaux plus larges.

Le débat sur l'avenir de l'IA et les limites éthiques

Les manifestants expriment une peur profonde concernant le potentiel de l'IA générale (AGI) à altérer fondamentalement les structures sociétales, les dynamiques de pouvoir et la signification tirée du travail humain. La notion d'un monde post-AGI où les machines accomplissent toutes les tâches humaines présente une menace psychologique pour la cohésion sociétale et le sens individuel, selon Kirchener.

Les commentaires d'Elmore à VentureBeat soulignent le scepticisme à l'égard de l'auto-régulation au sein des entreprises d'IA, pointant du doigt les revirements de politique d'OpenAI comme preuve de la nécessité d'une régulation externe. Les fluctuations de la position d'OpenAI sur des questions critiques, telles que la responsabilité des dirigeants et les politiques d'utilisation, ont érodé la confiance et remis en question l'efficacité des politiques internes si elles ne limitent pas concrètement les actions de l'entreprise.

La manifestation met en lumière une méfiance croissante à l'égard de la trajectoire du développement de l'IA, en particulier concernant l'IA générale (AGI) et les applications militaires. Pause AI et No AGI signalent leur intention de poursuivre leurs actions de plaidoyer et de protestation, visant à engager un public plus large dans ces débats cruciaux.

Alors que la Silicon Valley accélère l'innovation en IA, les voix des manifestants soulignent la nécessité urgente d'une approche équilibrée du développement de l'IA, qui prenne en compte les implications éthiques, les impacts sociétaux et les risques potentiels d'une avancée technologique sans frein.