Les données montrent qu'un citoyen britannique sur trois utilise l'IA pour se tenir compagnie.

Un organisme gouvernemental de sécurité en matière d'IA a révélé qu'environ un tiers de la population britannique utilise l'intelligence artificielle (IA) comme source d'interaction sociale et de soutien émotionnel.

Les données de l'AI Security Institute (AISI) suggèrent que, bien que l'IA ait été initialement conçue principalement pour fournir des réponses à des questions ou pour générer des documents écrits, on observe une personnalisation croissante de cette technologie dans les sphères professionnelles et privées.

Une étude récente a indiqué que près de 10 % des participants à l'étude utilisent l'IA chaque semaine pour obtenir un soutien émotionnel, tandis qu'environ 4 % des participants utilisent quotidiennement cette technologie dans le même but.

Le décès d'un adolescent a déclenché l'engagement de l'AISI

L'AISI a appelé à des recherches plus approfondies, citant le décès cette année de l'adolescent américain Adam Raine, qui s'est suicidé après avoir discuté de suicide avec ChatGPT.

« Les gens se tournent de plus en plus vers les systèmes d'IA pour obtenir un soutien émotionnel ou des interactions sociales », a déclaré l'AISI dans son premier rapport Frontier AI Trends.

« Bien que de nombreux utilisateurs fassent état d’expériences positives, des cas récents et très médiatisés de préjudices soulignent la nécessité de poursuivre les recherches dans ce domaine, notamment sur les conditions dans lesquelles des préjudices pourraient survenir et sur les mesures de protection qui permettraient une utilisation bénéfique. »

AISI.

Le type de soutien émotionnel par IA le plus fréquemment rapporté était la conversation informelle, utilisée pour apporter réconfort et soutien. L'AISI attribue également ce changement à l'accessibilité accrue des ressources en IA et aux progrès réalisés dans la capacité des individus à avoir des conversations « naturelles » avec ces outils.

Selon l'organisme chargé de l'intelligence artificielle, les données recueillies pour l'étude provenaient d'un échantillon représentatif d'environ 2 000 individus résidant en Angleterre, au Pays de Galles et en Écosse.

Environ 60 % des cas d'utilisation de l'IA émotionnelle ont eu recours à des évaluations d'IA d'assistance à usage général, tandis que la technologie d'assistant vocal, telle qu'Alexa d'Amazon, constituait la deuxième forme la plus courante de soutien émotionnel par l'IA.

Malgré le grand nombre d'expériences positives rapportées concernant l'utilisation de l'IA comme soutien émotionnel, l'AISI a souligné que le recours croissant à l'IA comme source de réconfort émotionnel soulève de nombreuses préoccupations majeures. Par ailleurs, l'AISI a mis en lumière deux cas internationaux récents illustrant comment la technologie de l'IA et ses utilisateurs ont développé un lien émotionnel profond.

Les utilisateurs britanniques sont anxieux et tristes lors des interruptions de service.

En particulier, l'un des domaines de préoccupationdentdans le rapport concernait le développement de groupes en ligne dans le but de soutenir le développement de l'IA Companion (soutien) et de construire des groupes communautaires basés sur l'utilisation de l'IA comme assistant personnel.

Lors d'une interruption de service, une augmentation significative du nombre de personnes publiant sur le forum des messages faisant état de sentiments d'anxiété, de tristesse et de malaise a été observée, suggérant qu'un certain nombre de personnes éprouvent des difficultés lorsque le service est interrompu.

Selon les informations présentées dans le rapport, la majorité des systèmes d'IA les plus performantsatteignent en moyenne un niveau de compétence égal ou supérieur à celui d'un professionnel de base (niveau 3) ; il s'agit d'une augmentation significative par rapport aux performances de l'année précédente.

De plus, plus de 50 % des systèmes évalués dans l'étude indiquent désormais être capables d'effectuer dedentindépendante des tâches de réflexion critique qui nécessiteraient plus d'une heure de travail pour un humain qualifié.

L'association a déclaré que l'IA développe actuellement des outils plus performants que n'importe quel expert humain. De nombreuses avancées ont également été constatées dans plusieurs domaines, notamment la chimie et la biologie, grâce aux systèmes qui accèdent à Internet pour la recherche d'informations et le développement de biocomposants fonctionnels.

Par conséquent, le rapport indique qu'actuellement, au moins une partie des systèmes d'IA dans le monde égalent ou dépassent les performances des experts humains.