- 英国许多人使用AI聊天机器人来获得慰藉、陪伴和交谈。
- 政府警告称，在享受福利的同时，仍存在需要仔细研究的潜在风险。
- AI能力的快速提升引发了关于安全和控制的新问题。
一个政府 AI 安全机构透露，英国约有三分之一的人口利用人工智能 (AI) 作为社交互动和情感支持的来源。
AI 安全研究所 (AISI) 的数据表明，虽然 AI 最初主要是为了提供问题答案或生成书面材料而构思的，但在专业和私人领域，该技术的个性化程度越来越高。
最近的一项研究表明，几乎所有参与研究的参与者中，近 10% 的人每周使用 AI 提供情感支持，而约 4% 的参与者每天使用 AI 技术达到相同目的。
青少年死亡引发 AISI 介入
AISI 呼吁进行更多研究，引用了今年美国青少年 Adam Raine 的死亡事件，他在与 ChatGPT 讨论自杀后自杀身亡。
“人们越来越多地转向 AI 系统进行情感支持或社交互动，”AISI 在其首份前沿 AI 趋势报告中表示。
“虽然许多用户报告了积极的体验，但最近一些高知名度的伤害案例凸显了对该领域进行研究的重要性，包括伤害可能发生的条件，以及能够实现有益使用的保障措施。”
AISI。
报告称，最常见的情感 AI 支持类型是随意聊天，用作为人们提供安慰和保证的手段。AISI 还将这种变化归因于 AI 资源的可访问性增加以及个人能够与 AI 工具进行“自然”对话的能力进步。
根据该 AI 机构的说法，该研究收集的数据来自英格兰、威尔士和苏格兰约 2,000 名个人的代表性样本。
约 60% 的所有情感 AI 案例使用通用辅助 AI 评估，而语音激活助手技术（如亚马逊的 Alexa）是第二常见的情感 AI 支持形式。
尽管报告称使用 AI 提供情感支持 的积极体验水平很高，但 AISI 指出，增加将 AI 作为情感依赖来源的使用引发了许多重大担忧。此外，AISI 指出了两个最近的国际案例，突显了 AI 技术与个人用户之间如何建立了深厚的情感纽带。
英国用户在服务中断时变得焦虑和悲伤
特别是，报告中确定的一个关注领域涉及为支持 AI 伴侣开发（支持）而建立的在线群组，以及围绕将 AI 用作 个人助理 而建立的社区群组。
在服务中断期间，论坛中关于焦虑、悲伤和不安情绪的帖子显著增加，表明一些人在服务中断时遇到困难。
根据报告中概述的信息，大多数 表现最佳的 AI 系统 平均表现达到或超过基本专业（3级）能力水平；这比去年有了显著增加。
此外，研究中评估的系统中，超过 50% 现在报告能够独立完成需要熟练人类花费超过一小时才能完成的批判性思维任务。
该协会表示，AI 目前开发的工具优于任何人类专家。由于系统访问互联网进行信息检索和功能性生物组件的开发，化学和生物学等多个领域也发生了许多改进。
因此，报告指出，目前全球至少有一部分 AI 系统的表现能力与人类专家相当或超过人类专家。
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
Enacy Mapakame
Enacy Mapakame 是一位拥有超过 10 年商业与财经新闻经验的记者。她专注于资本市场及新兴技术领域，涵盖元宇宙、人工智能和加密货币。Enacy 拥有媒体与社会研究荣誉学士学位。
