生成式AI模型编码偏见并捏造无意义信息，研究揭示

在最近几个月，生成式AI模型如ChatGPT、Google的Bard和Midjourney在个人和专业用途中越来越受欢迎。然而，研究正在揭示一个令人不安的趋势：这些模型正在其用户中嵌入偏见和负面刻板印象，同时生成和传播看似准确但无意义的信息。 

这种现象的后果对边缘化群体尤其严重，他们承担了传播捏造信息的不成比例的负担。随着这些模型在万维网上变得更加普遍，人们越来越担心它们可能会影响人类信念。发表在《科学》杂志上的一篇新观点文章强调了心理学家和机器学习专家之间合作的紧迫性，以评估这个问题的规模并开发解决方案。

Abeba Birhane，都柏林三一学院计算机与统计学院兼职助理教授，同时也是 Mozilla 基金会可信赖人工智能高级研究员，指出生成式模型缺乏表达不确定性的能力，导致其给出的回答自信且流畅，却缺乏适当的限定词或对怀疑的表征。因此，人们可能会将这些回答视为事实准确，从而导致信念扭曲。此外，财务和法律责任利益促使公司将生成式模型拟人化为智能、富有同理心甚至像孩子一样，这加剧了这一问题。

对边缘群体的不成比例影响

偏见和捏造信息的后果在边缘群体中尤为显著。该研究强调，进行详细分析以衡量生成式模型对人类信念和偏见的影响至关重要。通过重点关注受模型输出中捏造信息和负面刻板印象影响最严重的边缘社区，未来的研究和干预措施可以有效地解决这些问题。

《观点》一文中讨论的一个具体例子涉及生成式人工智能模型在法律系统中的应用。这些模型中的统计规律导致被分配给黑人被告的风险评分更高。因此，内化了这些模式的法院法官可能会改变其量刑实践以符合算法的预测。即使实施了法规来限制此类系统的使用，这种统计学习机制仍可能延续黑人更可能再犯的错误信念。

克服偏见和捏造信息的挑战

一旦个人接受了偏见和捏造的信息，就很难消除。儿童尤其脆弱，因为他们更有可能将技术拟人化，并且容易受到影响。认识到这一点，应努力向公众、政策制定者和跨学科科学家普及生成式人工智能模型的工作原理，消除现有的错误信息，并反驳围绕这些技术的夸大说法。

《观点》文章强调，及时全面地分析以评估生成式模型对人类信念和偏见的影响至关重要。它还呼吁采取有针对性的干预措施和资源，以减轻对边缘群体的影响。此外，应开展教育和宣传活动，提供关于这些人工智能模型如何运作的现实见解，并纠正关于其能力的误解和炒作。

随着生成式人工智能模型的广泛采用，偏见的编码和无意义信息的捏造引发了重大担忧。边缘群体受到不成比例的影响，加剧了现有的不平等。心理学家和机器学习专家之间的合作对于评估这一问题的规模并制定有效解决方案至关重要。通过了解生成式模型对人类信念和偏见的影响，就有可能解决和纠正这些人工智能系统中嵌入的偏见和捏造信息。