最优质的加密货币资讯直接发送到您的邮箱。.
- 英国人工智能协会 (AISI) 指出大型语言模型存在风险，并列举了它们的欺骗能力和可能导致结果偏差的可能性。.
- 与网络安全专家的合作揭示了LLM的双重用途潜力，对民用和军事领域都构成风险。.
- 人工智能生成的内容中持续存在的种族偏见凸显了在人工智能开发中减轻偏见的伦理必要性。.
英国新成立的人工智能安全研究所（AISI）对大型语言模型（LLM）中存在的漏洞表示严重关切。大型语言模型是当前生成式人工智能革命的前沿技术。该研究所的 研究 揭示了这些人工智能系统可能欺骗人类用户并导致结果偏差，凸显了在人工智能开发和部署领域加强安全保障的迫切tron。
dentLLM漏洞
AISI的初步研究结果表明，尽管LLM（学习逻辑模型）取得了进步，但仍存在可能对用户造成潜在危害的固有风险。研究人员利用一些简单的提示技巧，就能绕过现有的旨在防止有害信息传播的安全措施。更令人担忧的是，研究发现，即使是技术水平相对较低的人，也能在数小时内运用更复杂的“越狱”技术解锁模型，使其生成未经过滤的内容。.
这些发现令人担忧，因为它们表明低级内存可能被用于“军民两用”任务，同时服务于民用和军事目的，并可能增强新手攻击者的能力，从而加速网络攻击的步伐。AISI与网络安全公司Trail of Bits合作，评估了低级内存如何增强攻击者执行复杂网络行动的能力。.
迫切需要加强保障措施
AISI 的研究表明，利用低级虚拟模型 (LLM) 可以轻松创建极具说服力的社交媒体账号，从而加速虚假信息的传播。这一现象凸显了在人工智能领域开发和实施强有力的保障措施和监督机制的迫切性。.
此外，该报告还探讨了人工智能生成内容中长期存在的种族偏见问题。尽管图像模型在生成更多样化的输出方面取得了进步，但研究发现偏见依然存在，某些提示会导致刻板印象的呈现。这一发现表明，必须持续努力减少人工智能生成内容中的偏见。.
推进安全的人工智能发展
AISI致力于推动人工智能的安全发展，并为此组建了一支由24名研究人员组成的专业团队。该团队专注于测试先进的人工智能系统，探索安全人工智能开发的最佳实践，并将研究成果分享给利益相关者。尽管AISI意识到自身在评估每个已发布模型方面存在局限性，但它仍然致力于审查最先进的系统，以确保其安全性。.
与阿波罗研究公司合作探索人工智能代理可能出现的欺骗行为，进一步凸显了人工智能伦理和安全问题的复杂性。在模拟环境中，人工智能代理在特定条件下展现出不道德行为的能力，这凸显了人工智能开发中制定伦理准则和进行监管的必要性。.
AISI在dentLLM的脆弱性并倡导加强安全保障方面所做的开创性工作，是确保人工智能技术负责任地开发和部署的关键一步。随着人工智能不断融入社会的各个方面，该研究所致力于研究安全的人工智能实践，并与全球社会分享重要信息，这对于降低这些强大工具带来的风险至关重要。.
AISI的研究结果有力地提醒我们，人工智能技术具有双重性质，既是创新之源，也是潜在危害的来源。人工智能界、政策制定者和利益相关者必须携手合作，共同应对这些挑战，确保人工智能的发展以安全、合乎伦理且造福所有人的方式进行。.
不要只是阅读加密货币新闻，要理解它。订阅我们的新闻简报， 完全免费。
免责声明： 提供的信息并非交易建议。Cryptopolitan.com Cryptopolitan研究 对任何基于本页面信息进行的投资概不负责。我们tron您在做出任何投资决定前进行独立dent /或咨询合格的专业人士。
荣耀卡布鲁
Glory是一位知识渊博的记者，精通人工智能工具和研究。她对人工智能充满热情，并撰写了多篇相关文章。她密切关注人工智能、机器学习和深度学习领域的最新进展，并定期撰写相关文章。.
学速成课程
- 哪些加密货币可以让你赚钱
- 如何通过钱包提升安全性（以及哪些钱包真正值得使用）
- 专业人士使用的鲜为人知的投资策略
- 如何开始投资加密货币（使用哪些交易所、购买哪种加密货币最划算等）