人工智能行业因仓促发布不完美的 AI 工具而受到批评

在争夺蓬勃发展的生成式人工智能领域的竞争中，谷歌、OpenAI 和亚马逊等科技巨头一直在迅速推出新的 AI 产品，但结果往往令人失望。 

这些 AI 工具最近的公开亮相凸显了重大缺陷，包括生成虚假信息和事实错误。急于将这些创新推向市场引发了专家和监管人员对未经测试技术潜在风险的担忧。

谷歌推出了其 Bard 聊天机器人，旨在总结 Gmail 和 Google Docs 中的内容，但用户很快发现它伪造了从未发送过的电子邮件。OpenAI 展示了其 Dall-E 3 图像生成器，但社交媒体用户指出，官方演示中的图像未能满足请求的细节。亚马逊宣布为 Alexa 推出对话模式，该模式在《华盛顿邮报》的演示中表现不佳，甚至推荐了一个位置错误的博物馆。

这一波有缺陷的发布凸显了科技行业 frenzied 地推动利用 生成式人工智能 技术，机器可以生成类人文本和逼真的图像。这种匆忙是由错失恐惧症（FOMO）驱动的，旨在吸引更多用户以生成增强这些人工智能工具所需的数据。然而，专家和科技高管都警告不要过早部署未经测试的人工智能。

行业承认不完美，但继续推进

科技公司坚持认为，他们已经沟通了其 AI 产品的实验性质，并实施了防止冒犯性或偏见输出的安全措施。一些人认为，让人们现在接触 AI 工具有助于在技术变得更强大之前更好地理解相关风险。尽管有这些保证，但快速且有缺陷的推出与谨慎呼吁相矛盾，尤其是考虑到 AI 可能引入偏见甚至超越人类智能的潜力。

值得注意的是，对人工智能的担忧已引起 监管关注。在美国，国会举行了听证会并提出了监管人工智能的法案，尽管具体行动仍然有限。上周，包括埃隆·马斯克和马克·扎克伯格在内的科技高管面对立法者的质询，后者正在考虑制定监管该技术的法律。在欧洲，立法者正在推进法规，禁止某些人工智能用途，如预测犯罪行为，并为行业建立严格规则。在英国，人工智能监管的全球合作是11月一次重大峰会的议程。

英国财政大臣杰里米·亨特强调在监管和创新之间找到平衡的重要性。他承认竞争紧张推动了技术进步，但强调需要建立一个促进创新并确保必要安全措施的监管框架。

AI 开发中的挑战依然存在

以 OpenAI 的 ChatGPT 为例的最新一代 AI 工具因其功能而受到广泛关注。这些由互联网海量数据集驱动的 AI 系统可以回答复杂的问题，通过专业考试，并进行类人对话。然而，挑战依然存在。

聊天机器人经常生成虚假信息并将其作为事实呈现，这种现象被称为“幻觉”。图像生成器正在迅速改进，但人们对其可能用于制造宣传和虚假信息仍存有担忧，尤其是在美国2024年大选临近之际。此外，使用受版权保护的材料训练人工智能模型引发了法律纠纷，著名作家最近起诉OpenAI，指控其在其AI训练中使用了他们的作品。