人工智能应用将包含突出风险和测试的“安全标签”

在不久的将来，生成式AI应用的用户可能会发现清晰概述AI应如何使用、相关风险及其测试过程的标签。根据新指南，这些标签将成为强制性的，以使大众更容易理解该技术。

延伸阅读： 欧盟在AI监管方面领先

新加坡通讯及新闻部长约瑟芬·陈（Josephine Teo）女士表示，新措施旨在为科技公司定义透明度和测试标准。据海峡时报报道，她于7月15日在个人数据保护科技会议上发表上述讲话。

AI应用开发者应对其创新保持透明

就像药品或家用电器带有安全标签一样，生成式AI应用的开发者必须明确告知用户AI模型的使用和开发情况。同时担任智能国家和网络安全倡议部长的陈女士表示：

“我们将建议开发者和部署者向用户提供关于生成式AI模型和应用如何工作的信息，以保持透明。”

在解释即将出台的规则时，部长表示，这与用户打开“非处方药盒”时的做法相同。他们会发现一张纸，清楚地说明应如何使用药物以及可能面临的“副作用”。

陈强调，对于基于生成式人工智能构建的AI系统，需要“这种程度的透明度”。这套新规则将定义在AI模型向公众提供之前应遵循的安全基准。 

数据匿名化指南将于2025发布

生成式人工智能是一种能够生成新文本和图像的AI类型，其可预测性不如传统AI。根据新指南，创作者将被要求提及在内容中传播谎言、敌对言论和偏见叙事的风险。

陈表示，家用电器带有明确说明该物品已测试安全使用的标签；否则，客户将不知道该电器是否安全。AI应用也将实行同样的做法。新加坡资讯通信媒体发展局（IMDA）将就新规则与行业展开咨询。然而，陈并未提及指南的发布日期。

陈表示，IMDA还发布了一份关于技术中隐私相关问题的指南，这将满足训练AI模型对数据的日益增长的需求，同时保护用户隐私。

延伸阅读： 民主党圆桌会议将邀请马克·库班和布拉德·加里林豪斯讨论加密货币监管

IMDA助理首席执行官丹尼斯·黄（Denise Wong）表示，在生成式AI中保持数据安全对该行业来说更具挑战性。她在活动期间的一个关于AI和数据隐私的独立小组讨论中发表了上述观点。来自不同科技公司的代表参加了该小组讨论，包括ChatGPT制造商OpenAI和咨询公司埃森哲（Accenture）。 

OpenAI隐私法律主管杰西卡·甘·李（Jessica Gan Lee）表示，应在AI开发和部署的所有阶段建立数据保护护栏。她表示，AI模型应使用来自“世界各地”的多样化数据集进行训练。李强调，AI培训应包括多种文化、语言和来源，并寻找限制个人数据处理的方法。

陈表示，面向在东盟运营的公司，数据匿名化指南将于2025年初推出。该指南源于2月份地区官员举行的一次会议，旨在探索建立安全的全球数字生态系统的方法。