媒体监管机构将向儿童委员会警告与人工智能相关的风险

在即将向儿童委员会（Children’s Committee）和媒体监管机构 Coimisiún na Meán 发表的讲话中，该监管机构预计将警告儿童过度信任人工智能（AI）的危险。监管机构将强调，由于儿童依赖并非主要以其安全为设计目标的人工智能系统，有害在线内容的潜在放大效应。

Coimisiún na Meán 儿童委员会强调的风险

Coimisiún na Meán 的在线安全专员 Niamh Hodnett 将对生成式人工智能整合到各种平台及其对儿童的潜在影响表示担忧。 

Hodnett 将强调与人工智能生成内容相关的风险，包括传播不安全或虚假信息以及接触不适合其年龄的材料。

 特别令人担忧的是深度伪造（deepfakes）和人工智能生成的儿童剥削材料的出现，这对儿童的在线安全构成了重大威胁。

呼吁采取监管行动

Coimisiún na Meán 的警告是在 Oireachtas 儿童委员会讨论爱尔兰在保护儿童免受人工智能相关风险方面努力不足之后发出的。 

尽管拥有能够执法的监管机构，如数据保护专员和 Coimisiún na Meán，但爱尔兰因未能充分解决数字领域人工智能带来的挑战而受到批评。 

委员会成员强调需要强有力的执法措施，以保护儿童不被视为数字景观中的实验对象。

回应与监管措施

承认局势的严重性，爱尔兰的媒体监管机构欢迎《欧盟数字服务法》的执行，这赋予了 Coimisiún na Meán 更大的权力，使其能够追究数字平台在保护用户（尤其是儿童）在线安全方面的责任。
 

作为解决人工智能相关风险努力的一部分，Coimisiún na Meán 在其《在线安全法典》草案中纳入了旨在保护儿童免受有害内容影响的措施。这些措施包括安全影响评估以及实施安全协议，以减轻 AI驱动 推荐系统可能造成的潜在伤害。