一位微软工程师就该公司的人工智能图像生成器发出警告，称其可能生成暴力和色情内容，且无视版权法。微软首席软件工程经理肖恩·琼斯（Shane Jones）利用业余时间积极测试了这款名为“Copilot Designer”的产品。他的发现包括一些令人不安的图像，例如恶魔，以及堕胎权、未成年饮酒和吸毒等主题，这促使他将此事上报给更高层级。.
琼斯的担忧和采取的行动
在微软工作了六年的琼斯，作为红队成员参与测试Copilot Designer，负责dent人工智能技术的漏洞。他发现该工具生成的图像存在安全隐患，可能造成危害，于是向微软内部报告了这一情况，但公司迟迟不愿采取果断行动。尽管琼斯努力表达担忧，包括在LinkedIn上发布公开信并联系美国参议员，但他仍然感到有必要将此事进一步升级。.
向联邦贸易委员会主席和微软董事会汇报
为了解决Copilot Designer持续存在的问题，琼斯致信美国联邦贸易委员会主席莉娜·汗和微软董事会。他敦促联邦贸易委员会对此事展开调查，并呼吁微软做出相应改进，例如在产品中添加信息披露说明，以及调整应用评级以反映其包含的成人内容。琼斯还要求微软董事会启动一项dent 审查，以评估该公司负责任的人工智能dent 报告流程。.
对生成式人工智能及其监管缺失的担忧
琼斯的举动凸显了人们对生成式人工智能技术缺乏监管的更广泛担忧。鉴于有害内容可能被广泛传播，尤其是在即将到来的选举背景下，琼斯强调迫切需要更严格的保障措施。他指出，Copilot团队每天都会收到大量产品反馈信息，这表明要及时解决所有问题面临着巨大的挑战。.
版权侵权和内容问题
除了生成暴力和色情图像外，Copilot Designer 还引发了人们对版权侵权的担忧。该工具被发现会生成包含受版权保护的角色（例如迪士尼的艾莎和星球大战人物）的图像，这可能违反了版权法和微软的政策。琼斯强调，问题不仅限于版权侵权，还凸显了有害和令人不安的图像在全球范围内传播的更广泛影响。.
Shane Jones 为解决围绕微软人工智能图像生成器的担忧所做的努力，凸显了在生成式人工智能领域加强监管的迫切需求。他的行动呼吁监管机构和科技公司将人工智能技术的安全性和合乎伦理的使用放在首位。.
