Un ingeniero de Microsoft expresa su preocupación por la creación de imágenes violentas y sexuales mediante una herramienta de IA

Un ingeniero de Microsoft ha alertado sobre el generador de imágenes con inteligencia artificial de la compañía, advirtiendo de su propensión a producir contenido violento y sexual, ignorando las leyes de derechos de autor. Shane Jones, gerente principal de ingeniería de software de Microsoft, ha estado probando activamente el producto, conocido como Copilot Designer, en su tiempo libre. Sus hallazgos, que incluyen imágenes perturbadoras como demonios, junto con temas como el derecho al aborto, el consumo de alcohol por parte de menores y el consumo de drogas, lo han llevado a elevar el asunto a las autoridades superiores.

Preocupaciones de Jones y medidas adoptadas

Jones, quien lleva seis años trabajando en Microsoft, comenzó a probar Copilot Designer como parte de su rol como miembro del equipo rojo, encargado dedentvulnerabilidades en la tecnología de IA. Preocupado por las imágenes generadas por la herramienta, que consideró inseguras y potencialmente dañinas, Jones informó sus hallazgos internamente a Microsoft, pero la compañía se mostró reticente a tomar medidas decisivas. A pesar de sus esfuerzos por expresar su preocupación, incluyendo la publicación de una carta abierta en LinkedIn y el contacto con senadores estadounidenses, Jones se vio obligado a intensificar el problema.

Escalada al presidente de la FTC y al consejo de administración de Microsoft

Para abordar los problemas actuales con Copilot Designer, Jones envió cartas a la presidenta de la Comisión Federal de Comercio (FTC), Lina Khan, y a la junta directiva de Microsoft. Instó a la FTC a investigar el asunto y solicitó a Microsoft que implementara cambios, como añadir información al producto y ajustar la clasificación de la aplicación para reflejar contenido para adultos. Jones también solicitó a la junta directiva de Microsoft que iniciara una revisióndent de los procesos de la compañía para reportardent de IA responsables.

Preocupaciones sobre la IA generativa y la falta de supervisión

Las acciones de Jones ponen de relieve preocupaciones más amplias sobre la falta de supervisión en torno a la tecnología de IA generativa. Ante la posibilidad de una amplia difusión de contenido dañino, especialmente en el contexto de las próximas elecciones, Jones enfatiza la urgente necesidad de medidas de seguridad más estrictas. Señala que el equipo de Copilot recibe numerosos mensajes de comentarios sobre el producto a diario, lo que indica un desafío significativo para abordar todos los problemas con prontitud.

Infracción de derechos de autor y problemas de contenido

Además de la creación de imágenes violentas y sexuales, Copilot Designer también plantea inquietudes sobre la infracción de derechos de autor. Se ha observado que la herramienta genera imágenes con personajes protegidos por derechos de autor, como Elsa de Disney y figuras de Star Wars, lo que podría infringir tanto las leyes de derechos de autor como las políticas de Microsoft. Jones enfatiza que el problema va más allá de las violaciones de derechos de autor, destacando las implicaciones más amplias de la difusión global de imágenes dañinas y perturbadoras.

Los esfuerzos de Shane Jones para abordar las preocupaciones en torno al generador de imágenes de IA de Microsoft subrayan la creciente necesidad de una supervisión y regulación rigurosas en el campo de la IA generativa. Sus acciones sirven como un llamado a la acción tanto para las autoridades reguladoras como para las empresas tecnológicas para que prioricen la seguridad y el uso ético de las tecnologías de IA.