El dilema de la IA de Microsoft: ¿Segura, pero generando imágenes perturbadoras?
- La IA de Microsoft, integrada en software popular como Windows, está generando imágenes perturbadoras y violentas, lo que suscita preocupaciones sobre su seguridad.
- Se acusa a la IA, especialmente en Image Creator, de permitir la creación de imágenes "deepfake", incluyendo decapitaciones y violencia contra diversos grupos.
- A pesar de las afirmaciones sobre medidas de seguridad, Microsoft parece culpar a los usuarios, destacando una posible falta de responsabilidad por el uso no intencionado de su IA.
En una revelación escalofriante, la inteligencia artificial de Microsoft, presentada como segura e integrada en el software cotidiano, está bajo escrutinio por generar imágenes grotescas y violentas. La preocupación se centra en Image Creator, una parte de Bing de Microsoft, recientemente añadida al ampliamente utilizado Paint de Windows. La tecnología, conocida como DALL-E 3 del socio de Microsoft, OpenAI, ahora enfrenta preguntas sobre su seguridad y la responsabilidad de sus creadores.
Microsoft frente al 'prompt de eliminación'
Las imágenes perturbadoras fueron reveladas por Josh McDuffie, un artista canadiense involucrado en una comunidad en línea que explora las capacidades de la IA para crear imágenes provocativas y a veces de mal gusto. En octubre, McDuffie y sus colegas se centraron en la IA de Microsoft, específicamente en Image Creator para Bing, incorporando la última tecnología de OpenAI. Microsoft afirma tener controles para prevenir la generación de imágenes dañinas, pero McDuffie encontró lagunas significativas.
Microsoft emplea dos estrategias para prevenir la creación de imágenes dañinas: la entrada, que implica entrenar a la IA con datos de internet, y la salida, que crea barreras de seguridad para detener la generación de contenido específico. McDuffie, mediante experimentación, descubrió un prompt particular, denominado 'prompt de eliminación' (kill prompt), que permitía a la IA crear imágenes violentas. Esto generó preocupaciones sobre la eficacia de las medidas de seguridad de Microsoft.
A pesar de los esfuerzos de McDuffie por llamar la atención sobre el problema a través del programa de recompensas por errores de IA de Microsoft, sus presentaciones fueron rechazadas, lo que plantea dudas sobre la capacidad de respuesta de la empresa ante posibles vulnerabilidades de seguridad. Los correos electrónicos de rechazo citaron la falta de cumplimiento de los requisitos de Microsoft para una vulnerabilidad de seguridad, dejando a McDuffie desmoralizado y destacando posibles defectos en el sistema.
Microsoft falla en la supervisión de la IA
A pesar del lanzamiento de un programa de recompensas por errores de IA, la respuesta de Microsoft a los hallazgos de McDuffie fue insatisfactoria. El rechazo de las presentaciones del 'prompt de eliminación' y la falta de acción sobre las preocupaciones reportadas subrayan una posible indiferencia ante la urgencia del problema. Mientras tanto, la IA continuó generando imágenes perturbadoras, incluso después de que se realizaran algunas modificaciones al prompt original de McDuffie.
La falta de acción concreta por parte de Microsoft genera preocupaciones sobre el compromiso de la empresa con una IA responsable. Las comparaciones con otros competidores de IA, incluida OpenAI, parcialmente propiedad de Microsoft, revelan disparidades en cómo las diferentes empresas abordan problemas similares. Los repetidos fracasos de Microsoft para abordar el problema señalan una posible brecha en la priorización de las barreras de seguridad de la IA, a pesar de los compromisos públicos con el desarrollo responsable de la IA.
El modelo para el desarrollo ético de la IA
La renuencia de Microsoft a tomar medidas rápidas y efectivas sugiere una señal de alarma en el enfoque de la empresa hacia la seguridad de la IA. Los experimentos de McDuffie con el 'prompt de eliminación' revelaron que otros competidores de IA, incluidas pequeñas startups, se negaron a generar imágenes dañinas basadas en prompts similares. Incluso OpenAI, socio de Microsoft, implementó medidas para bloquear el prompt de McDuffie, enfatizando la necesidad de mecanismos de seguridad robustos.
El argumento de Microsoft de que los usuarios intentan usar la IA 'de maneras no previstas' traslada la responsabilidad a los individuos en lugar de reconocer posibles defectos en la tecnología. La comparación con Photoshop y la afirmación de que los usuarios deben abstenerse de crear contenido dañino refleja un patrón visto en el pasado, reminiscente de las plataformas de redes sociales que luchan por abordar el mal uso de su tecnología.
A medida que Microsoft lidia con las consecuencias de que su IA genere imágenes perturbadoras, surge la pregunta: ¿está haciendo lo suficiente la compañía para garantizar el uso responsable de su tecnología? La aparente renuencia a abordar el problema de manera rápida y efectiva genera preocupaciones sobre la rendición de cuentas y la priorización de las barreras de seguridad de la IA. A medida que la sociedad navega por el panorama en evolución de la inteligencia artificial, la responsabilidad recae no solo en los usuarios, sino también en los gigantes tecnológicos para garantizar el despliegue ético y seguro de la IA. ¿Cómo puede Microsoft cerrar la brecha entre la innovación y la responsabilidad en el ámbito de la inteligencia artificial?
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
