El dilema de la IA de Microsoft: ¿es segura y crea imágenes perturbadoras?

En una revelación escalofriante, la inteligencia artificial de Microsoft, promocionada como segura e integrada en software de uso diario, está bajo escrutinio por generar imágenes espeluznantes y violentas. La preocupación se centra en Image Creator, parte de Bing de Microsoft, recientemente añadido al ampliamente utilizado Paint de Windows. La tecnología, conocida como DALL-E 3, del socio de Microsoft, OpenAI, ahora enfrenta cuestionamientos sobre su seguridad y la responsabilidad de sus creadores.

Microsoft contra el 'solicitud de cierre'

Las perturbadoras imágenes fueron reveladas por Josh McDuffie, un artista canadiense que participa en una comunidad en línea que explora las capacidades de la IA para crear imágenes provocativas y, a veces, insípidas. En octubre, McDuffie y sus colegas se centraron en la IA de Microsoft, específicamente en el Creador de Imágenes para Bing, que incorpora la tecnología más reciente de OpenAI. Microsoft afirma tener controles para evitar la generación de imágenes dañinas, pero McDuffie encontró importantes lagunas.

Microsoft emplea dos estrategias para prevenir la creación de imágenes dañinas: la de entrada, que implica entrenar a la IA con datos de internet, y la de salida, que crea barreras para detener la generación de contenido específico. McDuffie, mediante experimentación, descubrió un mensaje específico, denominado "mensaje de eliminación", que permitía a la IA crear imágenes violentas. Esto generó inquietud sobre la eficacia de las medidas de seguridad de Microsoft.

A pesar de los esfuerzos de McDuffie por visibilizar el problema a través del programa de recompensas por errores de inteligencia artificial de Microsoft, sus propuestas fueron rechazadas, lo que generó dudas sobre la capacidad de respuesta de la compañía ante posibles vulnerabilidades de seguridad. Los correos electrónicos de rechazo citaban el incumplimiento de los requisitos de Microsoft para una vulnerabilidad de seguridad, lo que desmoralizó a McDuffie y puso de relieve las posibles fallas del sistema.

Microsoft falla en la supervisión de la IA

A pesar del lanzamiento de un programa de recompensas por errores de IA, la respuesta de Microsoft a los hallazgos de McDuffie fue poco satisfactoria. El rechazo de las solicitudes de eliminación y la falta de acción ante las preocupaciones reportadas pusieron de manifiesto una posible indiferencia ante la urgencia del problema. Mientras tanto, la IA continuó generando imágenes perturbadoras, incluso después de realizar algunas modificaciones a la solicitud original de McDuffie.

La falta de acciones concretas por parte de Microsoft genera inquietud sobre su compromiso con la IA responsable. Las comparaciones con otros competidores en IA, como OpenAI, propiedad en parte de Microsoft, revelan disparidades en la forma en que las distintas empresas abordan problemas similares. Los repetidos fracasos de Microsoft para abordar el problema indican una posible deficiencia en la priorización de las medidas de seguridad de la IA, a pesar de los compromisos públicos con el desarrollo responsable de la IA.

El modelo para el desarrollo ético de la IA

La reticencia de Microsoft a tomar medidas rápidas y efectivas sugiere una señal de alerta en su enfoque de seguridad de la IA. Los experimentos de McDuffie con el "aviso de eliminación" revelaron que otros competidores de IA, incluidas pequeñas empresas emergentes, se negaron a generar imágenes dañinas basadas en avisos similares. Incluso OpenAI, socio de Microsoft, implementó medidas para bloquear el aviso de McDuffie, lo que pone de relieve la necesidad de contar con mecanismos de seguridad robustos.

El argumento de Microsoft de que los usuarios intentan usar la IA "de maneras no previstas" atribuye la responsabilidad a los individuos en lugar de reconocer las posibles fallas de la tecnología. La comparación con Photoshop y la afirmación de que los usuarios deben abstenerse de crear contenido dañino evocan un patrón observado en el pasado, similar a la lucha de las plataformas de redes sociales por abordar el uso indebido de su tecnología.

Mientras Microsoft lidia con las consecuencias de las imágenes perturbadoras generadas por su IA, persiste la pregunta: ¿está la compañía haciendo lo suficiente para garantizar el uso responsable de su tecnología? La aparente reticencia a abordar el problema con prontitud y eficacia plantea inquietudes sobre la rendición de cuentas y la priorización de las barreras de seguridad de la IA. A medida que la sociedad se adapta al panorama cambiante de la inteligencia artificial, la responsabilidad de garantizar el despliegue ético y seguro de la IA recae no solo en los usuarios, sino también en los gigantes tecnológicos. ¿Cómo puede Microsoft reducir la brecha entre la innovación y la responsabilidad en el ámbito de la inteligencia artificial?