Redefinir la regulación de la IA centrándose en los daños reales en lugar de las amenazas hiperbólicas

La Inteligencia Artificial (IA) ha trascendido el ámbito de la ciencia ficción y se ha integrado en nuestra vida diaria, aportando tanto beneficios como riesgos. Si bien las discusiones sobre el potencial de la IA para representar una amenaza existencial para la humanidad han captado la atención de los titulares, la verdadera preocupación radica en el daño inmediato y tangible que las tecnologías de IA ya están causando. Desde arrestos injustos hasta discriminación algorítmica, el enfoque debe cambiar del sensacionalismo a una ciencia fundamentada que investigue los peligros reales del mundo.

Desenmascarando las amenazas reales

En lugar de sucumbir al atractivo de la retórica sensacionalista, el enfoque debe estar en los daños reales que las tecnologías de IA están infligiendo hoy en día. Los arrestos injustos, la expansión de las redes de vigilancia y la proliferación de pornografía deepfake no son escenarios hipotéticos; son consecuencias reales de las herramientas de IA actualmente disponibles en el mercado. El aumento de prácticas discriminatorias en la vivienda, la justicia penal y la atención sanitaria, así como la propagación del discurso de odio y la desinformación, destacan los problemas urgentes vinculados al impacto presente de la IA.

Desmantelando el hype

Muchas empresas de IA tienden a priorizar narrativas dramáticas sobre los daños tangibles al discutir los riesgos potenciales de la IA. La reciente declaración del Centro para la Seguridad de la IA, firmada por líderes de la industria, sobre el riesgo de extinción impulsada por la IA, ha generado preocupaciones sobre prioridades mal colocadas. La narrativa en torno al “riesgo existencial” desvía la atención de la necesidad urgente de abordar los daños muy reales que ya están emergiendo.

La necesidad de definiciones claras

El propio término “IA” se ha convertido en un término paraguas ambiguo, que abarca diversos significados que van desde un subcampo de la informática hasta una solución mágica y enigmática para las empresas. Esta ambigüedad complica las discusiones significativas. Hoy en día, los modelos de síntesis de texto como ChatGPT dominan el panorama de la IA. Estos modelos generan texto coherente pero carecen de comprensión y capacidades de razonamiento, lo que los hace más parecidos a chatbots sofisticados que a entidades inteligentes genuinas.

El problema con el texto sintético

Aunque los modelos de síntesis de texto producen texto convincente, carecen de verdadera comprensión, lo que hace que sus salidas puedan ser engañosas y dañinas. La proliferación de texto sintético exacerba la desinformación y el sesgo presentes en sus datos de entrenamiento, amplificando los prejuicios sociales. El desafío radica en distinguir el texto sintético de fuentes de información creíbles, una tarea que se vuelve más difícil a medida que se propaga el texto sintético.

¿La IA como solución? ¿O como perjuicio?

La tecnología de síntesis de texto a menudo se saluda como una solución para diversas brechas sociales, como la educación, la atención sanitaria y los servicios legales. Sin embargo, la realidad es diferente. La tecnología a menudo explota el contenido creado por artistas y autores sin la debida compensación, y el proceso de etiquetado de datos para el entrenamiento de la IA implica a trabajadores de plataformas con salarios bajos sometidos a duras condiciones laborales. Además, la búsqueda de la automatización resulta en pérdidas de empleo y empleo precario, especialmente en industrias como el entretenimiento.

El papel de la política basada en la ciencia

La política de IA debe estar arraigada en una investigación sólida y en una preocupación genuina por el bienestar de la sociedad. Desafortunadamente, muchas publicaciones sobre IA provienen de fuentes corporativas o financiadas por la industria, lo que lleva a prácticas de investigación cuestionables. Es imperativo cambiar el enfoque hacia la investigación que investiga los daños reales que perpetúan los sistemas de IA. Estos incluyen la acumulación descontrolada de datos y poder computacional, los costos ambientales del entrenamiento de la IA y la exacerbación de las desigualdades sociales.

Reenfocarse en la investigación genuina

Los formuladores de políticas deben priorizar una investigación rigurosa que profundice en los daños y riesgos de la IA, junto con las consecuencias de delegar autoridad en sistemas automatizados. Esta investigación debe abarcar el análisis de las ciencias sociales y la construcción de teorías, fomentando una comprensión más profunda de los impactos sociales de la IA. Las políticas basadas en dicha investigación asegurarán que el enfoque siga centrado en abordar los problemas del mundo real que enfrentan las comunidades marginadas debido a las tecnologías de IA.

A medida que la IA sigue moldeando nuestro mundo, el énfasis debe cambiar de las amenazas existenciales sensacionalizadas al daño inmediato que las tecnologías de IA están causando. Los arrestos injustos, la discriminación algorítmica y la propagación del discurso de odio son algunas de las graves consecuencias de las herramientas de IA hoy en día. Centrarse en una ciencia fundamentada y una investigación sólida permitirá a los formuladores de políticas abordar estos problemas urgentes y garantizar que las tecnologías de IA beneficien a la sociedad sin causar daños indebidos.