Abordando el impacto global de la Inteligencia Artificial Generativa (Gen AI)
- La IA generosa plantea riesgos en países con recursos limitados debido a la desinformación y los deepfakes.
- Las soluciones incluyen evaluaciones diversas, etiquetado de contenido y medidas de seguridad específicas para cada cultura.
- Los desafíos regulatorios pueden dejar vulnerables a las naciones críticas frente al impacto de la IA generativa.
La rápida aparición de la Inteligencia Artificial Generativa (Gen AI) y su poder transformador, ejemplificado por la arquitectura de transformadores ampliamente utilizada, ha alterado significativamente el panorama digital. Herramientas como ChatGPT de OpenAI han democratizado el acceso a capacidades de IA de vanguardia, permitiendo a los usuarios generar contenido de alta calidad en varios medios con mínima infraestructura o experiencia previa. Si bien la Gen AI ofrece numerosos beneficios, su distribución y consecuencias no son uniformes en el escenario global, con algunos países cosechando más recompensas que otros.
Riesgos en países con pocos recursos
Los beneficios de los sistemas de Gen AI se han acumulado principalmente en países con idiomas de alto recurso, como el inglés, dejando a los países con pocos recursos en desventaja. Esta discrepancia en el acceso y el impacto se vuelve más pronunciada en naciones caracterizadas por historias de conflictos violentos e inestabilidad, etiquetándolas como críticas en cuanto al riesgo. En estas regiones, los riesgos potenciales asociados con la Gen AI se exacerban.
Desinformación e información falsa
La proliferación de la Gen AI, especialmente en países con entornos de medios menos regulados, ha generado preocupaciones sobre la propagación de desinformación e información falsa. Los actores malintencionados en países críticos en cuanto al riesgo pueden aprovechar las capacidades de la Gen AI para manipular la opinión pública, similar a lo observado en las plataformas de redes sociales. Las consecuencias pueden ser graves, ya que la búsqueda de la verdad se vuelve cada vez más elusiva.
Medios sintéticos y deepfakes
El uso estratégico de medios sintéticos, incluidos los deepfakes, representa una amenaza significativa en los países críticos en cuanto al riesgo. Con un control limitado de los medios, combatir la proliferación de deepfakes se convierte en una batalla cuesta arriba, exacerbada aún más por el uso de la Gen AI. Eventos recientes, como el conflicto entre Israel y Hamás, demuestran cómo la Gen AI introduce nuevos riesgos incluso en países con ecosistemas de medios establecidos.
Acoso de género
En sociedades donde la castidad es muy valorada, el acoso de género es un medio prevalente para dirigirse a mujeres y niñas. La Gen AI amplifica este problema, facilitando a los acosadores crear y difundir contenido dañino. El impacto en el mundo real de tales casos puede ser profundo, lo que conduce a un daño tangible a los individuos.
Sesgo de datos
El sesgo dentro de los modelos de IA es un problema bien documentado. En países con pocos recursos, es difícil para los desarrolladores identificar y corregir el sesgo sin acceso a expertos en contexto. Como resultado, los mercados críticos en cuanto al riesgo enfrentan tiempos de respuesta más largos por parte de los desarrolladores de Gen AI, lo que los hace más susceptibles a las consecuencias adversas del sesgo.
Recomendaciones para la mitigación
Abordar estos riesgos es imperativo para garantizar el uso responsable de la Gen AI y mitigar sus consecuencias negativas, particularmente en países críticos en cuanto al riesgo. Las siguientes recomendaciones son pasos esenciales en esta dirección:
Equipos de evaluación diversos
Los modelos de Gen AI deben someterse a evaluaciones internas y externas por parte de equipos diversos de expertos. El red teaming, un proceso que involucra a expertos externos para evaluar los modelos de Gen AI en busca de riesgos, debe estar abierto a participantes de diversas ubicaciones geográficas, evitando restricciones basadas en la compensación o la residencia. Esto ayudará a identificar y abordar los riesgos en curso de manera efectiva.
Atribución de contenido y barreras de seguridad
Para combatir la desinformación, el contenido generado por la Gen AI debe estar claramente marcado con marcas de agua, indicando su origen de IA. Las barreras de seguridad, como evaluaciones de sesgo de los datos de entrenamiento, restricciones sobre datos de entrenamiento gráficos y políticas para prohibir la generación de contenido sexual, deben priorizarse. Al implementar políticas de contenido, la especificidad cultural y la participación de expertos en contexto son cruciales, con actualizaciones continuas para mantenerse relevantes.
Sistemas de denuncia de usuarios multilingües
Las grandes empresas de Gen AI deberían poner a disposición sistemas de denuncia de usuarios en los idiomas de los países críticos en cuanto al riesgo. Actualmente, la disponibilidad de dichos sistemas de denuncia a menudo se limita al inglés, dejando a los usuarios en estos países con medios limitados para abordar problemas y preocupaciones.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
John Palmer
John Murangiri llegó a Cryptopolitan con habilidades en análisis de mercado. John (también conocido como JP) se graduó de la Universidad de Nairobi con un título de licenciatura en comunicación masiva y estudios de medios. Anteriormente, ha contribuido con perspectivas del mercado de criptomonedas a InsideBitcoins.com y Metacoingraph.
