¿Cuánto peligro hay en la adopción de la IA? El padrino de la IA renuncia en Google

La rápida adopción de la IA expone a la humanidad a peligros catastróficos. En un giro sorprendente de los acontecimientos, el Dr. Geoffrey Hinton, ampliamente conocido como el «Padrino de la IA», ha dimitido de su puesto en Google y ha emitido una advertencia severa sobre los peligros de la inteligencia artificial.

La IA resulta ser la mayor amenaza para la humanidad

Según los informes, el «Padrino de la IA» ha dimitido de su puesto en Google para poder hablar más abiertamente sobre los riesgos potenciales de la tecnología de inteligencia artificial. El Dr. Geoffrey Hinton trabajó en algoritmos de aprendizaje automático en Google durante más de una década antes de dejar la empresa. Su trabajo de toda una vida en redes neuronales reportedly le valió el apelativo.

La dimisión del Dr. Geoffrey llega en medio de crecientes preocupaciones sobre el uso de la inteligencia artificial en diversas industrias, incluyendo la atención sanitaria, las finanzas y el transporte. Los críticos argumentan que la inteligencia artificial podría llevar al desplazamiento de empleos, violaciones de la privacidad e incluso al desarrollo de armas autónomas.

En una entrevista con The New York Times, declaró que su mayor preocupación era el uso de la inteligencia artificial para inundar internet con fotos, videos y textos falsos hasta el punto de que la gente ya no «podrá saber qué es verdad».

Hinton también estaba preocupado por la tecnología de inteligencia artificial reemplazando la mano de obra humana. Cree que la inteligencia artificial podría representar una amenaza para la humanidad en el futuro debido a su capacidad para adquirir comportamientos inesperados a partir de las enormes cantidades de datos que analiza. Hinton también expresó cierto arrepentimiento sobre su trabajo de vida:

Me consuelo con la excusa normal: Si yo no lo hubiera hecho, otra persona lo habría hecho.

Dr. Geoffrey Hinton

La dimisión del Dr. Geoffrey Hinton ha enviado ondas de choque por toda la industria tecnológica, con muchos expertos pidiendo una mayor supervisión y regulación de la inteligencia artificial. A medida que el debate sobre los riesgos y beneficios de la inteligencia artificial continúa, está claro que las contribuciones de pioneros como el Dr. Geoffrey Hinton serán cruciales para dar forma al futuro de esta tecnología en rápida evolución.

Muchos expertos tecnológicos advierten sobre los peligros de la inteligencia artificial

En los últimos meses, reguladores, legisladores y líderes de la industria tecnológica han expresado su preocupación por el desarrollo de la inteligencia artificial. Más de 2.600 ejecutivos e investigadores tecnológicos firmaron una carta abierta en marzo instando a una suspensión temporal del desarrollo de la inteligencia artificial, citando «graves riesgos para la sociedad y la humanidad».

En abril, doce legisladores de la Unión Europea firmaron una carta similar, y un proyecto de ley reciente de la UE clasifica las herramientas de inteligencia artificial según sus niveles de riesgo. Además, el Reino Unido proporcionará 125 millones de dólares a un grupo de trabajo para el desarrollo de «IA segura».

Según se informa, las herramientas de inteligencia artificial ya se están utilizando para la desinformación, con ejemplos recientes de medios de comunicación engañados para publicar noticias falsas. Además, un medio alemán utilizó inteligencia artificial para simular una entrevista.

Binance afirmó el 1 de mayo que su CEO Changpeng «CZ» Zhao era miembro de una organización estudiantil del Partido Comunista Chino, lo cual fue propagado por un chatbot originado en ChatGPT, según lo evidenciado por capturas de pantalla del chatbot.

La semana pasada, un grupo de bromistas también engañó a múltiples medios de comunicación en todo el mundo, incluido el Daily Mail y The Independent. El Daily Mail publicó una historia sobre un supuesto actor canadiense llamado «Saint Von Colucci» que supuestamente murió después de someterse a cirugía plástica para parecerse más a una estrella del pop surcoreano. El Daily Mail posteriormente eliminó el artículo.

¿Cuáles son los peligros previsibles de la IA para la humanidad?

Existen varios peligros previsibles de la inteligencia artificial para la humanidad, algunos de los cuales ya se están experimentando y otros que pueden ocurrir en el futuro. Aquí hay algunos de los peligros más preocupantes:

1. Desplazamiento laboral: A medida que la inteligencia artificial se vuelve más avanzada, existe el riesgo de que reemplace a los trabajadores humanos en muchas industrias, lo que provocaría enormes pérdidas de empleo y disrupción económica. Elon Musk señaló que hay trabajos que los robots asumirán y realizarán mejor que los humanos

2. Armas autónomas: El desarrollo de armas autónomas, que pueden tomar decisiones sobre a quién apuntar y cuándo atacar sin intervención humana, es una gran preocupación. Estas armas podrían potencialmente causar daños no intencionados, ya que podrían fallar o ser hackeadas.

3. Consecuencias no intencionadas: A medida que los sistemas de inteligencia artificial se vuelven más complejos, existe el riesgo de que produzcan consecuencias no intencionadas que podrían ser dañinas. Por ejemplo, un sistema de inteligencia artificial diseñado para maximizar las ganancias de una empresa podría dañar inadvertidamente el medio ambiente o la sociedad.

4. Sesgo y discriminación: los sistemas de inteligencia artificial son tan imparciales como los datos en los que se entrenan, lo que significa que si los datos utilizados para entrenarlos están sesgados, el sistema de inteligencia artificial también lo estará. Esto puede tener consecuencias graves, particularmente en áreas como la justicia penal, donde los sistemas de inteligencia artificial sesgados podrían resultar en un trato injusto hacia ciertos grupos.

5. Riesgos de ciberseguridad: A medida que los sistemas de inteligencia artificial se vuelven más avanzados, también podrían volverse más vulnerables a ciberataques. Si un sistema de IA es hackeado, podría potencialmente utilizarse para causar daños o interrumpir sistemas críticos.

6. Falta de transparencia y responsabilidad: Si los sistemas de inteligencia artificial están tomando decisiones importantes sobre la vida de las personas, como si se les concede un préstamo o se les pone en libertad bajo fianza, es importante que estos sistemas sean transparentes y responsables. Sin embargo, existen preocupaciones de que algunos sistemas de inteligencia artificial puedan ser opacos y difíciles de entender o auditar.

7. Riesgos existenciales: Algunos expertos han expresado preocupaciones de que el desarrollo de la inteligencia artificial podría representar una amenaza existencial para la humanidad, ya sea a través del desarrollo de una inteligencia artificial superinteligente que esté más allá del control humano o a través del uso de IA en la militarización u otras formas destructivas.