¿Cuánto peligro acecha la adopción de la IA? El padrino de la IA abandona Google

La rápida adopción de la IA expone a la humanidad a peligros catastróficos. En un sorprendente giro de los acontecimientos, el Dr. Geoffrey Hinton, conocido como el "Padrino de la IA", renunció a su puesto en Google y lanzó una severa advertencia sobre los peligros de la inteligencia artificial.

La IA resulta ser la mayor amenaza para la humanidad

Según informes, el "Padrino de la IA" ha renunciado a su puesto en Google para poder hablar más abiertamente sobre los posibles riesgos de la tecnología de inteligencia artificial. El Dr. Geoffrey Hinton trabajó en algoritmos de aprendizaje automático en Google durante más de una década antes de dejar la empresa. Su trabajo de toda la vida en redes neuronales le valió este apodo.

La renuncia del Dr. Geoffrey se produce en medio de la creciente preocupación por el uso de la inteligencia artificial en diversos sectores, como la salud, las finanzas y el transporte. Los críticos argumentan que la inteligencia artificial podría provocar la pérdida de empleos, la violación de la privacidad e incluso el desarrollo de armas autónomas.

En una entrevista con The New York Times, afirmó que lo que más le preocupaba era el uso de la inteligencia artificial para inundar internet con imágenes, vídeos y textos falsos, hasta el punto de que la gente ya no pudiera "saber qué es verdad".

Hinton también se mostraba preocupado por la posibilidad de que la tecnología de inteligencia artificial sustituyera la mano de obra humana. Cree que la inteligencia artificial podría representar una amenaza para la humanidad en el futuro debido a su capacidad de adquirir comportamientos inesperados a partir de las enormes cantidades de datos que analiza. Hinton también expresó cierto arrepentimiento por la obra de su vida:

Me consuelo con la excusa de siempre: si no lo hubiera hecho yo, lo habría hecho otro.

Dr. Geoffrey Hinton

La renuncia del Dr. Geoffrey Hinton ha conmocionado a toda la industria tecnológica, y muchos expertos exigen una mayor supervisión y regulación de la inteligencia artificial. Mientras continúa el debate sobre los riesgos y beneficios de la inteligencia artificial, es evidente que las contribuciones de pioneros como el Dr. Geoffrey Hinton serán cruciales para definir el futuro de esta tecnología en rápida evolución.

Muchos expertos en tecnología advierten sobre los peligros de la inteligencia artificial

En los últimos meses, reguladores, legisladores y líderes de la industria tecnológica han expresado su preocupación por el desarrollo de la inteligencia artificial. Más de 2600 ejecutivos e investigadores del sector tecnológico firmaron una carta abierta en marzo instando a suspender temporalmente el desarrollo de la inteligencia artificial, alegando "graves riesgos para la sociedad y la humanidad"

En abril, doce legisladores de la Unión Europea firmaron una carta similar, y un reciente proyecto de ley de la UE clasifica las herramientas de inteligencia artificial según sus niveles de riesgo. Además, el Reino Unido aportará 125 millones de dólares a un grupo de trabajo para el desarrollo de una «IA segura»

Según informes, ya se utilizan herramientas de inteligencia artificial para la desinformación, con ejemplos recientes de medios de comunicación engañados para publicar noticias falsas. Además, un medio alemán utilizó inteligencia artificial para falsificar una entrevista.

El 1 de mayo, Binance afirmó que su director ejecutivo Changpeng “CZ” Zhao era miembro de una organizacióndent del Partido Comunista Chino, información que fue difundida por un chatbot originario de ChatGPT, como lo demuestran las capturas de pantalla del chatbot.

La semana pasada, un grupo de bromistas también estafó a varios medios de comunicación de todo el mundo, incluyendo el Daily Mail y Thedent. El Daily Mail publicó una noticia sobre un supuesto actor canadiense llamado "Saint Von Colucci", quien supuestamente falleció tras someterse a una cirugía plástica para parecerse más a una estrella del pop surcoreano. Posteriormente, el Daily Mail eliminó el artículo.

¿Cuáles son los peligros previsibles de la IA para la humanidad?

Existen varios peligros previsibles de la inteligencia artificial para la humanidad, algunos de los cuales ya se están experimentando y otros podrían ocurrir en el futuro. Estos son algunos de los peligros más preocupantes:

1. Desplazamiento laboral: A medida que la inteligencia artificial avanza, existe el riesgo de que reemplace a los trabajadores humanos en muchas industrias, lo que provocaría pérdidas masivas de empleos y perturbaciones económicas. Elon Musk señaló que hay trabajos que los robots asumirán y desempeñarán mejor que los humanos.

2. Armas autónomas: El desarrollo de armas autónomas, capaces de decidir a quién atacar y cuándo hacerlo sin intervención humana, es una gran preocupación. Estas armas podrían causar daños no intencionados, ya que podrían funcionar mal o ser pirateadas.

3. Consecuencias imprevistas: A medida que los sistemas de inteligencia artificial se vuelven más complejos, existe el riesgo de que produzcan consecuencias imprevistas perjudiciales. Por ejemplo, un sistema de inteligencia artificial diseñado para maximizar las ganancias de una empresa podría dañar inadvertidamente el medio ambiente o la sociedad.

4. Sesgo y discriminación: Los sistemas de inteligencia artificial son tan imparciales como los datos con los que se entrenan, lo que significa que si los datos utilizados para entrenarlos están sesgados, el sistema de inteligencia artificial también lo estará. Esto puede tener graves consecuencias, especialmente en ámbitos como la justicia penal, donde los sistemas de inteligencia artificial sesgados podrían dar lugar a un trato injusto para ciertos grupos.

5. Riesgos de ciberseguridad: A medida que los sistemas de inteligencia artificial se vuelven más avanzados, también podrían volverse más vulnerables a los ciberataques. Si un sistema de IA es hackeado, podría utilizarse para causar daños o interrumpir sistemas críticos.

6. Falta de transparencia y rendición de cuentas: Si los sistemas de inteligencia artificial toman decisiones importantes sobre la vida de las personas, como la concesión de un préstamo o la libertad bajo fianza, es fundamental que estos sistemas sean transparentes y rindan cuentas. Sin embargo, existe preocupación por la opacidad de algunos sistemas de inteligencia artificial, que pueden resultar difíciles de comprender o auditar.

7. Riesgos existenciales: Algunos expertos han expresado su preocupación por que el desarrollo de la inteligencia artificial podría suponer una amenaza existencial para la humanidad, ya sea a través del desarrollo de una inteligencia artificial superinteligente que esté más allá del control humano o a través del uso de la IA con fines militares u otros fines destructivos.