La amenaza de la IA es más grande que el cambio climático: ¿Por qué?

El pionero de la inteligencia artificial Geoffrey Hinton declaró recientemente en una entrevista que la IA podría representar una amenaza más urgente para la humanidad que el cambio climático.

Hinton, uno de los «padres de la IA», es una figura importante en el desarrollo de sistemas de IA contemporáneos, con su trabajo formando la base de las redes neuronales que sustentan la tecnología de IA.

Su preocupación por los posibles peligros de la IA se suma a un coro creciente de voces entre los líderes tecnológicos que están preocupados por las consecuencias futuras de los avances de la IA.

La urgencia de las amenazas de la IA

Geoffrey Hinton, quien recientemente dejó Alphabet después de una década en la empresa, expresó sus preocupaciones sobre la posible amenaza que la IA podría representar si las máquinas superaran la inteligencia humana y tomaran el control.

Si bien reconoció la importancia del cambio climático, Hinton sugirió que el tema de la IA podría ser finalmente más urgente.

Explicó que abordar el cambio climático implica soluciones sencillas, como cesar las emisiones de carbono. En contraste, el camino para gestionar los riesgos de la IA es menos claro, lo que hace que la situación sea potencialmente más urgente.

El lanzamiento en noviembre por parte de OpenAI, respaldada por Microsoft, del chatbot impulsado por IA ChatGPT marcó el comienzo de una carrera armamentista tecnológica. El chatbot se convirtió rápidamente en la aplicación de más rápido crecimiento en la historia, alcanzando 100 millones de usuarios mensuales en dos meses.

En abril, el CEO de Twitter, Elon Musk, se unió a miles de otros en firmar una carta abierta pidiendo una pausa de seis meses en el desarrollo de sistemas más poderosos que el recientemente lanzado GPT-4 de OpenAI.

Los signatarios de la carta abierta incluían al CEO de Stability AI, Emad Mostaque, investigadores de DeepMind propiedad de Alphabet y otros pioneros de la IA, Yoshua Bengio y Stuart Russell.

Si bien Hinton comparte sus preocupaciones sobre la IA planteando una amenaza existencial para la humanidad, no está de acuerdo con la idea de detener la investigación, considerándola «totalmente irreal».

Llamados a la colaboración global

En respuesta a la carta respaldada por Musk, un comité de legisladores de la Unión Europea instó al presidente de EE. UU., Joe Biden, a convocar una cumbre global sobre la dirección futura de la IA, junto con la presidenta de la Comisión Europea, Ursula von der Leyen.

El comité recientemente acordó un conjunto de propuestas dirigidas a la IA generativa, que requeriría que empresas como OpenAI revelen cualquier material con derechos de autor utilizado para entrenar sus modelos.

Biden sostuvo conversaciones con varios líderes de empresas de IA, incluido el CEO de Alphabet, Sundar Pichai, y el CEO de OpenAI, Sam Altman, en la Casa Blanca, prometiendo una «discusión franca y constructiva» sobre la necesidad de una mayor transparencia en los sistemas de IA.

Hinton cree que tanto los líderes tecnológicos como los políticos tienen la responsabilidad de abordar los posibles peligros de la IA, ya que el tema afecta a todos.

Las crecientes preocupaciones sobre las posibles amenazas de la IA plantean preguntas sobre cómo equilibrar la innovación con la regulación.

A medida que la IA continúa evolucionando e impactando varios aspectos de la sociedad, se vuelve cada vez más importante participar en discusiones abiertas y colaboración entre las partes interesadas para asegurar que esta poderosa tecnología se utilice de manera responsable para el bien común.