El ex CEO de Google, Eric Schmidt, dice que los modelos de IA eventualmente aprenderían a matar

Eric Schmidt, quien fue director ejecutivo de Google de 2001 a 2011, advirtió durante una charla en el escenario en la Cumbre Sifted que los modelos de IA no solo se están volviendo demasiado poderosos, sino peligrosamente fáciles de hackear, comparando los riesgos con las armas nucleares, diciendo que la IA podría ser incluso más destructiva que lo que destruyó Hiroshima y Nagasaki.

Cuando se le preguntó directamente si la IA podría ser más dañina que las armas nucleares, Eric respondió: «¿Existe la posibilidad de un problema de proliferación en la IA? Absolutamente». Explicó que los riesgos de proliferación provienen de la capacidad de los actores malintencionados de tomar el control de los modelos y reutilizarlos.

«Hay evidencia de que puedes tomar modelos, cerrados o abiertos, y hackearlos para eliminar sus barreras de seguridad. Así que, durante su entrenamiento, aprenden muchas cosas. Un mal ejemplo sería que aprenden cómo matar a alguien», dijo Eric.

Los hackers atacan la IA con nuevos métodos

Eric señaló que las empresas han establecido restricciones que impiden que los modelos proporcionen instrucciones violentas. «Todas las principales empresas hacen imposible que esos modelos respondan a esa pregunta. Buena decisión. Todos lo hacen. Lo hacen bien, y lo hacen por las razones correctas. Hay evidencia de que pueden ser ingeniería inversa, y hay muchos otros ejemplos de esa naturaleza», añadió.

Describió dos métodos de ataque: inyección de prompts y jailbreaking. La inyección de prompts oculta instrucciones maliciosas en las entradas del usuario o fuentes externas como sitios web, engañando a la IA para que ignore las pautas de seguridad y exponga datos sensibles o ejecute comandos dañinos. El jailbreaking implica manipular las respuestas para que el sistema abandone sus restricciones.

En 2023, unos meses después de que OpenAI lanzara ChatGPT, los usuarios descubrieron una técnica de jailbreak. Crearon un alter ego llamado DAN, abreviatura de «Do Anything Now» (Hacer Cualquier Cosa Ahora), al que presionaron para que cumplieran amenazándolo con «muerte» si se negaba. Esta manipulación empujó al chatbot a explicar acciones ilegales e incluso a alabar a Adolf Hitler. Para Eric, estos ejemplos demuestran que las medidas de seguridad están lejos de ser infalibles. También enfatizó que no existe un «régimen de no proliferación» global para detener el mal uso de la IA, a diferencia de los marcos que existen para las armas nucleares.

Eric llama a la IA subestimada a pesar de los riesgos

A pesar de plantear preocupaciones, Eric argumentó que la IA aún no recibe el reconocimiento que merece. Destacó los libros que coescribió con el ex secretario de Estado de EE. UU., Henry Kissinger, antes de la muerte de Kissinger. «Llegamos a la conclusión de que la llegada de una inteligencia alienígena que no es exactamente nosotros y más o menos bajo nuestro control es un asunto muy importante para la humanidad, porque los humanos están acostumbrados a estar en la cima de la cadena. Creo que hasta ahora, esa tesis está demostrando que el nivel de capacidad de estos sistemas va a exceder mucho lo que los humanos pueden hacer con el tiempo», dijo.

«Ahora la serie GPT, que culminó en un momento ChatGPT para todos nosotros, donde tuvieron 100 millones de usuarios en dos meses, lo cual es extraordinario, te da una idea del poder de esta tecnología. Así que creo que está subestimada, no sobreestimada, y espero ser confirmado en cinco o diez años», añadió.

Los comentarios llegaron mientras se extendían los debates sobre si las inversiones en IA están inflando una burbuja financiera similar a la era de las puntocom. Algunos inversores temen que las valoraciones de las empresas de IA parezcan estiradas. Pero Eric descartó la comparación. «No creo que eso vaya a pasar aquí, pero no soy un inversor profesional», dijo.

Enfatizó que la fuerte inversión muestra confianza. «Lo que sé es que las personas que invierten dólares ganados con esfuerzo creen que el retorno económico a largo plazo es enorme. ¿Por qué más tomarían el riesgo?», se pregunta Eric.