El cofundador de OpenAI advierte que la IA superinteligente será 'impredecible'

El cofundador de OpenAI, Ilya Sutskever, ofreció perspectivas sobre el futuro de la inteligencia artificial durante la reciente conferencia anual de IA. Habló sobre el potencial transformador de la IA para volverse "impredecible" mientras destacaba sus desafíos e implicaciones.

Sutskever, hablando en la conferencia NeurIPS el viernes, exploró el concepto de "IA superinteligente", que definió como sistemas que superan las capacidades humanas en una amplia gama de tareas. 

El cofundador de OpenAI, Ilya Sutskever, cree que la IA superinteligente será 'impredecible' https://t.co/vLHmqwQOJQ

— TechCrunch (@TechCrunch) diciembre 14, 2024

Predijo que tales sistemas serían cualitativamente diferentes de la IA actual y, en algunos aspectos, irreconocibles. Según Sutskever, estos sistemas avanzados poseerán autoconciencia, un nivel de razonamiento y la capacidad de entender escenarios complejos a partir de datos limitados. 

“[Los sistemas superinteligentes] realmente serán agentes de una manera real," dijo, contrastándolos con la IA actual, que describió como solo "muy ligeramente agente".

Sutskever: Los modelos de IA actuales están limitados

Recibiendo un premio "Test of Time" en la conferencia, Sutskever reconoció las limitaciones de los modelos de preentrenamiento como los utilizados en ChatGPT de OpenAI. Si bien los sistemas actuales demuestran capacidades notables, advirtió que la naturaleza finita de los datos de internet se está convirtiendo en un cuello de botella. 

Entrevista completa @ilyasut! sobre que el preentrenamiento está muerto y más pic.twitter.com/PigZVvcEGB

— Diego | AI 🚀 – e/acc (@diegocabezas01) 14 de diciembre de 2024

Sutskever propuso enfoques alternativos, incluidos sistemas de IA que generan sus propios datos o refinan sus respuestas para mejorar la precisión. Estas innovaciones, sugirió, podrían ayudar a superar las limitaciones existentes.

El cofundador de OpenAI también tocó las implicaciones éticas de la IA superinteligente, incluido el potencial de que tales sistemas exijan derechos. "No es un mal resultado final si tienes IAs, y todo lo que quieren es coexistir con nosotros y simplemente tener derechos,” comentó. 

Sin embargo, enfatizó la imprevisibilidad inherente de la IA agente y con autoconciencia, presentando tanto oportunidades como desafíos para desarrolladores y reguladores.

El CEO de OpenAI, Altman, predice disrupción y la llegada de la AGI

A principios de este mes, el CEO de OpenAI, Sam Altman, compartió opiniones similares a las de Sutskever sobre el techo de los rendimientos de la IA superinteligente. Hablando en la Cumbre DealBook del New York City en la ciudad de Nueva York, Altman delineó su visión para la inteligencia artificial general (AGI). Predijo que los sistemas AGI-AI capaces de realizar tareas complejas con razonamiento similar al humano podrían convertirse en una realidad tan pronto como en 2025. 

“Creo que es posible … en 2025 tendremos sistemas que miramos … y la gente dirá, 'Vaya, eso cambia lo que esperaba,'" dijo Altman.

Altman comparado el impacto potencial de la IA en la invención del transistor, que revolucionó industrias y economías en todo el mundo. Describió un futuro donde esto será "sorprendentemente capaz". 

“Los modelos de IA se vuelven ampliamente disponibles y se utilizan en todas las industrias para diversas aplicaciones. "La propia IA, el motor de razonamiento, se volverá una mercancía", opinó Altman, sugiriendo que su integración en la vida cotidiana será tan transformadora como los avances tecnológicos pasados.

Durante su aparición, Altman destacó la adopción generalizada de ChatGPT, revelando que la herramienta de IA ahora tiene más de 300 millones de usuarios semanales. Reconoció los debates continuos sobre su seguridad, pero mantuvo que el enfoque de desarrollo e implementación iterativa ha sido crucial. 

“Definitivamente hay personas que piensan que ChatGPT no es lo suficientemente seguro," dijo, pero señaló que OpenAI cree que la adopción temprana cuando las apuestas son más bajas es vital para una mejora gradual.

El énfasis de Altman en la seguridad hizo eco de las preocupaciones de la industria sobre el desarrollo responsable de la IA. Reconoció que, si bien ChatGPT es "ahora generalmente considerado por la mayoría de la sociedad como aceptablemente seguro y aceptablemente robusto", el refinamiento continuo y la supervisión siguen siendo prioridades.

Reflexiones sobre el liderazgo y la evolución de OpenAI

El viaje de liderazgo de Altman ha desempeñado un papel fundamental en la trayectoria de OpenAI. Al cofundar la organización en 2015 como un laboratorio de investigación sin fines de lucro, su objetivo era avanzar en las tecnologías de IA para el beneficio de la humanidad. Antes de unirse a tiempo completo a OpenAI en 2019, Altman se desempeñó como presidente de Y Combinator, un acelerador de startups líder, de 2014 a 2019.

OpenAI pasó de sus orígenes sin fines de lucro a un modelo de beneficio limitado para asegurar la financiación necesaria para proyectos de IA a gran escala. Bajo el liderazgo de Altman, la empresa lanzó ChatGPT y DALL-E, que han remodelado el panorama de la IA. 

Sin embargo, el viaje no ha estado exento de desafíos. En noviembre de 2023, Altman fue brevemente despedido de su cargo por la junta directiva de OpenAI debido a preocupaciones relacionadas con su comunicación con los miembros de la junta. La disputa, que se desarrolló públicamente, concluyó con la reinstalación de Altman menos de una semana después, ya que la junta afirmó que ahora estaban en "buenos términos" con el CEO.