Ilya Sutskever, una figura destacada en el mundo de la inteligencia artificial, ha sido noticia recientemente por su enfoque cauteloso hacia el desarrollo de la IA, particularmente en contraste con la postura de toma de riesgos de Sam Altman, CEO de OpenAI .
Esta dicotomía de opiniones ha provocado una importante reorganización del liderazgo de la organización. En este artículo, profundizamos en la trayectoria de Ilya Sutskever, su trayectoria profesional y los factores que alimentan su escepticismo sobre la IA.
Nacido en la Rusia soviética en 1986 y criado en Jerusalén desde los 5 años, la trayectoria académica de Ilya Sutskever lo llevó a la Universidad de Toronto. Allí, obtuvo una Licenciatura en Ciencias enmaticen 2005, seguida de una Maestría en Ciencias en Informática en 2007.
Continuó su búsqueda de conocimiento y obtuvo un Doctorado en Filosofía en Ciencias de la Computación en 2013. Los primeros trabajos de Sutskever en la Universidad de Toronto se caracterizaron por un software experimental que generaba entradas sin sentido similares a las de Wikipedia.
La carrera de Sutskever dio un giro significativo en 2012 cuando coescribió un artículo pionero con Alex Krizhevsky y Geoffrey Hinton, su supervisor de doctorado, a menudo conocido como el "padrino de la IA". Esta colaboración condujo a la creación de AlexNet, un algoritmo de aprendizaje profundo que demostró capacidades de reconocimiento de patrones sindent. Este proyecto, llamado AlexNet, demostró el inmenso potencial del aprendizaje profundo para resolver problemas de reconocimiento de patrones.
Transición a Google y contribuciones
Impresionado por su trabajo pionero, Google contrató rápidamente a Sutskever y a sus colegas investigadores. En Google, Sutskever continuó ampliando los límites de la IA. Amplió las capacidades de reconocimiento de patrones de AlexNet de imágenes a palabras y oraciones, demostrando la versatilidad de esta tecnología. Además, desempeñó un papel fundamental en el desarrollo de TensorFlow, una plataforma avanzada de código abierto para el aprendizaje automático.
En menos de tres años en Google, Ilya Sutskever fue seducido por Elon Musk, CEO de Tesla, para cofundar y ejercer como director científico de OpenAI, una empresa de inteligencia artificial sin fines de lucro. Musk, cofundador de OpenAI, compartía la preocupación de Sutskever sobre los posibles peligros de la IA. La salida de Musk de OpenAI en 2018, alegando un conflicto de intereses con Tesla, dejó a Sutskever al frente de la organización.
Creciente cautela sobre la seguridad de la IA
Durante su trayectoria en OpenAI, Sutskever se centró cada vez más en la seguridad de la IA. Abogó por la asignación de más recursos dentro de la empresa para abordar los riesgos asociados a los sistemas de IA. Cabe destacar que dirigió el equipo de Superalineación de OpenAI, que dedicó el 20 % de su capacidad de procesamiento a la gestión de riesgos relacionados con la IA.
El conflicto entre la cautela de Sutskever y el deseo de Sam Altman de un rápido desarrollo de la IA llegó a su punto álgido en el seno de la dirección de OpenAI. Sutskever y miembros de la junta directiva con ideas afines orquestaron la destitución de Altman, reemplazándolo temporalmente por Emmett Shear, quien compartía una postura más cautelosa. Sin embargo, esta decisión duró poco, ya que Sutskever expresó posteriormente su arrepentimiento por su papel en los acontecimientos, lo que condujo a la restitución de Altman como director ejecutivo.
El escepticismo de Ilya Sutskever sobre la seguridad de la IA se basa profundamente en su creencia en los peligros potenciales de un desarrollo descontrolado de la IA. Ha expresado su preocupación por la rápida implementación de potentes modelos de IA, como ChatGPT, y la necesidad de medidas de seguridad robustas.
La dedicación de Sutskever para garantizar el desarrollo responsable de la IA esdent en sus declaraciones a los empleados de OpenAI, donde enfatizó la importancia de sentir el impacto de la AGI (Inteligencia General Artificial) en la vida diaria.
Optimismo y cinismo equilibrados
Las opiniones de Sutskever sobre la IA se caracterizan por un equilibrio único entre optimismo y cinismo. Concibe la IA como una solución a muchos de los problemas actuales de la humanidad, como el desempleo, las enfermedades y la pobreza. Sin embargo, reconoce las posibles desventajas y advierte sobre problemas como la proliferación de noticias falsas, los ciberataques extremos y el desarrollo de armas de IA totalmente automatizadas. Su preocupación se extiende a la gobernanza de la IAG, enfatizando la importancia de una programación correcta para prevenir resultados indeseables.
A diferencia de algunas visiones extremas dentro de la comunidad de IA que predicen escenarios catastróficos, Sutskever mantiene una perspectiva más moderada. Compara la relación entre los humanos y las IA con la forma en que los humanos interactúan con los animales. Si bien los humanos sienten afecto por los animales, no les piden permiso para construir infraestructuras como carreteras. De igual manera, Sutskever sugiere que los humanos podrían priorizar sus propias necesidades en lo que respecta a las IA.
