Sam Altman se retira de la Comisión de Seguridad de OpenAI en medio del escrutinio

Sam Altman, director ejecutivo de OpenAI, ha dimitido del Comité de Seguridad interno de la empresa, un grupo creado en mayo para supervisar las decisiones críticas en materia de seguridad. La dimisión de Altman se produce en un momento en que legisladores estadounidenses y antiguos empleados de OpenAI han expresado su preocupación por la seguridad y el cumplimiento legal de la empresa.

El Comité de Seguridad funcionará ahora como un comité independiente a nivel de junta directiva que supervisa las cuestiones de seguridad. Este cambio ha nombrado a Zico Kolter, profesor de la Universidad Carnegie Mellon, como su presidente, junto con Adam D'Angelo, director ejecutivo de Quora; Paul Nakasone, general retirado del ejército estadounidense; y Nicole Seligman, exejecutiva de Sony. Todos ellos son miembros actuales de la junta directiva de OpenAI. El grupo seguirá teniendo la facultad de retrasar la publicación de modelos de IA hasta que se resuelvan los problemas de seguridad. 

Los críticos cuestionan las prioridades de OpenAI a medida que el personal clave se marcha

En una publicación de blog tras la salida de Altman, OpenAI reiteró su enfoque en la seguridad y señaló que el comité ya había aprobado la seguridad del modelo más reciente, o1. El grupo también recibirá periódicamente información adicional del personal de seguridad de la empresa para mantener a sus miembros actualizados e informados sobre futuras versiones de modelos de IA. Asimismo, indicó que tiene la intención de mejorar las medidas de seguridad mediante la adopción de revisiones técnicas y objetivos bien definidos para los lanzamientos de modelos. 

Esto surge tras las críticas, especialmente de cinco senadores estadounidenses que expresaron su preocupación por las medidas de seguridad de la empresa durante el verano. Los críticos también han señalado que más de la mitad del personal encargado de abordar las consecuencias a largo plazo de la IA ha abandonado la compañía. Algunos afirman que Altman está más preocupado por el aspecto comercial de la IA que por la regulación de la tecnología. 

Los gastos de OpenAI han ido en aumento. En el primer semestre de 2024, la compañía gastó 800.000 dólares en cabildeo federal, lo que representa un aumento significativo en comparación con los 260.000 dólares gastados durante todo 2023. A principios de este año, Altman se incorporó a la Junta de Seguridad y Protección de Inteligencia Artificial del Departamento de Seguridad Nacional de EE. UU. Este comité debe asesorar sobre el uso de la IA en los sistemas críticos del país. 

Aún existen dudas sobre la autorregulación del gigante de la IA. En un artículo de opinión para The Economist, Helen Toner y Tasha McCauley, exmiembros del consejo de administración de OpenAI, expresaron sus inquietudes sobre la capacidad de la empresa para autorregularse. Afirmaron que los incentivos económicos podrían socavar la autogobernanza de OpenAI, lo que, en su opinión, podría entrar en conflicto con los objetivos de seguridad a largo plazo.

OpenAI busca financiación masiva y planea cambiar a un modelo con fines de lucro

Según informes, OpenAI está en conversaciones para conseguir una nueva ronda masiva de financiación que podría elevar su valoración a 150 000 millones de dólares. Según un informe reciente de Cryptopolitan, OpenAI planea obtener 6500 millones de dólares de inversores con su valoración actual. Según se informa, OpenAI planea transformar su modelo operativo actual en un modelo tradicional con fines de lucro para 2025.

El director ejecutivo de OpenAI, Sam Altman, reveló los cambios al personal durante una reunión reciente, pero no dio muchos detalles sobre qué esperar. Altman afirmó que la empresa había crecido demasiado para su estructura actual y que estaba preparada para abandonar el modelo sin ánimo de lucro.