Sam Altman renuncia a la Comisión de Seguridad de OpenAI bajo escrutinio

El CEO de OpenAI, Sam Altman, ha dimitido del Comité Interno de Seguridad y Protección de la empresa, un grupo establecido en mayo para supervisar decisiones críticas de seguridad. La partida de Altman llega en un momento en que los legisladores de EE. UU. y los antiguos empleados de OpenAI plantearon preocupaciones sobre la seguridad y el cumplimiento legal de la empresa.

El Comité de Seguridad y Protección ahora funcionará como un comité separado a nivel de junta directiva que monitorea problemas de seguridad y protección. Este cambio ha nombrado a Zico Kolter, un profesor de la Universidad Carnegie Mellon, como su presidente, junto con el CEO de Quora Adam D’Angelo, el general retirado del Ejército de EE. UU. Paul Nakasone y la antigua ejecutiva de Sony Nicole Seligman. Todos ellos son miembros actuales de la junta directiva de OpenAI. El grupo aún tendrá el poder de retrasar el lanzamiento de modelos de IA hasta que se resuelvan las preocupaciones de seguridad. 

Los críticos cuestionan las prioridades de OpenAI mientras el personal clave se va

En un artículo de blog después de la partida de Altman, OpenAI reiteró su enfoque en la seguridad y señaló que el comité había aprobado previamente la seguridad del modelo más reciente, o1. El grupo también recibirá regularmente más información del personal de seguridad y protección de la empresa para mantener a los miembros actualizados e informados sobre los futuros lanzamientos de modelos de IA. También dijo que tiene la intención de mejorar las medidas de seguridad adoptando revisiones técnicas y objetivos bien definidos para los lanzamientos de modelos.

Esto ocurre tras las críticas, especialmente de cinco senadores de EE. UU. quienes expresaron preocupación por las medidas de seguridad de la empresa en el verano. Los críticos también han señalado que más de la mitad del personal encargado de hacer frente a las consecuencias a largo plazo de la IA ha dejado la empresa. Algunos dijeron que Altman está más preocupado por el aspecto empresarial de la IA que por la regulación de la tecnología.

Los gastos de OpenAI han estado en aumento. En la primera mitad de 2024, la empresa gastó 800.000 dólares en cabildeo federal, lo que representa un aumento significativo en comparación con los 260.000 dólares gastados durante todo 2023. A principios de este año, Altman se convirtió en miembro de la Junta de Seguridad y Protección de la Inteligencia Artificial del Departamento de Seguridad Nacional de EE. UU. El comité se supone que debe asesorar sobre el uso de la IA en los sistemas críticos del país. 

Aún hay preguntas sobre la autorregulación del gigante de la IA. En un artículo de opinión para The Economist, los antiguos miembros de la junta directiva de OpenAI, Helen Toner y Tasha McCauley, han planteado dudas sobre la capacidad de la empresa para policiarse a sí misma. Reclamaron que los incentivos de beneficio podrían socavar la autogobernanza de OpenAI, que creen que puede estar en desacuerdo con los objetivos de seguridad a largo plazo.

OpenAI busca una financiación masiva y los planes cambian a un modelo con fines de lucro

Se informa que OpenAI está en conversaciones para asegurar una nueva ronda masiva de financiación que podría impulsar su valoración a 150.000 millones de dólares. En un reciente informe de Cryptopolitan, OpenAI planea asegurar 6.500 millones de dólares de los inversores a su valoración actual. Se informa que OpenAI planea transformar su modelo operativo actual hacia un modelo tradicional con fines de lucro para 2025.

El CEO de OpenAI, Sam Altman, reveló los cambios en el personal durante una reunión reciente, pero no reveló mucho sobre qué esperar. Altman dijo que la empresa había “crecido demasiado” para la estructura actual y estaba preparada para alejarse del modelo sin fines de lucro.