La Junta de OpenAI determinará la IAG: implicaciones para Microsoft y el mundo

La estructura de gobernanza de OpenAI y el papel de su junta directiva en la determinación del logro de la Inteligencia Artificial General (IAG) han suscitado interrogantes sobre el futuro de su colaboración con Microsoft y su impacto global. La compleja estructura de beneficios de la organización, limitada a las organizaciones sin fines de lucro, y el posible conflicto entre los intereses con y sin fines de lucro han sido objeto de escrutinio.

defide IAG de OpenAI

OpenAI, líder en el campo de la inteligencia artificial (IA), se ha marcado como objetivo deficrear una IA general (IAG), que describe como «un sistema altamente autónomo que supera a los humanos en el trabajo más valioso económicamente». El logro de la IA general es un hito crucial que podría transformar industrias y sociedades a nivel mundial. Sin embargo, la naturaleza ambigua y cambiante de la IA general dificulta establecer criterios claros para su consecución.

OpenAI opera bajo una estructura de gobernanza única, donde una junta directiva sin fines de lucro, compuesta por seis miembros, tiene la autoridad para determinar cuándo se alcanza la AGI. Esta junta incluye a ejecutivos de OpenAI, como el director ejecutivo Sam Altman, así como figuras externas con experiencia en IA y políticas. La composición de la junta ha llamado la atención debido a posibles conflictos de intereses y a la influencia del movimiento de Altruismo Eficaz.

La inversión y participación de Microsoft en OpenAI

Microsoft es un inversor importante en OpenAI y tiene un gran interés en el éxito de la organización en el desarrollo de la IA general. A pesar de ser una entidad con fines de lucro, OpenAI Global, LLC, está totalmente controlada por la organización sin fines de lucro OpenAI y está legalmente obligada a cumplir con su misión. La disposición de Microsoft a apoyar la misión de OpenAI de proporcionar una IA general segura y beneficiosa desempeñó un papel crucial en su colaboración.

El papel de la junta directiva de OpenAI en la determinación de la IAG ha suscitado dudas sobre el futuro de la participación de Microsoft. Una vez lograda la IAG, los acuerdos comerciales de OpenAI, incluidas las licencias de propiedad intelectual, dejarán de aplicarse a la tecnología posterior a la IAG. La sustancial inversión de Microsoft podría verse incierta si la junta directiva de OpenAI decide priorizar los intereses de las organizaciones sin fines de lucro sobre los de las empresas con fines de lucro.

Expertos legales han opinado sobre la naturaleza inusual de la toma de decisiones operativas sobre IAG por parte de la junta directiva de OpenAI. Si bien puede que no exista ningún impedimento legal, la posibilidad de conflictos entre los intereses de las organizaciones sin fines de lucro y las organizaciones con fines de lucro sigue siendo preocupante. Algunos argumentan que el derecho corporativo generalmente impone a los directores la obligación de supervisar asuntos cruciales para la misión, lo que podría justificar el enfoque de OpenAI.

Diversidad y perspectiva

Los críticos argumentan que el enfoque de OpenAI en la IAG ha eclipsado el impacto actual de las tecnologías y herramientas de IA. Se han planteado inquietudes sobre la diversidad de perspectivas dentro de OpenAI y su junta directiva. Sin embargo, el debate sobre la composición de la junta directiva puedetracla atención de cuestiones más fundamentales sobre la legitimidad de la misión y las afirmaciones de OpenAI respecto a la IAG.

La cambiante defide IAG de OpenAI, que sugiere que la primera IAG será solo un punto en el continuo de inteligencia, complica aún más la situación. El director ejecutivo, Sam Altman, prevé un futuro con múltiples IAG para evitar la concentración de poder. Estas deficambiantes plantean interrogantes sobre las implicaciones prácticas de la colaboración con Microsoft.