La nueva asociación de OpenAI con el gobierno estadounidense coincide con las negociaciones de inversión de Apple

El Instituto de Seguridad de Inteligencia Artificial de EE. UU. ha anunciado acuerdos con OpenAI y Anthropic para revisar las capacidades y la seguridad de sus modelos de IA. Según los términos del memorando de entendimiento con dos destacadas startups de IA, la agencia gubernamental investigará, probará y evaluará sus modelos.

Este acuerdo subraya las diversas estrategias de las agencias gubernamentales para gestionar los riesgos potenciales de la IA. Mientras Europa se centra en la implementación de la Ley de IA, los reguladores estadounidenses están adoptando un enfoque más colaborativo, trabajando estrechamente con las empresas.

El Instituto de Seguridad de IA de EE. UU. tendrá acceso temprano a nuevos modelos de IA

El Instituto de Seguridad de IA ha revelado que el acuerdo le permite tener acceso anticipado a todos los nuevos modelos de IA principales de ambas compañías antes de su lanzamiento público. Esto permitirá al instituto evaluar las capacidades y los riesgos de los modelos de IA antes de su lanzamiento público.

Sin embargo, el instituto mantendrá el acceso incluso después de que los modelos de IA estén disponibles para el público. El proceso de investigación y evaluación también incluirá la colaboración con las empresas para encontrar métodos para abordar los riesgosdent.

Elizabeth Kelly, directora del Instituto de Seguridad de la IA de EE. UU., describió el acuerdo como el inicio de un esfuerzo a largo plazo para desarrollar un marco para una IA responsable. Afirmó:

La seguridad es esencial para impulsar la innovación tecnológica revolucionaria. Con estos acuerdos, esperamos iniciar nuestras colaboraciones técnicas con Anthropic y OpenAI para impulsar la ciencia de la seguridad de la IA

El Instituto de Seguridad de la IA forma parte del Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio de EE. UU. Establecido mediante decreto ejecutivo en 2023, la agencia también colaborará con el Instituto de Seguridad de la IA del Reino Unido en el proceso de investigación y evaluación.

Apple está considerando invertir en OpenAI

Mientras tanto, Apple planea invertir en OpenAI, ya que la startup se prepara para su próxima ronda de financiación, que la valorará en 100.000 millones de dólares. Según informes de prensa, Thrive Capital liderará la recaudación de fondos con 1.000 millones de dólares, y Microsoft, el mayor inversor de OpenAI, también planea participar en la ronda.

El interés de Microsoft es notable, dada su participación del 49% en OpenAI. Sin embargo, la posible inversión de Apple es menos sorprendente, considerando que el gigante tecnológico ha estado trabajando con el desarrollador de ChatGPT para integrar sus tecnologías en los esperados sistemas Apple Intelligence.

Dado que la IA podría representar el próximo gran avance para los iPhones, el interés de Apple en adquirir una participación en una de las empresas líderes en IA es lógico. Apple rara vez invierte en startups, pero cuando lo hace, se centra en aquellas con tecnologías cruciales que podrían potenciar su negocio.

Sin embargo, este acuerdo podría limitar la capacidad de Apple para integrar modelos de IA generativa de otras empresas en sus sistemas. Apple ya ha colaborado con socios potenciales como Google Gemini, Anthropic, Perplexity y Meta. Si bien optó por comenzar con OpenAI debido a su tecnología superior, una posible inversión podría restringir la incorporación de otros modelos por parte de Apple, lo que podría suponer un riesgo de dependencia excesiva de una sola fuente.