Cargando...

Google, OpenAI y otros 13 se comprometen a no implementar modelos de IA riesgosos

En esta publicación:

  • OpenAI, Microsoft, Google y otras 13 empresas de IA aceptaron un nuevo compromiso de seguridad de la IA por parte de las autoridades del Reino Unido. 
  • El compromiso exige que las empresas dejen de desarrollar cualquier modelo que se considere extremadamente riesgoso.
  • El Primer Ministro del Reino Unido dice que es la primera vez que las empresas globales de IA se comprometen a cumplir con el mismo estándar de seguridad.

Google, OpenAI y Meta acordaron dejar de desarrollar cualquier modelo de IA si no pueden contener los riesgos. Las empresas firmaron los “Compromisos de seguridad de la IA” el martes en la Cumbre de IA de Seúl, organizada por el Reino Unido y Corea del Sur.

Lea también: Reino Unido y la República de Corea colaboran en la cumbre de IA

Es una primicia mundial que tantas empresas líderes en IA de tantas partes del mundo acuerden los mismos compromisos en materia de seguridad de la IA. 

— Primer Ministro del Reino Unido, Rishi Sunak

16 empresas de IA acuerdan compromisos de seguridad de la IA

Según el informe , un total de 16 empresas de IA aceptaron el compromiso de seguridad, abarcando Estados Unidos, China y Medio Oriente.

Microsoft, Amazon, Anthropic, Samsung tron y el desarrollador chino Zhipu.ai también se encuentran entre las empresas que aceptan las normas de seguridad. 

Lea también: Alibaba y Tencent invierten 342 millones de dólares en la startup de inteligencia artificial Zhipu

El compromiso de seguridad de la IA exige que todas las empresas publiquen su respectivo marco de seguridad antes de otra Cumbre de Acción de la IA que se celebrará en Francia a principios de 2025. El marco explicará cómo las empresas determinan los riesgos de sus modelos y qué riesgos se "consideran intolerables".

Las empresas de IA desconectarán los modelos de IA riesgosos

En los casos más extremos, las empresas “no desarrollarán ni implementarán ningún modelo o sistema” si los riesgos no pueden contenerse, según el informe. 

El verdadero potencial de la IA sólo se liberará si somos capaces de asumir los riesgos. Depende de todos nosotros garantizar que la IA se desarrolle de forma segura.  

— Michelle Donelan, Secretaria de Tecnología del Reino Unido

En julio de 2023, el gobierno de EE. UU. hizo un esfuerzo similar para abordar los riesgos y beneficios de la IA. El dent Joe Biden se reunió con Google, Microsoft, Meta, OpenAI, Amazon, Anthropic e Inflection para discutir las salvaguardias de IA que garantizan que sus productos de IA sean seguros antes de su lanzamiento.

El debate sobre la seguridad de la IA se intensifica por OpenAI

La conversación sobre la seguridad de la IA se ha intensificado en los últimos meses, particularmente en torno a los AGI, cuyo objetivo es imitar la inteligencia general similar a la humana. 

Una de las empresas, OpenAI, quedó en el centro de esta conversación la semana pasada después de que el cofundador, Ilya Sutskever, y el ejecutivo de alto nivel, Jan Leike, renunciaran a la empresa. El dúo estaba a cargo del equipo OpenAI Superalignment creado para evitar que sus modelos se volvieran rebeldes.  

Lea también: Otro ejecutivo de OpenAI, Jan Leike, renuncia

En su publicación, Leike dijo que “en los últimos años, la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos brillantes” en la empresa. 

Leike agregó que “OpenAI debe convertirse en una empresa AGI que priorice la seguridad” y que debemos priorizar la preparación para ellos lo mejor que podamos para garantizar que AGI beneficie a toda la humanidad.


Informe criptopolitano de Ibiam Wayas

Temas etiquetados en esta publicación: | | | | |

Descargo de responsabilidad. La información proporcionada no es un consejo comercial. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas en función de la información proporcionada en esta página. Recomendamos tron dent independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.

Compartir enlace:

Cargando los artículos más leídos...

Manténgase al tanto de las noticias sobre criptomonedas y reciba actualizaciones diarias en su bandeja de entrada

Noticias relacionadas

brasileño
criptopolitano
Suscríbete a CryptoPolitan