Meta anuncia planes para usar IA en la evaluación de riesgos de privacidad y sociales

Meta Platforms tiene previsto utilizar la inteligencia artificial para evaluar los riesgos de privacidad y sociales. A lo largo de los años, la empresa ha empleado evaluadores humanos para investigar los riesgos asociados con nuevos productos y características, pero las cosas están a punto de cambiar con esta nueva actualización.

Según conversaciones y documentos internos, Meta tiene previsto automatizar el 90 % de todas sus evaluaciones de riesgo. Esto significa que los aspectos relacionados con actualizaciones críticas de los algoritmos de la empresa, las funciones de seguridad y los cambios en la forma en que se permite compartir el contenido en las plataformas de Meta serán aprobados en su mayoría por un sistema respaldado por inteligencia artificial. También significa que estos cambios ya no estarán sujetos a ser revisados por el personal encargado de discutir cómo un cambio en la plataforma podría tener efectos imprevistos o ser mal utilizado.

Meta tiene la intención de pasar a un sistema de revisión impulsado por IA

Según fuentes dentro de Meta, el desarrollo ha sido visto como una victoria para los desarrolladores de productos, ya que les da tiempo suficiente para lanzar las actualizaciones y características de sus aplicaciones. Sin embargo, aún hay preocupaciones dentro de la empresa sobre lo complicado que es la situación, señalando que permitir que la IA tome decisiones complicadas sobre las aplicaciones de Meta podría causar daños en el mundo real. Este sesgo ha sido compartido por ex empleados y empleados actuales.

"En la medida en que este proceso signifique funcionalmente que se lancen más cosas más rápido, con menos escrutinio riguroso y oposición, significa que estás creando mayores riesgos", dijo un ex ejecutivo de Meta que solicitó el anonimato por miedo a represalias de la empresa. "Es menos probable que las externalidades negativas de los cambios en el producto se prevengan antes de que comiencen a causar problemas en el mundo".

En una declaración reciente, Meta mencionó que ha invertido miles de millones de dólares para apoyar la privacidad de los usuarios. La empresa también ha estado bajo la vigilancia de la Comisión de Bolsa y Valores (SEC) desde 2012, con la agencia llegando a un acuerdo con la empresa sobre cómo maneja la información personal de sus usuarios. Como resultado, siempre ha habido una necesidad de revisiones de privacidad de los productos, según ex empleados y empleados actuales de Meta.

En su declaración, la empresa añadió que los cambios en la revisión de riesgos del producto ayudarán a agilizar la toma de decisiones, señalando que aún emplea la experiencia humana en temas novedosos y complejos. Meta también señaló que solo se están automatizando actualmente las decisiones de bajo riesgo, pero los documentos internos revisados por NPR muestran que Meta ha estado considerando automatizar las revisiones de aspectos sensibles, incluida la seguridad de la IA, el riesgo para los jóvenes y otra categoría conocida como integridad, que se encarga de cosas como la desinformación y el contenido violento.

Bajo el sistema anterior, las actualizaciones de productos y características se enviaban primero a los evaluadores de riesgos antes de ser lanzadas al público. Sin embargo, según una diapositiva que muestra cómo funciona el nuevo proceso, los equipos de producto recibirán decisiones instantáneas después de completar un cuestionario sobre el proyecto. La decisión impulsada por IA identificará varias áreas de riesgo y los requisitos que podrían abordarlas. Antes del lanzamiento de dichos proyectos, el equipo de producto también verificará si se han cumplido los requisitos.

Lo que resalta el nuevo sistema es que los ingenieros que construyen los productos de Meta deberán emitir su juicio sobre los riesgos. Según la diapositiva, en algunos casos, incluidos nuevos riesgos o cuando un equipo de producto necesita comentarios adicionales, los proyectos recibirán una revisión manual llevada a cabo por humanos.

Sin embargo, Zvika Krieger, ex director de innovación de Meta hasta 2022, ha mencionado que los gerentes de producto y los ingenieros no son expertos en privacidad. "La mayoría de los gerentes de producto y los ingenieros no son expertos en privacidad y ese no es el enfoque de su trabajo. No es en lo que se les evalúa principalmente y no es en lo que están incentivados a priorizar", dijo. También añadió que algunas de estas autoevaluaciones se han convertido en ejercicios que pasan por alto algunos riesgos importantes.