Las startups buscan claridad y regulación específica por sector de la IA en medio de las discusiones de la Cumbre de Seguridad de la IA

La reciente cumbre de seguridad de la IA del Reino Unido reunió a líderes de la industria, responsables políticos y startups para discutir los desafíos y riesgos asociados con los sistemas avanzados de IA. Si bien muchos vieron el evento como un paso diplomático positivo, las startups que desarrollan productos de IA ahora enfatizan la necesidad de claridad regulatoria y enfoques específicos por sector para la regulación de la IA. 

Construir conexiones y recopilar información

Connor Leahy, cofundador de la startup de seguridad de la IA Conjecture, señaló que la cumbre sirvió principalmente como una plataforma para la creación de redes, el intercambio de información y la construcción de relaciones, más que como un escenario para decisiones políticas. Fundadores como Leahy destacaron la importancia de fomentar conexiones dentro de la comunidad de IA.

La llamada por reglas claras

Las startups están pidiendo regulaciones más claras en el Reino Unido para proporcionar un entorno estable para sus empresas de IA. Eric Topham, cofundador de Octaipipe, una startup con sede en Londres enfocada en la seguridad de datos para productos de IA en dispositivos físicos, enfatizó la necesidad de claridad en las reglas de seguridad de datos. Contrastó la falta de estándares definidos en el Reino Unido con el próximo Reglamento de Resiliencia Cibernética en Europa, que penaliza las violaciones de datos de dispositivos.

Sin embargo, startups como Octaipipe son cautelosas al adoptar un enfoque único para la legislación de la IA. Muchos fundadores creen que las regulaciones específicas por sector son más adecuadas que el enfoque horizontal de la UE, que aplica las mismas reglas en diversas industrias. Alex Kendall, cofundador de la empresa de conducción autónoma Wayve, argumentó que diferentes sectores enfrentan riesgos únicos relacionados con la IA y deberían tener regulaciones a medida.

Equilibrar riesgos inmediatos y a largo plazo

Si bien la cumbre se centró principalmente en los riesgos “catastróficos” asociados con futuros sistemas de IA súper potentes, las startups instan a los responsables políticos a abordar los desafíos inmediatos y a largo plazo. Marc Warner, CEO de Faculty, enfatizó la importancia de abordar los riesgos a corto y largo plazo simultáneamente, utilizando la analogía de preocuparse tanto por los cinturones de seguridad como por los convertidores catalíticos en la industria automotriz.

Regular la IA de frontera

La regulación de los sistemas de IA más potentes, como aquellos entrenados con vastas cantidades de datos y poder computacional, sigue siendo un tema controvertido en el sector de la IA. Algunos expertos, como Yann LeCun de Meta, argumentan que estos sistemas no son verdaderamente inteligentes, sino herramientas sofisticadas de autocompletado y pueden no requerir una regulación estricta.

En contraste, startups como Conjecture proponen establecer límites máximos en el poder computacional para el entrenamiento de nuevos modelos para evitar que los sistemas de IA superen las capacidades humanas. Argumentan que los sistemas de IA súper inteligentes sin control podrían llevar a que las máquinas controlen el futuro, desplazando el control humano.

Mistral, una startup de IA generativa con sede en París, aboga por la supervisión independiente obligatoria de los modelos de IA de las grandes empresas tecnológicas. Esto permitiría a las instituciones de investigación pública estudiar estos modelos y garantizar la transparencia. Si bien algunas grandes empresas tecnológicas como OpenAI y Google DeepMind han entrado en acuerdos voluntarios para pruebas externas, el cofundador de Mistral, Arthur Mensch, insiste en que la legislación es necesaria para evitar que estas empresas se regulen a sí mismas.

Mustafa Suleyman, cofundador de DeepMind y ahora CEO de Inflection, reconoce que los acuerdos voluntarios son un primer paso positivo. Sin embargo, enfatiza el equilibrio entre la regulación y los derechos de propiedad intelectual de las empresas.

A raíz de la cumbre de seguridad de la IA del Reino Unido, las startups de la industria de la IA buscan claridad regulatoria y abogan por enfoques específicos por sector para la regulación de la IA. Si bien la cumbre abordó principalmente los riesgos a largo plazo asociados con los sistemas avanzados de IA, las startups enfatizaron la necesidad de considerar los desafíos inmediatos. El debate sobre cómo regular los sistemas de IA más potentes continúa, con algunos abogando por límites estrictos en el poder computacional mientras otros argumentan a favor de la supervisión independiente de las grandes empresas tecnológicas. A pesar de las preguntas que permanecen, la conversación continua señala un paso positivo hacia la configuración del futuro de la regulación de la IA. A medida que la industria de la IA evoluciona, encontrar el equilibrio adecuado entre innovación y regulación será crucial para su crecimiento y desarrollo responsable.