Los CEOs de la industria tecnológica chocan sobre la responsabilidad de la IA en medio de debates regulatorios

En una entrevista reciente, el CEO de IBM, Arvind Krishna, pidió una mayor responsabilidad en la industria de la IA, sugiriendo que tanto las empresas que desarrollan IA como aquellas que la utilizan incorrectamente deberían ser responsables por cualquier daño causado por la tecnología. Esta posición distingue a IBM de algunos de sus pares de la industria que abogan por medidas regulatorias más ligeras en relación con la IA.

Krishna enfatizó la importancia de la responsabilidad legal como fuerza impulsora de la rendición de cuentas, basándose en siglos de historia económica para respaldar su argumento. Según él, hacer que los desarrolladores de IA sean responsables de los defectos en sus sistemas que resultan en daños en el mundo real es un paso necesario para garantizar el uso responsable de la inteligencia artificial. Además, Krishna cree que las empresas que implementan IA también deberían asumir la responsabilidad cuando su uso de la tecnología conduce a problemas, como cargos por discriminación laboral.

Una llamada a la responsabilidad en la IA

La postura de Krishna sobre la regulación de la IA toma un camino diferente en comparación con el enfoque adoptado con las plataformas de redes sociales, que han disfrutado de amplias protecciones legales establecidas durante los primeros días de internet. Sostiene que al imponer responsabilidad legal a las empresas de IA, habrá un mayor incentivo para que creen sistemas más seguros que se adhieran a las leyes existentes, como los derechos de autor y la propiedad intelectual. Su visión para la industria de la IA es una donde la responsabilidad impulsa la innovación y el cumplimiento.

Krishna ha participado activamente en discusiones sobre la regulación de la IA en Washington, participando recientemente en un foro junto con CEOs de empresas como Meta, Google, Amazon y X. Su objetivo era asesorar a los senadores sobre cómo regular eficazmente la IA, reflejando la creciente conciencia de la industria sobre la necesidad de una gobernanza responsable. IBM también se ha unido a un compromiso de la Casa Blanca para construir modelos de IA seguros, subrayando su compromiso con el desarrollo y despliegue responsable de las tecnologías de IA.

Si bien Krishna reconoce que su llamado a que los creadores de IA sean responsables puede no hacerlo popular entre todos, argumenta que cuando se trata de infraestructura crítica y casos de uso cruciales, la barra para implementar la IA debería ser más alta. También reconoce que IBM misma estaría sujeta a riesgo legal bajo las reglas que apoya. Sin embargo, señala que IBM principalmente construye modelos de IA para otras empresas, que tienen un interés directo en cumplir con la ley. En contraste, modelos de IA como ChatGPT de OpenAI o Llama 2 de Meta son más accesibles al público y, por lo tanto, más susceptibles a una variedad de usuarios.

Hacer cumplir la responsabilidad y abordar los desafíos

Si bien Krishna no profundizó en mecanismos específicos de aplicación para la responsabilidad, sus comentarios se alinean con las recomendaciones de política más amplias de IBM para la IA, como se describe en una publicación reciente de su blog. Advertió a los reguladores contra la exigencia de licencias para desarrollar tecnología de IA, rompiendo filas con competidores como Microsoft. Además, instó a no otorgar inmunidad generalizada a los creadores y implementadores de IA, enfatizando la importancia de mantenerlos responsables por cualquier consecuencia negativa que surja del uso de la IA.

En la opinión de Krishna, si bien empresas como IBM pueden abogar por la responsabilidad, son finalmente los legisladores quienes deben formular las reglas y regulaciones que rigen la IA. Alienta al Congreso y al gobierno federal a considerar el marco de responsabilidad en la industria de la IA.

Recientemente, IBM anunció un movimiento significativo para proporcionar cobertura legal a los clientes empresariales que enfrentan acusaciones de violaciones no intencionales de derechos de autor o propiedad intelectual a través de su IA generativa. Esta decisión se asemeja a una iniciativa similar de Microsoft, que tiene como objetivo aliviar las preocupaciones sobre los modelos de IA generativa que utilizan vastos conjuntos de datos para crear imágenes, texto y otros contenidos.

Krishna cree que este movimiento acelerará el crecimiento del mercado y establecerá un precedente crucial en la industria. Subraya que la responsabilidad debe ser una responsabilidad compartida en todo el ecosistema de IA, enfatizando la necesidad de discusiones continuas sobre cómo hacerla cumplir eficazmente.

El llamado de Arvind Krishna por la responsabilidad en la industria de la IA destaca el panorama en evolución de la regulación y gobernanza de la IA. A medida que la tecnología continúa avanzando, la discusión sobre la ética de la IA, la responsabilidad legal y el despliegue responsable se vuelve cada vez más vital. El camino a seguir requerirá la colaboración entre líderes de la industria, reguladores y formuladores de políticas para encontrar el equilibrio adecuado entre innovación y responsabilidad en el ecosistema de IA.