El CEO de OpenAI, Sam Altman, testificará ante el Congreso sobre el futuro de la IA

El CEO de OpenAI, Sam Altman, el VP de confianza y privacidad de IBM, Christina Montgomery, y el profesor emérito de NYU, Gary Marcus, están programados para testificar ante el Congreso el 16 de mayo sobre regulación y supervisión de la IA. Aunque los detalles sobre la agenda de la audiencia siguen siendo escasos, el título “Supervisión de la IA: Reglas para la Inteligencia Artificial” sugiere que la discusión se centrará en la seguridad y la privacidad. Marcus, quien recientemente expresó su apoyo a una “pausa” impulsada por la comunidad en el desarrollo de la IA durante seis meses, es el único atípico entre los asistentes programados.

La idea de Marcus de una pausa en la IA se definió en una carta abierta publicada en el sitio web del Instituto para el Futuro de la Vida el 22 de marzo, que ha reunido más de 27.500 firmas. El objetivo de la carta es “llamar a todos los laboratorios de IA a pausar inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más poderosos que GPT-4.”

El CEO de OpenAI y Christina Montgomery están entre los que se oponen a la pausa. Montgomery cree que una pausa general en el entrenamiento de la IA, junto con las tendencias existentes que parecen priorizar menos la inversión en esfuerzos de ética de la IA en la industria, solo llevará a daños adicionales y contratiempos. IBM cree que la IA debe regularse según el riesgo.

IBM y OpenAI toman posturas opuestas sobre la ética de la IA 

OpenAI es responsable de ChatGPT, probablemente la tecnología de IA de uso público más popular existente. Altman apoya el desarrollo seguro y ético de sistemas de IA pero cree en “involucrar a todos en la discusión” y “poner estos sistemas en el mundo”. Montgomery, miembro del Comité Asesor Nacional de IA de EE. UU., presentó un caso para un enfoque más preciso de la regulación de la IA, enfatizando la necesidad de priorizar la ética.

La próxima audiencia del Senado probablemente funcionará como un foro para que los miembros del Congreso hagan preguntas. Dependiendo de qué expertos se crea, la discusión podría tener repercusiones disruptivas. Si el Congreso determina que la regulación de la IA merece una mano dura, Montgomery teme que tales esfuerzos puedan tener un efecto enfriador en la innovación sin necesariamente abordar las preocupaciones de seguridad.

 Este daño podría filtrarse a los sectores operativos donde la tecnología GPT sustenta una gran cantidad de bots y servicios. Expertos como Marcus y Elon Musk se preocupan de que el fracaso en implementar lo que consideran una política de sentido común relacionada con la supervisión de la IA podría resultar en una crisis existencial para la humanidad.

La próxima audiencia del Senado probablemente abordará la necesidad de regulación y supervisión de la IA. Aunque Altman y Montgomery se oponen a una pausa general en el desarrollo de la IA, Marcus la apoya. La discusión podría tener repercusiones disruptivas dependiendo de si el Congreso determina que la regulación de la IA merece una mano dura o no. Mientras Montgomery teme un efecto enfriador en la innovación, Marcus y Musk se preocupan de que el fracaso en implementar una política de sentido común podría resultar en una crisis existencial para la humanidad.