OpenAIEl director ejecutivo de OpenAI, Sam Altman, la vicepresidenta de confianza y privacidad de IBM, Christina Montgomery, y el profesor emérito de la Universidad de Nueva York, Gary Marcus, tienen previsto comparecer ante el Congreso el 16 de mayo sobre la regulación y supervisión de la IA. Si bien los detalles sobre la agenda de la audiencia son escasos, el título "Supervisión de la IA: Reglas para la Inteligencia Artificial" sugiere que el debate se centrará en la seguridad y la privacidad. Marcus, quien recientemente expresó su apoyo a una "pausa" comunitaria en el desarrollo de la IA durante seis meses, es el único participante excepcional entre los asistentes programados.
La idea de Marcus de una pausa en la IA se defi en una carta publicada en el sitio web del Future of Life Institute el 22 de marzo, que ha conseguido más de 27.500 firmas. El objetivo de la carta es «instar a todos los laboratorios de IA a pausar de inmediato, durante al menos seis meses, el entrenamiento de sistemas de IA más potentes que GPT-4».
La directora ejecutiva de OpenAI y Christina Montgomery se encuentran entre quienes se oponen a la pausa. Montgomery cree que una pausa general en la capacitación en IA, sumada a las tendencias existentes que parecen restar prioridad a la inversión en las iniciativas éticas de la industria de la IA, solo provocará más perjuicios y contratiempos. IBM cree que la IA debería regularse en función del riesgo.
IBM y OpenAI adoptan posturas opuestas sobre la ética de la IA
OpenAI es responsable de ChatGPT , posiblemente la tecnología de IA de cara al público más popular que existe. Altman apoya el desarrollo seguro y ético de los sistemas de IA, pero cree en "involucrar a todos en el debate" y "dar a conocer estos sistemas al mundo". Montgomery, miembro del Comité Asesor Nacional de IA de EE. UU., abogó por un enfoque más preciso para la regulación de la IA, enfatizando la necesidad de priorizar la ética.
Es probable que la próxima audiencia del Senado sirva como foro para que los miembros del Congreso formulen preguntas. Dependiendo de a qué expertos se adhiera cada uno, el debate podría tener consecuencias disruptivas. Si el Congreso determina que la regulación de la IA merece una mano dura, Montgomery teme que tales esfuerzos puedan frenar la innovación sin abordar necesariamente las preocupaciones de seguridad.
Este daño podría extenderse a sectores operativos donde la tecnología GPT sustenta una plétora de bots y servicios. Expertos como Marcus y Elon Musk temen que la falta de implementación de lo que consideran una política de sentido común en relación con la supervisión de la IA podría provocar una crisis existencial para la humanidad.
La próxima audiencia del Senado probablemente abordará la necesidad de la IA . Si bien Altman y Montgomery se oponen a una pausa general en el desarrollo de la IA, Marcus la apoya. El debate podría tener consecuencias disruptivas dependiendo de si el Congreso determina que la regulación de la IA merece o no una mayor presión. Mientras Montgomery teme un efecto disuasorio sobre la innovación, a Marcus y Musk les preocupa que la falta de políticas sensatas pueda resultar en una crisis existencial para la humanidad.
