El CEO de OpenAI, Sam Altman, la vicepresidenta de confianza y privacidad de IBM, Christina Montgomery, y el profesor emérito de la Universidad de Nueva York, Gary Marcus, testificarán ante el Congreso el 16 de mayo sobre la regulación y supervisión de la IA. Si bien los detalles sobre la agenda de la audiencia siguen siendo escasos, el título "Supervisión de la IA: reglas para la inteligencia artificial" sugiere que la discusión se centrará en la seguridad y la privacidad. Marcus, quien recientemente expresó su apoyo a una "pausa" impulsada por la comunidad en el desarrollo de IA durante seis meses, es el único atípico entre los asistentes programados.
La idea de Marcus de una pausa en la IA se defi carta abierta publicada en el sitio web del Future of Life Institute el 22 de marzo, que obtuvo más de 27 500 firmas. El objetivo de la carta es "hacer un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4".
El CEO de OpenAI y Christina Montgomery se encuentran entre los que se oponen a la pausa. Montgomery cree que una pausa general en la capacitación en IA, junto con las tendencias existentes que parecen restar prioridad a la inversión en los esfuerzos de ética de la IA de la industria, solo generará daños y contratiempos adicionales. IBM cree que la IA debe regularse en función del riesgo.
IBM y OpenAI adoptan posturas opuestas sobre la ética de la IA
OpenAI es responsable de ChatGPT , posiblemente la tecnología de IA de cara al público más popular que existe. Altman apoya el desarrollo seguro y ético de los sistemas de IA, pero cree en "involucrar a todos en la discusión" y "exponer estos sistemas al mundo". Montgomery, miembro del Comité Asesor Nacional de IA de EE. UU., defendió un enfoque más preciso para la regulación de la IA, enfatizando la necesidad de priorizar la ética.
Es probable que la próxima audiencia en el Senado funcione como un foro para que los miembros del Congreso hagan preguntas. Dependiendo de a qué expertos se crea, la discusión podría tener ramificaciones perturbadoras. Si el Congreso determina que la regulación de la IA merece mano dura, Montgomery teme que tales esfuerzos puedan tener un efecto paralizante en la innovación sin abordar necesariamente los problemas de seguridad.
Este daño podría filtrarse a los sectores operativos donde la tecnología GPT sustenta una gran cantidad de bots y servicios. A expertos como Marcus y Elon Musk les preocupa que la falta de promulgación de lo que consideran una política de sentido común relacionada con la supervisión de la IA podría resultar en una crisis existencial para la humanidad.
La próxima audiencia del Senado probablemente abordará la necesidad de regulación y supervisión la IA Mientras que Altman y Montgomery se oponen a una pausa general en el desarrollo de IA, Marcus lo apoya. La discusión podría tener ramificaciones perturbadoras dependiendo de si el Congreso determina que la regulación de la IA merece mano dura o no. Mientras que Montgomery teme un efecto paralizante en la innovación, a Marcus y Musk les preocupa que la falta de promulgación de una política de sentido común pueda resultar en una crisis existencial para la humanidad.
