Michael Barr de la Reserva Federal habla sobre los riesgos a gran escala de la velocidad de la IA

El vicepresidente de Supervisión de la Reserva Federal, Michael Barr, dijo que los atractivos rasgos de la IA presentan cambio riesgos. Señaló hacia posibles problemas a gran escala debido a la automatización y la velocidad de la IA. 

El martes, Michael Barr dijo que la IA generativa podría dar lugar a comportamientos de rebaño y «la concentración de riesgos, potencialmente amplificando la volatilidad del mercado» a pesar de que los reguladores financieros ven enorme oportunidades en estas tecnologías emergentes.

La IA generativa (GenAI) es diferente de otras iteraciones de IA ya que puede generar contenido. Por lo tanto, mejora la productividad en diversas actividades. Debido a su rápida adopción y mejora continua, la GenAI se está convirtiendo lentamente en una tecnología de propósito general.

Michael Barr discute los riesgos de GenAI

Michael Barr se refirió a dos escenarios para la evolución de la GenAI. En primer lugar, la adopción incremental puede hacer que los humanos sean más eficientes. En este caso, las herramientas de GenAI crearán un impacto significativo en la vida de las personas al automatizar sus tareas cotidianas y monótonas.

En el segundo caso, los sistemas de GenAI podrían lograr rápidamente avances en energía, robótica y biotecnología, lo que resultaría en la creación de nuevas industrias y la reconfiguración de las existentes. Por ejemplo, la IA Generativa podría encontrar curas para enfermedades que antes eran incurables al permitir terapias que se dirigen a genes mutados.

Sin embargo, su automatización, velocidad y capacidad para optimizar estrategias financieras también podrían representar riesgos para los mercados.

Michael Barr añadió: «A medida que los agentes de GenAI serán dirigidos a maximizar el beneficio, pueden converger en estrategias para maximizar los rendimientos mediante la manipulación coordinada del mercado, alimentando potencialmente burbujas y colapsos de activos».

También habló sobre las entidades no bancarias siendo más «proclives al riesgo» al integrar la IA en sus sistemas, lo que resulta en que las actividades financieras se vuelvan menos transparentes.

Según Michael Barr, la IA generativa podría impactar negativamente en las instituciones políticas y la economía. Además, podría concentrar el poder político y económico, donde unos pocos individuos tienen un mayor control y un pequeño grupo se queda con la mayor parte de las ganancias.