La IA avanzada podría crear riesgos extremos nuevos, dicen expertos en un informe previo a la cumbre de IA
Enacy Mapakame
3 min de lectura
- Los países 30, incluidos China y EE. UU., respaldaron el acuerdo.
- Los expertos opinan que la IA podría ser problemática hasta el punto de desplazar a los humanos de sus empleos y facilitar el terrorismo.
- Sin embargo, otros expertos creen que generará más puestos de trabajo de los que elimina.
Un Informe Científico Internacional recientemente publicado sobre la Seguridad de la IA Avanzada muestra que la IA avanzada podría ser calamitosa y dejar un rastro de dolor y sufrimiento para los humanos.
Según AP, este es el primer informe internacional de su tipo, publicado el miércoles vísperas de la cumbre de IA en París en febrero, catalogando los peligros planteados por la tecnología de rápido crecimiento.
Los países respaldan el Informe Científico Internacional
El informe detalla algunos de los peligros que podrían surgir como resultado de la IA avanzada, y estos incluyen habilitar el terrorismo y pérdidas masivas de empleo. Esto ya se ha experimentado especialmente dentro de la tecnología, donde miles de empleos han sido eliminados a medida que las empresas automatizan, gracias a la IA.
Según AP, el informe cuenta con el apoyo de 30 países, incluidos EE. UU. y China, un caso raro en el que las dos economías más grandes del mundo están en cooperación. Los dos han estado enfrentados mientras luchan por la supremacía en IA. Esta semana, la startup china DeepSeek sorprendió al mundo con su chatbot de bajo presupuesto, aunque EE. UU. impuso estrictos controles de exportación a China.
El prominente científico de IA Yoshua Bengio dirigió el estudio, que es una fusión de estudios ya existentes destinados a guiar a las autoridades en la elaboración de salvaguardas para la tecnología de rápido crecimiento.
"Las apuestas son altas", dice el informe, señalando que hace unos años los sistemas de IA apenas podían producir un párrafo coherente. Sin embargo, con el desarrollo reciente, la IA ahora puede generar imágenes realistas, programación informática, así como mantener conversaciones extendidas con los usuarios.
Según los investigadores, los peligros de la IA avanzada ya se están presenciando lentamente, como la desinformación y la información falsa, deepfakes, estafas y sesgos.
"Necesitamos comprender mejor los sistemas que estamos construyendo y los riesgos que conllevan para que podamos tomar mejores decisiones en el futuro."
Bengio.
Esto ocurre "a medida que la IA de propósito general se vuelve más capaz, la evidencia de riesgos adicionales está emergiendo gradualmente", según el informe.
Esto también ocurre durante la misma semana en que el Vaticano ha advertido contra la tecnología junto con el grupo detrás del Reloj del Juicio Final. El informe se centra en la IA de propósito general, que está representada por modelos como ChatGPT de OpenAI.
El informe categorizó los riesgos de la IA avanzada
El Informe Científico Internacional agrupa los riesgos en tres, es decir, uso malicioso, fallos y riesgos "sistémicos" generalizados. Los investigadores examinaron qué tan fácil es para la IA aprender a usar armas químicas o biológicas, planteando enormes riesgos para los humanos.
Además, el informe señala que la IA de propósito general también puede transformar el mercado laboral, desplazando a algunos empleados, aunque otros investigadores están de acuerdo en que la IA podría crear más empleo del que elimina.
El informe también expresó temores sobre los sistemas de IA que se salen de control por dos posibles razones, la primera siendo ya sea porque socavan la supervisión humana o porque los humanos prestan menos atención.
Bengio reveló que los 100 expertos que se reunieron para el informe no siempre estuvieron de acuerdo en qué esperar de la IA en el futuro. Una de las discrepancias fue sobre cuándo la IA superaría las capacidades humanas en diferentes tareas.
«También discrepan sobre los escenarios», dijo Bengio.
«Por supuesto, nadie tiene bola de cristal. Algunos escenarios son muy beneficiosos. Otros son aterradores. Creo que es realmente importante que los responsables políticos y el público evalúen esa incertidumbre.»
Bengio.
El informe, respaldado por varios países, cuenta también con el apoyo de la Unión Europea. Se publica en un momento en que se espera que los líderes mundiales, líderes tecnológicos, expertos y la sociedad civil se reúnan nuevamente en la Cumbre de Acción de IA de París. Los países firmarán una «declaración común» sobre el desarrollo de la IA.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Enacy Mapakame
Enacy Mapakame es una periodista con más de 10 años de experiencia en noticias empresariales y financieras. Cubre los mercados de capitales y las tecnologías emergentes: el metaverso, la inteligencia artificial y las criptomonedas. Enacy posee un título de licenciatura con honores en Estudios de Medios y Sociedad.
