Políticos exigen regulaciones rápidas sobre armas de IA y robots asesinos

Austria dijo el lunes que se deben llevar a cabo nuevos esfuerzos para regular la inteligencia artificial, que potencialmente está llevando a sistemas de asesinato autónomo y armas de IA, también conocidas como robots asesinos.

Austria alberga una conferencia para abordar las regulaciones sobre armas de IA

Los comentarios se hicieron en la conferencia «Humanidad en la Encrucijada: Sistemas de Armas Autónomas y el Desafío de la Regulación», que es organizada por el Ministerio Federal Austríaco de Asuntos Europeos e Internacionales en Viena y comenzó ayer y continuará hasta hoy.

Están surgiendo desafíos éticos y legales a medida que los sistemas de armas autónomas capaces de matar sin asistencia humana se convierten en una realidad con el rápido avance en la tecnología de IA, y muchos países abogan por abordar este problema de manera urgente.

Alexander Schallenberg, Ministro de Relaciones Exteriores de Austria, dijo,

“No podemos dejar pasar este momento sin tomar medidas. Ahora es el momento de acordar reglas y normas internacionales para garantizar el control humano.”

Fuente: Reuters.

Estaba hablando en una reunión de organizaciones internacionales y no gubernamentales y enviados que participaron de 143 países. A medida que las discusiones sobre este desafío se han estancado casi a nivel global, mencionó la agencia de noticias, también dijo en sus comentarios de apertura en la conferencia que,

"Al menos aseguremos que la decisión más profunda y de mayor alcance, quién vive y quién muere, permanezca en manos de los humanos y no de las máquinas."

Dado que muy pocos resultados que producen impacto en el mundo real han resultado de los años de conversaciones en las Naciones Unidas, una gran cantidad de participantes en la conferencia de Viena dijeron que el momento para la acción se está escapando de control.

La IA puede confundir la cabeza de una persona con un balón de fútbol

La presidenta del Comité Internacional de la Cruz Roja, Mirjana Spoljaric, dijo que es importante actuar sobre el tema, y que muy rápido, estaba hablando en un panel de discusión en la conferencia.

Spoljaric también dijo que no debemos dar la responsabilidad de la violencia o el control sobre la violencia a las máquinas y algoritmos, ya que no queremos ver aumentar tales retrocesos, ya que lo que ya estamos viendo en diversos escenarios violentos es lo que ella llamó «fracasos morales frente a la comunidad internacional».

Los diplomáticos dijeron que la IA ya se ha infiltrado en los campos de batalla, ya que se ha observado en la guerra de Ucrania que los drones están diseñados de tal manera que encuentran su dirección y alcanzan su objetivo incluso cuando los sistemas de interferencia de señal cortan su enlace con otros operadores.

El ejército israelí utilizó sistemas de IA para ayudar a identificar objetivos en Gaza, dijo Estados Unidos mientras revisaba los informes de los medios. Pero la ironía es que el mismo Estados Unidos siguió suministrando armas a Israel, que fue acusado de uso descuidado y de matar a civiles inocentes.

En un discurso principal, el inversor tecnológico e ingeniero de software, Jaan Tallinn, dijo:

“Ya hemos visto que la IA comete errores de selección de maneras grandes y pequeñas.”

Fuente: Reuters.

Se refería a la capacidad con la que la IA aún lucha, por ejemplo, al reconocer erróneamente la cabeza calva de un árbitro como un balón de fútbol o a los coches autónomos atropellando peatones al no reconocer que cruzan fuera del paso de cebra. Pero la agonía es que países como Israel están utilizando esta tecnología, que aún tiene que madurar si es que alguna vez lo hace, para identificar objetivos entre miles de civiles para eliminar a los buscados. Tallinn también enfatizó que la precisión de estos sistemas debe abordarse con cautela.