Cargando...

El Departamento de Defensa de EE. UU. lanza un programa de recompensas por prejuicios de IA

TL;DR

  • El Departamento de Defensa busca ayuda pública para detectar sesgos en la IA. Cualquiera puede unirse, no se necesita codificación. Se otorgan recompensas que dan forma a las futuras reglas de la IA.
  • El programa tiene como objetivo descubrir riesgos ocultos de la IA, empezando por los chatbots. Los resultados pueden orientar la investigación sobre IA y mejorar las políticas.
  • El Departamento de Defensa lidera la IA imparcial. El programa Bounty constituye un ejemplo ético para todos.

El Departamento de Defensa (DoD) de EE. UU. está tomando medidas proactivas para garantizar la equidad y transparencia de los sistemas de inteligencia artificial (IA). En una medida audaz, la Oficina Principal de Inteligencia Digital y Artificial (CDAO) ha iniciado el programa AI Bias Bounty, un esfuerzo de crowdsourcing destinado a identificar dent en los sistemas de IA , comenzando con grandes modelos de lenguaje (LLM).

Crowdsourcing para detectar sesgos

Se lanzó oficialmente la primera etapa del programa AI Bias Bounty, con una invitación abierta al público a participar. Este ejercicio, que se realizará del 29 de enero al 27 de febrero de 2024, anima a personas de todos los orígenes a registrarse. En particular, la experiencia en codificación no es un requisito previo para la participación.

El objetivo principal del primer ejercicio de recompensas es dent áreas de riesgo hasta ahora desconocidas dentro de grandes modelos de lenguaje, centrándose particularmente en los chatbots de código abierto. Este ejercicio tiene como objetivo facilitar la mitigación y el control de los riesgos potenciales asociados con los sistemas de IA.

Impacto en las futuras políticas del Departamento de Defensa de EE. UU.

Los resultados de estas recompensas tienen el potencial de influir significativamente en las políticas futuras y la adopción de la IA dentro del Departamento de Defensa. Según Craig Martell, director de Inteligencia Artificial y Digital, estas iniciativas se supervisan de cerca como parte del compromiso del departamento de abordar los riesgos asociados con los LLM.

Más allá de dar forma a las políticas, el Departamento de Defensa puede aprovechar los resultados de estos programas de recompensas para realizar más investigaciones, análisis, mejores prácticas y recomendaciones de políticas. Esto subraya la dedicación del Departamento de Defensa para mantener sistemas de IA imparciales en todos los dominios operativos.

Enfoque integral de la estrategia de IA

estrategia integral para acelerar la integración de capacidades avanzadas de IA. El objetivo principal es garantizar una superioridad duradera en las decisiones de los soldados estadounidenses en el campo de batalla en los próximos años. Esta estrategia supera las estrategias anteriores de inteligencia artificial y datos, sentando las bases para las capacidades habilitadas por inteligencia artificial del departamento.

Los ejercicios no se centran únicamente en dent sesgos, sino también en desarrollar enfoques innovadores para la auditoría algorítmica y los modelos de IA de equipos rojos. Este enfoque permite al Departamento de Defensa experimentar abordando los riesgos dent , garantizando que los sistemas de IA sigan siendo imparciales en su implementación.

La Oficina Principal de Inteligencia Digital y Artificial (CDAO), establecida en junio de 2022, desempeña un papel fundamental en la integración y optimización de las capacidades de IA en todo el Departamento de Defensa. Tiene la tarea de acelerar la adopción de datos, análisis e inteligencia artificial y, al mismo tiempo, proteger contra amenazas emergentes.

Liderar con el ejemplo de una IA ética

El lanzamiento por parte del Departamento de Defensa del programa AI Bias Bounty sirve como un ejemplo pionero para otras organizaciones. Demuestra el compromiso de priorizar los sistemas de IA imparciales, fomentando el uso ético y justo de la IA en beneficio de la sociedad.

El programa AI Bias Bounty del Departamento de Defensa de EE. UU. marca un paso significativo en la búsqueda de sistemas de IA imparciales. Con el crowdsourcing como base, esta iniciativa abre la puerta para que personas de diversos orígenes participen activamente. Los resultados de estos ejercicios de recompensas podrían remodelar el futuro de las políticas de IA dentro del Departamento de Defensa, sentando un poderoso ejemplo para las organizaciones de todo el mundo en la promoción del uso justo y ético de la IA.

Descargo de responsabilidad. La información proporcionada no es un consejo comercial. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas en función de la información proporcionada en esta página. Recomendamos tron dent independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.

Compartir enlace:

randa moisés

Randa es una consultora e investigadora apasionada de blockchain. Profundamente absorta con el poder transformador de la cadena de bloques, entreteje los datos en fascinantes negocios reales de próxima generación. Guiada por un firme compromiso con la investigación y el aprendizaje continuo, se mantiene actualizada con las últimas tendencias y avances en el matrimonio entre las esferas de blockchain e inteligencia artificial.

Cargando los artículos más leídos...

Manténgase al tanto de las noticias sobre criptomonedas y reciba actualizaciones diarias en su bandeja de entrada

Noticias relacionadas

Beneficio del primer trimestre de TSMC
criptopolitano
Suscríbete a CryptoPolitan