Anthropic afirma que Claude Chatbot está fuera del alcance de los candidatos políticos

La intersección de la inteligencia artificial y la política está cada vez más preocupada por la propagación de desinformación y manipulación. Anthropic, la empresa creadora de Claude, competidor de ChatGPT, ha presentado políticas estrictas para evitar que sus herramientas de IA sean explotadas en campañas políticas o actividades de cabildeo. Esta decisión refleja un esfuerzo más amplio de toda la industria para abordar los desafíos que plantea la IA en los procesos democráticos.

Anthropic se prepara para eliminar el abuso electoral con Claude

La política de Anthropic contra el uso indebido de las elecciones prohíbe estrictamente que los candidatos utilicen a Claude para crear chatbots que los suplanten o para ejecutar campañas políticas dirigidas. Las infracciones de esta política se sancionan con advertencias y podrían conllevar la suspensión del acceso a los servicios de Anthropic. La empresa también realiza pruebas exhaustivas, incluyendo ejercicios de "equipo rojo", para evaluar el posible uso indebido de sus sistemas de IA.

Además de implementar políticas contra el uso indebido de datos electorales, Anthropic colabora con organizaciones como TurboVote para proporcionar a los votantes información fiable. Por ejemplo, si un usuario en Estados Unidos solicita información para votar, se le redirige a TurboVote, un recurso proporcionado por la organización no partidista Democracy Works. Se prevé implementar medidas similares en otros países.

OpenAI, la organización detrás de ChatGPT, también está tomando medidas proactivas para abordar el posible uso indebido de la IA en la política. Redirigen a los usuarios que buscan información electoral al sitio web independiente CanIVote.org. Esta iniciativa subraya un movimiento más amplio dentro de la industria tecnológica para regular la aplicación de la IA en contextos políticos.

Esfuerzos de toda la industria para combatir el uso indebido

Otros gigantes tecnológicos, como Facebook y Microsoft, también están implementando iniciativas para combatir la proliferación de contenido político engañoso generado por IA. Microsoft, por ejemplo, ha introducido "dentde Contenido como Servicio" y ha lanzado un Centro de Comunicaciones Electorales para combatir la desinformación.

Además, la Comisión Federal de Comunicaciones de EE. UU. ha prohibido el uso de voces deepfake generadas por IA en llamadas automáticas, lo que subraya la urgente necesidad de regulación en este ámbito. La aparición de réplicas políticas generadas por IA también ha suscitado preocupación. OpenAI suspendió la cuenta de un desarrollador que creó un bot que se hacía pasar por un candidatodent, el representante Dean Phillips, en respuesta a una petición de la organización sin fines de lucro Public Citizen. Esta petición exigía la prohibición del uso de IA generativa en campañas políticas.

En general, los esfuerzos de empresas como Anthropic y OpenAI para regular el uso de la IA en la política ponen de manifiesto un creciente reconocimiento de los riesgos potenciales asociados a la IA en los procesos democráticos. Mediante la implementación de políticas estrictas y la colaboración con organizaciones no partidistas, estas empresas buscan defender la integridad del discurso político y protegerse contra la desinformación y la manipulación.

En una era donde la línea entre la realidad y la artificialidad es cada vez más difusa, establecer salvaguardias sólidas contra el uso indebido de la IA en contextos políticos es fundamental para preservar la integridad de los sistemas democráticos. A medida que la tecnología continúa evolucionando, la vigilancia constante y las medidas proactivas serán esenciales para garantizar que la IA sea un motor de cambio positivo en lugar de una herramienta de manipulación y engaño.