Los detectores de IA dejan de funcionar: Estudio de caso de la Constitución de EE. UU.
Los detectores de IA dejan de funcionar: Estudio de caso de la Constitución de EE. UU.
- Los detectores de inteligencia artificial (IA) generan una disparidad global en lo que es real y lo que no.
- La disparidad y precisión del detector de IA se remontan al inglés básico y a su ubicación geográfica, es decir, el inglés británico y el estadounidense.
- OpenAI admite que los detectores de IA no funcionan.
La Inteligencia Artificial (IA) ha tomado el control de la vida moderna, particularmente en la generación de contenido escrito. Aunque todo es divertido y entretenido, la inexactitud en la detección de contenido de IA es alarmante. Lo que es peor es Detectores de IA marcar contenido escrito por humanos como generado por GPT; Estudio de caso la Constitución de los Estados Unidos.
También lea :Paul Graham de Y Combinator criticado por afirmar que los textos con "delve" son escritos por IA
La Constitución de los Estados Unidos fue escrita en 1787, ratificada en 1788 y ha estado en operación desde 1789. Es la carta de gobierno escrita más longeva del mundo. La Constitución existía un siglo antes de que se inventara el primer automóvil. Sin embargo, un detector de IA lo marcó como 97.97% generado por IA.
Los detectores de IA marcan la Constitución de EE. UU. como inhumana
2023 vio un aumento en el contenido escrito por inteligencia artificial. Poco después, los desarrolladores del mercado aprovecharon la oportunidad para crear detectores que informan porcentajes de contenido de IA. Eso debería haber sido un buen avance, pero ese no es el caso.
Un detector de IA ha marcado la Constitución de los Estados Unidos como contenido de IA. ¿El porcentaje? Un cierre del 97.97%. El término “inteligencia artificial” fue acuñado y se volvió popular en el nacimiento de la IA entre 1950 y 1956. Entonces, ¿cómo es posible que la IA escribiera un documento 163 años anterior a su invención?
En 1950, Alan Turing publicó un artículo de revista titulado “Máquinas de computación e inteligencia”, proponiendo una prueba de inteligencia de máquinas llamada El Juego de la Imitación. Este artículo marcó el comienzo del mundo en el que vivimos hoy.
En 1952, un científico informático llamado Arthur Samuel desarrolló un programa para jugar al ajedrez, el primero en aprender el juego de forma independiente. Poco después, en 1955, John McCarthy celebró un taller en Dartmouth sobre “inteligencia artificial”, que fue el primer uso de la palabra.
Los detectores de IA tienen limitaciones
Los detectores de IA tienen limitaciones porque el texto generado por IA imita la escritura humana. Estos detectores han sido entrenados por los mismos humanos que enseñaron a las máquinas a escribir. Entonces, ¿cómo funcionarían sus detectores de IA y qué tan precisos son? Otro detector de IA marcó un 1% de contenido de IA en la Constitución de los Estados Unidos. ¿De dónde vino el 1%?
Bueno, aquí está la disparidad: Algunos detectores de IA buscan ciertas palabras como “delve, tapestry, utilize, numerous, etc.” que suelen ser usadas por la IA pero son poco comunes para los estadounidenses.
Sin embargo, para algunas personas de países con historia colonial británica, estas palabras son de uso común tanto en el lenguaje hablado como escrito.
El mes pasado, el cofundador de Y Combinator, Paul Graham, fue criticado después de una teoría de atribución de texto de ChatGPT que hizo en X (anteriormente Twitter). Graham publicó una propuesta de correo electrónico frío que recibió de alguien para un proyecto que concluyó que era escritura de IA porque contenía la palabra “delve.”
Un usuario de X dijo, “Las personas que han aprendido inglés en los países que tienen un pasado colonial británico – esto es exactamente cómo aprendimos inglés […] ‘Delve’ es una palabra normal que hablamos.” Otro dijo que es un problema estadounidense.
Algunos países y personas aún usan lo que yo describiría como “inglés literario”.
— Africa Research Desk (@MightiJamie) 10 2024 de abril
Lo desafortunado es que el vocabulario estadounidense se basa principalmente en coloquialismos (lo que llaman jerga) e idiomatismos contemporáneos estadounidenses, hasta el punto de que el uso sofisticado de…
Esto plantea la pregunta, ¿deberían los detectores de IA y los generadores de contenido ser específicos del inglés regional? ¿O deberían abandonarse todas estas herramientas de escritura y detectores?
Los detectores de IA son inexactos
Los detectores de IA dependen de características lingüísticas inconsistentes. El lenguaje humano es inherentemente variable, con una amplia gama de estilos, dialectos e idiomatismos. El texto generado por IA puede caer dentro de estas variaciones, lo que dificulta que los detectores sean precisos.
Aproximadamente el 20% de los textos generados por IA pasan a través de estos sistemas de detección sin ser detectados, socavando la confiabilidad de los detectores de IA. De manera similar, aproximadamente el 25% del texto escrito por humanos es marcado falsamente como IA.
Un usuario en Quora escribió, “El detector de IA está marcando mi trabajo como 100% generado por IA. Porque usé ignorantemente como una herramienta de edición y gramática a solicitud de un asesor académico. Las palabras, conceptos y experiencias de vida en la pieza ya publicada son mías. ¿Qué hago?”
Muchos han expresado frustración con este problema. Recientemente, en una pieza de noticias publicada por Cryptopolitan, un Generador de IA marcó palabras pronunciadas por Donald Trump. Él dijo: “Soy muy positivo y abierto a las empresas de criptomonedas y todo lo relacionado con esta nueva y floreciente industria.” ¿Cómo se añade la IA a las palabras habladas? ¿Está en la mente de una persona? ¿En pensamientos expresados?
Otro contenido fue de David Bailey: “Nos movilizaré para defendernos. No votamos por Trump per se, votamos contra Biden. La única persona a culpar por eso es Biden. “
También leer: La Campaña Crypto de Trump – Todo lo que necesitas saber
En 2023, OpenAI publicó consejos para educadores en una publicación de blog promocional que mostraba cómo algunos maestros usan ChatGPT como una ayuda educativa.
En una sección de las preguntas frecuentes titulada “¿Funcionan los detectores de IA?”, OpenAI escribió, “En resumen, no. Aunque algunos (incluido OpenAI) han lanzado herramientas que pretenden detectar contenido generado por IA, ninguna de estas ha demostrado distinguir de manera confiable entre contenido generado por IA y contenido generado por humanos.” El problema de distinguir el contenido humano del contenido de IA permanece. La pregunta es: ¿Qué se debe hacer de aquí en adelante?
Reportaje de Cryptopolitan por Florence Muchai
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Florence Muchai
Florence ha estado cubriendo durante los últimos 6 años noticias sobre criptomonedas, juegos, tecnología e inteligencia artificial. Sus estudios de Ciencias de la Computación en la Universidad de Ciencias y Tecnología de Meru y Gestión de Desastres y Diplomacia Internacional en MMUST la dotan adecuadamente de habilidades lingüísticas, de observación y técnicas. Florence ha trabajado en VAP Group y como editora en varias casas de medios de criptomonedas.
