ChatGPT finalmente dice ‘David Mayer’ pero falla con 5 nombres en medio de demandas por IA
Shraddha Sharma
2 min de lectura
- ChatGPT ya no se bloquea cuando se le pregunta por «David Mayer».
- La herramienta de OpenAI deja de responder cuando se le preguntan por otros nombres específicos.
- Las demandas judiciales en curso subrayan la necesidad de que las empresas de inteligencia artificial prioricen la privacidad de los datos.
Las herramientas de inteligencia artificial (IA) como ChatGPT de OpenAI pueden realizar varias funciones, pero los usuarios ocasionalmente descubieren errores. Recientemente, surgieron informes de que ChatGPT dejó de funcionar cuando se le preguntó por ciertos nombres, como David Mayer.
La comunidad ahora cuestiona la gestión del modelo de datos sensibles o legalmente complejos. Podemos esperar que las herramientas de IA aborden tiene más las preocupaciones de privacidad en medio de varias demandas.
ChatGPT no revela quién es David Mayer
OpenAI Se informa que ChatGPT dejó de funcionar cuando se le preguntó por nombres específicos el fin de semana pasado. TechCrunch citó a usuarios que informaron una lista de nombres prohibidos, que incluía a “David Mayer”, que hacía que el chatbot se congelara o se bloqueara sin responder.
Cuando Cryptopolitan verificó cómo respondía el chatbox basado en el modelo de lenguaje Generative Pre-trained Transformer (GPT) el martes, los resultados fueron similares pero no exactamente iguales.
Resulta que David Mayer no es tiene más un nombre prohibido. Según ChatGPT-4o, Mayer es un nombre bastante común, aunque, no pudo especificar a la persona. Cuando se le preguntó por el error anterior, ChatGPT lo descartó diciendo:”
¡Veo a qué te refieres! Puede haber habido instancias en las que ocurrieron errores o fallos con el formato, la ortografía o la generación de contenido, pero nada específicamente relacionado con escribir incorrectamente el nombre ‘David Mayer’ de manera consistente.
También recomendó informar las respuestas ‘extrañas e inconsistentes’.
Otros nombres: Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber y Guido Scorza, hicieron que el sistema fallara el fin de semana y nuevamente el martes cuando verificamos.
El informe encuentra que estos nombres pertenecen a figuras públicas o semipúblicas, como periodistas, abogados o personas que pueden haber estado involucradas en disputas de privacidad o legales con OpenAI. Por ejemplo, se informó que el individuo llamado Hood fue mal representado por ChatGPT en el pasado, lo que llevó a discusiones legales con OpenAI.
Las demandas se han acumulado en la IA empresas
TechCrunch sospecha que OpenAI podría ser cauteloso con la lista de nombres para manejar información sensible o legalmente protegida de manera diferente. Podría posiblemente ser para cumplir con las leyes de privacidad o acuerdos legales. Sin embargo, un error de código podría hacer que el chatbot falle cada vez que se busque información sobre los nombres mencionados.
A lo largo de los años, varios casos fueron han sido perseguidos entre empresas de IA por generar información incorrecta o violar la privacidad de los datos marco. En un caso de 2020, Janecyk v. International Business Machines, el fotógrafo Tim Janecyk que demostró que IBM utilizó indebidamente imágenes tomadas por fotógrafos para fines de investigación sin consentimiento. No hace mucho, la IA Gemini de Google enfrentó críticas por sus capacidades de generación de imágenes, lo que llevó a su suspensión temporal. En la demanda colectiva PM v. OpenAI LP presentó en 2023, se acusó a OpenAI de usar “información privada robada” sin consentimiento.
En 2024, la agencia de noticias india ANI presuntamente presentó una demanda contra OpenAI por usar el material con derechos de autor de la empresa de medios para entrenar el LLM.
A medida que las herramientas de IA se integran cada vez más en la vida diaria, incidentes como estos subrayan la importancia de las consideraciones éticas y legales en su desarrollo. Ya sea protegiendo la privacidad, asegurando información precisa o evitando fallos relacionados con datos sensibles, empresas como OpenAI enfrentan la tarea de construir confianza mientras refinan su tecnología. Estos desafíos nos recuerdan que incluso los sistemas de IA más avanzados requieren vigilancia continua para abordar las complejidades técnicas, éticas y legales.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Shraddha Sharma
Sharma cuenta con alrededor de cinco años de experiencia como periodista financiera, con formación académica en banca de inversión y finanzas. Comenzó su carrera en India como pasante de noticias empresariales y productora de video. Descubrió el cripto durante este periodo, pero el confinamiento provocado por la pandemia le dio tiempo para ralentizar su ritmo y comprender mejor esta clase de activos. Sharma ha mostrado gran interés en entender las tecnologías emergentes y cómo influyen en los mercados más amplios.
