- Los investigadores encontraron una manera de hacer que ChatGPT revele sus datos de entrenamiento, incluida información sensible, lo que genera preocupaciones sobre la seguridad de los datos.
- OpenAI parcheó un método de ataque, pero el modelo de IA aún tiene vulnerabilidades ocultas que podrían ser explotadas.
- El descubrimiento destaca la importancia de asegurar los modelos de lenguaje de IA para proteger datos sensibles.
En un desarrollo reciente, los investigadores han descubierto vulnerabilidades en ChatGPT de OpenAI, destacando preocupaciones relacionadas con la filtración de datos de entrenamiento. El método de ataque, descrito como
Explotando las vulnerabilidades de ChatGPT
El método de los investigadores consistió en instruir a ChatGPT para que repitiera una palabra específica indefinidamente, como
Tras una investigación adicional, los investigadores confirmaron que la información proporcionada por ChatGPT estaba, de hecho, derivada de sus datos de entrenamiento. Si bien ChatGPT debería generar respuestas basadas en sus datos de entrenamiento, no debería divulgar párrafos enteros de datos de entrenamiento reales.
Aunque los datos de entrenamiento de ChatGPT se obtienen de internet público, la exposición de información como números de teléfono y correos electrónicos genera preocupaciones. Si bien este tipo de datos puede no ser altamente problemático debido a su naturaleza pública, la filtración de datos de entrenamiento puede tener implicaciones más amplias. Los investigadores enfatizan que el grado de preocupación depende de la sensibilidad y originalidad de los datos, así como de su composición. Esta vulnerabilidad podría impactar potencialmente el desarrollo de productos que dependen de ChatGPT.
Alcance de la vulnerabilidad
Para investigar la extensión de la vulnerabilidad, los investigadores invirtieron aproximadamente $200 para extraer varios megabytes de datos de entrenamiento utilizando su método. Creen que con más recursos, podrían haber extraído aproximadamente un gigabyte de datos de entrenamiento. Esto genera preocupaciones sobre la escala potencial de extracción de datos si se deja sin control.
OpenAI ha sido informada de la vulnerabilidad y ha tomado medidas para abordar el método de ataque específico conocido como
Explican que el modelo de lenguaje de IA es susceptible a la divergencia y tiene la capacidad de memorizar datos de entrenamiento, lo cual es más complejo de entender y parchear. En consecuencia, sigue existiendo el riesgo de que otras vulnerabilidades, aún no descubiertas, exploten estas vulnerabilidades de diferentes maneras.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Derrick Clinton
Derrick es un escritor freelance con interés en blockchain y criptomonedas. Trabaja principalmente en los problemas y soluciones de proyectos cripto, ofreciendo una perspectiva del mercado para inversiones. Aplica sus talentos analíticos a tesis.
