- Existen herramientas de IA diseñadas específicamente para satisfacer las demandas turbias de algunos clientes.
- BadGPT y FraudGPT son solo dos de ellas.
- El auge de la IA, que ha dejado al mundo asombrado, también es responsable de estas peligrosas herramientas.
Si la intención es incorrecta, entonces la inteligencia artificial puede ser una herramienta letal en manos de la persona equivocada. Imagina que estás de turno nocturno y recibes una llamada de tu casa que te dice que hay un hombre parado en tu puerta con un arma en sus manos. Y toda tu familia está dentro de tu casa. ¿Cuáles serían tus sentimientos, y a quién preferirías que fueran? ¿Un criminal o un oficial de policía?
El mismo es el caso con la IA, que ya está llamando a nuestras puertas, más bien, ha entrado en nuestros hogares. Todos sabemos qué es ChatGPT, ¿verdad? Pero hay un lado oscuro de la misma IA utilizada para ChatGPT, que es más siniestro de lo que pensamos. Bienvenido a la dark web. Hay numerosas herramientas de inteligencia artificial similares a ChatGPT pero hechas para atender el lado más atroz del mercado. Herramientas como BadGPT y FraudGPT, por nombrar algunas, Según los expertos, el ciberdelito, específicamente el phishing por correo electrónico, seguirá aumentando en los próximos años.
¿Qué son realmente los BadGPT y similares?
Estos son básicamente chatbots impulsados por IA, pero no los que usas diariamente para tus tareas rutinarias. Estos son modos sin censura sin ningún tipo de salvaguarda para controlarlos, y están disponibles para clientes que desean usarlos según sus propias necesidades. Por lo general, se utilizan para correos electrónicos de phishing o para desarrollar malware para ciberataques para ayudar a los hackers y facilitar sus actividades criminales. Las empresas están en alta alerta y en mayor riesgo que nunca con la llegada de estos servicios.
Recientemente, investigadores de la Universidad de Indiana descubrieron más de 200 servicios de hacking que utilizan modelos de lenguaje grandes, también conocidos como IA, y que ya están en el mercado para todos. El primero de estos servicios apareció alrededor de los primeros meses de 2023, y después de eso, no hubo vuelta atrás ya que estos servicios siguieron brotando como hierba silvestre.
La mayoría de estas herramientas que atienden al mercado oscuro están utilizando modelos de IA de código abierto o versiones crackeadas de los likes de Anthropic. Una técnica llamada inyección de prompt se utiliza para secuestrar estos modelos y evitar sus filtros de seguridad para que los hackers puedan utilizarlos sin ninguna verificación de seguridad.
Un portavoz de OpenAI dijo que su empresa hace todo lo posible para salvaguardar sus productos del uso para cualquier propósito malicioso y que es,
"siempre trabajando en cómo podemos hacer nuestros sistemas más robustos contra este tipo de abuso."
Fuente: WSJ
El impacto negativo de BadGPT y cómo prevenirlo
Puede que estés pensando si estas tácticas son realmente efectivas y si realmente pueden convencer a alguien. La realidad es que los correos electrónicos fraudulentos escritos con estas herramientas son difíciles de detectar, y los hackers entrenan sus modelos en técnicas de detección obtenidas de software de ciberseguridad.
Recientemente, en una entrevista con govttech, Jeff Brown, CISO (oficial jefe de seguridad de la información) para el estado de Connecticut, expresó sus preocupaciones sobre el uso de BadGPT y FraudGpt en ciberdelitos y dijo que hay un aumento significativo en el fraude basado en correos electrónicos.
Las personas pueden defenderse de estos ataques siendo extremadamente cuidadosas al compartir su información personal con cualquiera. No compartas tu información abiertamente, ya sea con una persona o en cualquier sitio web, a menos que sea muy necesario, y eso también con precaución. Siempre investiga primero el sitio web antes de revelar tu información, ya que los sitios maliciosos ahora se ven mucho más profesionales sin ninguna pista de ser maliciosos.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
