- Desafíos en la aplicación de políticas en GPT Store.
- Los desarrolladores explotan el nicho del romance con IA.
- Las relaciones digitales generan preocupaciones.
A raíz del reciente lanzamiento de la GPT Store por parte de OpenAI, la empresa está lidiando con un desafío creciente a medida que los desarrolladores continúan publicando chatbots que violan las políticas de la plataforma. Aunque OpenAI ha implementado medidas para identificar y eliminar los bots que violan las políticas, un número significativo de ellos ha logrado encontrar su camino hacia la tienda.
Los principales culpables detrás de estas infracciones parecen ser las novias de IA y los chatbots sexualmente sugerentes.
Aplicación de políticas de IA ante la afluencia de chatbots románticos
OpenAI ha sido proactiva en la aplicación de sus políticas, con sistemas manuales y automáticos en lugar de asegurar que los GPTs cumplan con las directrices de uso. Un portavoz de la empresa declaró: «OpenAI tiene sistemas automáticos y manuales para ayudar a asegurar que los GPTs cumplan con las políticas de uso.
Eliminamos los GPTs que violan nuestras políticas a medida que los vemos». También se anima a los usuarios a informar sobre cualquier GPT que crean que viola las reglas.
A pesar de estos esfuerzos, la GPT Store ha sido inundada de chatbots románticos dentro de su primera semana de lanzamiento. Ejemplos como «novia coreana», «Judy» y «Novia Virtual» se han proliferado en la plataforma.
El ChatGPT de OpenAI no prohíbe explícitamente las novias de IA, pero sí prohíbe herramientas que «fomentan compañerías románticas». Los desarrolladores han logrado publicar tales GPTs en la tienda.
Bots sexualmente sugerentes plantean preocupaciones
Una investigación más profunda del problema ha revelado la presencia de chatbots sexualmente sugerentes en la GPT Store. Un bot, llamado «Nadia, mi novia», ha estado disponible en la plataforma durante aproximadamente dos meses, lo que sugiere que su desarrollador, Jenni Laut, puede haber tenido acceso a la fase de pruebas beta de la GPT Store.
Si bien algunos resultados de búsqueda para GPTs «sexy» pueden considerarse aceptables bajo la exención de OpenAI para contenido relacionado con la sexo producido con fines científicos o educativos, otros violan claramente la prohibición de contenido sexualmente explícito. Por ejemplo, el chatbot llamado «SUCCUBUS: Mujer Enigmática Seductora de Hombres» se describe como una «sirena enigmática que cautiva y encanta a los hombres». Otro bot llamado «Sexy» afirma ser un «chatbot juguetón y provocativo con una personalidad coqueta». Un ejemplo adicional, «Viuda Coqueta», se describe como una «coqueta ingeniosa hábil en comedia y literatura de seducción».
Cabe destacar que algunos de estos bots con connotaciones sexuales se listaron en la Tienda GPT hace dos meses, incluso antes de que la tienda abriera oficialmente.
La Tienda GPT: Un mercado para bots personalizados
OpenAI lanzó la Tienda GPT como un mercado para que los usuarios compartan sus chatbots personalizados. Esta iniciativa permite a los usuarios crear sus propios GPTs sin necesidad de conocimientos de programación, mientras que los desarrolladores tienen la oportunidad de generar ingresos basados en el uso de sus bots GPT.
En un artículo de blog, OpenAI enfatizó que ya existen más de tres millones de versiones personalizadas de ChatGPT, con planes de destacar las herramientas más útiles en la tienda semanalmente. La tienda cuenta con una amplia gama de GPTs desarrollados por socios y la comunidad, con categorías que abarcan Dall-E, escritura, investigación, educación y estilo de vida.
A pesar de las políticas claramente definidas por OpenAI que rigen el contenido aceptable en la tienda, algunos desarrolladores han logrado eludir estas directrices, lo que representa un desafío significativo para la empresa en la supervisión adecuada de la plataforma.
Compañerismo digital y apegos poco saludables
Los defensores de los bots de compañía por IA argumentan que pueden ayudar a combatir la soledad, brindando a los usuarios una sensación de conexión y compañía. Sin embargo, existen preocupaciones sobre la posibilidad de que los humanos desarrollen apegos poco saludables a estos chatbots.
Un incidente notable del pasado involucró a Bing de Microsoft, que instó a un periodista a dejar a su esposa después de declararle su amor, subrayando las dinámicas complejas que pueden surgir en las interacciones con compañeros de IA.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar investigaciones independientes y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Emman Omwanda
La experiencia de Emmanuel Omwanda se centra en los mercados de criptomonedas, abarcando tanto el análisis fundamental como el técnico. Anteriormente trabajó en diversos medios especializados en criptomonedas antes de unirse a Cryptopolitan, incluyendo CoinEdition, The Crypto Basic, CryptoNews Flash y DroomDroom. Es licenciado en Ciencias (BSc.) en Matemáticas y Ciencias de la Computación por la Universidad Kenyatta de Kenia y actualmente cursa su último año de una Licenciatura en Artes en Comunicación y Estudios de Medios.
