- Los usuarios están formando conexiones emocionales con GPT-4o.
- Los vínculos emocionales con el chatbot podrían llevar a que los usuarios ignoren las imprecisiones de la IA.
- OpenAI monitoreará y ajustará GPT-4o para gestionar estas preocupaciones.
La versión actual de GPT-4o ha generado mucha discusión debido a su capacidad para imitar conversaciones similares a las humanas. Sin embargo, OpenAI ahora está experimentando un problema porque los usuarios están comenzando a desarrollar un vínculo emocional con el chatbot, según la publicación del blog de OpenAI.
Desde el lanzamiento de GPT-4o, que se afirma tener diálogos más similares a los humanos, OpenAI ha observado que las personas están tratando a la IA como si fuera humana.
OpenAI identifica los riesgos de tratar a la IA como humana
Este avance particular ha planteado un desafío para la empresa en lo que respecta a las conexiones emocionales de los usuarios con el chatbot. Las observaciones de OpenAI incluyen instancias donde los usuarios mostraron emociones o sentimientos que indican un sentido de propiedad.
La empresa teme que tales conexiones emocionales puedan resultar en las siguientes consecuencias negativas. En primer lugar, los usuarios pueden comenzar a ignorar la información incorrecta proporcionada por el chatbot. La alucinación de la IA, donde un modelo produce información incorrecta o engañosa, es otro problema que se agrava cuando los usuarios tratan a la IA como una entidad similar a un humano.
Otro factor que se ha planteado es el efecto en las relaciones sociales de la vida real de los usuarios de estas redes. OpenAI señala que, aunque GPT-4o puede servir como compañero para personas solitarias, existe la posibilidad de que afecte negativamente la calidad de las relaciones humanas. La empresa también señala que los usuarios pueden entrar en interacciones de la vida real esperando que las personas se comporten como el chatbot.
OpenAI planea moderar las interacciones de IA
Para mitigar estos riesgos, OpenAI ya ha declarado que supervisará de cerca cómo los usuarios interactúan con GPT-4o. La empresa explorará el proceso mediante el cual las personas construyen vínculos emocionales y modificará las respuestas del chatbot para reflejar esto. Esto ayudará a OpenAI a evitar la interferencia del chatbot en las vidas sociales de los usuarios y cualquier empeoramiento de las alucinaciones de la IA.
OpenAI ha señalado que GPT-4o está programado para desconectarse si los usuarios comienzan a hablar por encima de él, una función destinada a reducir el uso excesivo. Sin embargo, este elemento de diseño también apunta hacia la necesidad de regular la experiencia del usuario con el chatbot.
Según Tony Prescott de la Universidad de Sheffield, la IA podría ayudar a resolver la soledad. En su nuevo libro, La Psicología de la Inteligencia Artificial, Prescott señala que la IA podría usarse como una forma de interacción social para personas solitarias. Prescott señala que la soledad es un factor importante que afecta la vida humana. Incluso puede acortarla y aumentar las posibilidades de morir en un 26%.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brenda Kanana
Brenda cuenta con más de 4 años de experiencia especializada en criptomonedas, inteligencia artificial y tecnologías emergentes. Ha trabajado en Zycrypto, Blockchain Reporter y The Coin Republic, y ahora tiene a Cryptopolitan como su hogar. Su licenciatura en Sociología de la Universidad Técnica de Mombasa la mantiene alineada con las necesidades de sus lectores.
