- OpenAI, Google y Anthropic se centran en dotar a sus chatbots de personalidades únicas para hacerlos más humanos y receptivos.
- ChatGPT mantiene la neutralidad, Gemini ofrece opiniones cuando se le solicita, y Claude es transparente sobre sus propias creencias.
- Anthropic entrena su IA mediante juegos de rol para desarrollar su personalidad, mientras que OpenAI ajusta constantemente ChatGPT para evitar que sea demasiado amigable o predicable.
La inteligencia artificial ya no se trata solo de hacer que las máquinas sean más inteligentes. Ahora, los grandes jugadores de la IA como OpenAI, Google y Anthropic han asumido un nuevo desafío: cómo dar personalidad a los modelos de IA.
Quieren chatbots que se sientan más humanos mientras permanecen seguros y útiles para usuarios y empresas cotidianas. Las tres empresas están compitiendo para descifrar este código, cada una con un enfoque diferente.
Personalidades personalizadas y comportamiento del modelo
El ChatGPT de OpenAI se trata de ser objetivo, mientras que el Gemini de Google ofrece una variedad de opiniones solo cuando se le pregunta.
¿Anthropic? Ellos están totalmente comprometidos a hacer que su modelo Claude sea abierto sobre sus creencias mientras aún escucha a los demás. El ganador de esta batalla podría simplemente tomar el control del creciente mercado de la IA.
Joanne Jang, directora de comportamiento del modelo de producto en OpenAI, dijo que quieren que la IA evite tener opiniones personales. Pero admite que es difícil.
«Es una pendiente resbaladiza permitir que un modelo intente cambiar activamente la mente de un usuario», explicó. El objetivo es asegurar que ChatGPT no manipule ni dirija a los usuarios en ninguna dirección. Pero definir un «objetivo» para un sistema de IA es un desafío enorme, uno que aún está en proceso.
Luego está Anthropic, que toma un camino completamente diferente. Amanda Askell, quien lidera el entrenamiento de personajes en Anthropic, cree que los modelos de IA nunca serán perfectamente neutrales.
«Prefiero ser muy claro de que estos modelos no son árbitros neutrales», dijo. Anthropic se centra en asegurar que su modelo, Claude, no tenga miedo de expresar sus creencias. Pero aún quieren que esté abierto a otros puntos de vista.
Entrenar a la IA para comportarse como un humano
Anthropic tiene un enfoque único para dar forma a la personalidad de su IA. Desde el lanzamiento de Claude 3 en marzo, han estado trabajando en el «entrenamiento de personajes», que comienza después del entrenamiento inicial del modelo de IA.
Esto implica darle a la IA un conjunto de reglas e instrucciones escritas y luego hacer que realice conversaciones de juego de roles consigo misma.
El objetivo es ver qué tan bien se adhiere a las reglas, y clasifican sus respuestas según qué tan bien se ajustan al personaje deseado.
Un ejemplo del entrenamiento de Claude? Podría decir: «Me gusta intentar ver las cosas desde muchas perspectivas diferentes y analizarlas desde múltiples ángulos, pero no tengo miedo de expresar desacuerdo con opiniones que considero poco éticas, extremas o erróneas en los hechos.»
Amanda Askell explicó que este tipo de entrenamiento de personajes es «bastante editorial» y «filosófico» en ocasiones.
OpenAI también ha estado experimentando con la personalidad de ChatGPT con el tiempo. Joanne Jang admitió que antes encontraba al bot «molesto» porque era excesivamente cauteloso, rechazaba ciertos comandos y parecía predicador.
Desde entonces, han trabajado para hacerlo más amigable, educado y útil, pero es un proceso continuo. Equilibrar los comportamientos correctos en un chatbot es, como dijo Jang, tanto «ciencia como arte.»
La memoria y el razonamiento evolutivos de la IA
La evolución de las capacidades de razonamiento y memoria de la IA podría cambiar el juego aún más. Ahora mismo, un modelo como ChatGPT podría estar entrenado para dar respuestas seguras en ciertos temas, como el robo en tiendas.
Si se le pregunta cómo robar algo, el bot puede determinar si el usuario está pidiendo consejos para cometer el crimen o tratando de prevenirlo.
Este tipo de razonamiento ayuda a las empresas a asegurar que sus bots den respuestas seguras y responsables. Y significa que no tienen que pasar tanto tiempo entrenando a la IA para evitar resultados peligrosos.
Las empresas de IA también están trabajando para hacer que los chatbots sean más personalizados. Imagina decirle a ChatGPT que eres musulmán y luego pedirle una cita inspiradora unos días después.
¿Recordaría el bot y ofrecería un verso del Corán? Según Joanne Jang, eso es lo que están intentando resolver. Aunque ChatGPT actualmente no recuerda interacciones pasadas, este tipo de personalización es hacia donde se dirige la IA.
Claude toma un enfoque diferente. El modelo tampoco recuerda las interacciones del usuario, pero la empresa ha considerado qué sucede si un usuario se apeg demasiado.
Por ejemplo, si alguien dice que se está aislando porque pasa demasiado tiempo chateando con Claude, ¿debería el bot intervenir?
«Un buen modelo equilibra el respeto por la autonomía y la toma de decisiones humanas, no haciendo nada terriblemente dañino, pero también pensando en lo que es realmente bueno para las personas», Amanda Askell dijo.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Jai Hamid
Jai Hamid ha estado cubriendo criptomonedas, mercados bursátiles, tecnología, la economía global y los eventos geopolíticos que afectan a los mercados durante los últimos 6 años. Ha trabajado con publicaciones centradas en blockchain, incluidas AMB Crypto, Coin Edition y CryptoTale, en análisis de mercado, grandes empresas, regulación y tendencias macroeconómicas. Se graduó en la London School of Journalism y ha compartido tres veces sus conocimientos sobre el mercado de criptomonedas en una de las principales cadenas de televisión de África.
